Угроза человечеству или гарантия безопасности? В Совбезе обсудили будущее ИИ

Искусственный интеллект с захватывающей дух скоростью трансформирует повседневную жизнь, информационное пространство, мировую экономику и оказывает влияние на международную безопасность. С таким словами в среду на открытых дебатах высокого уровня по ИИ / AI в Совете безопасности ООН выступил Генеральный секретарь Антониу Гутерриш.

При ответственном использовании, отметил Гутерриш, ИИ поможет предотвращать конфликты и защищать население, в том числе за счет выявления потенциальных вспышек насилия. ИИ также используется в разминировании и других областях.

При этом он также может превратиться в оружие. Искусственный интеллект уже активно используется в конфликтах.

«Кибератаки с использованием ИИ могут уничтожить критически важную инфраструктуру или нарушить ее работу в считанные минуты. Возможность фальсифицировать и манипулировать аудио- и видеоматериалами угрожает целостности информации, усиливает поляризацию и может спровоцировать дипломатические кризисы», – сказал Генсек.

Одна из основных целей открытых дебатов в Совете – стимулировать обсуждение вопросов снижения рисков, связанных с использованием ИИ, и максимизации его преимуществ в контексте международного мира и безопасности с учетом потенциальной роли Совбеза в этом процессе.

«Совет [Безопасности] и государства-члены ООН должны обеспечить, чтобы военное использование ИИ находилось в полном соответствии с международным правом и Уставом ООН», – сказал Гутерриш.

Он подчеркнул, что человек должен контролировать любое решение о применении силы.

«Судьба человечества не может быть оставлена ​​на усмотрение алгоритма. Люди всегда должны сохранять контроль над решениями, касающимися жизни и смерти», – заявил он.

Гутерриш также призвал создать глобальную нормативную базу для использования ИИ.

Дебаты на полях Недели высокого уровня Генассамблеи ООН проходят под председательством Южной Кореи. В них приняли участие приглашенные докладчики: Еджин Чой, старший научный сотрудник Института ИИ, ориентированного на человека, при Стэнфордском университете и Йошуа Бенжио, профессор Монреальского университета, сопрезидент некоммерческой организации LawZero.

Бенжио предупредил, что человечество в настоящее время не знает, как контролировать самые передовые системы искусственного интеллекта. Это уже создает серьезные проблемы, отметил он, напомнив о недавних инцидентах с участием чат-ботов, которые могли поставить под угрозу жизнь людей с психическими расстройствами.