Миллиардер Билл Гейтс в интервью Meet the Press заявил, что в области искусственного интеллекта требуется государственное регулирование. По его мнению, эта технология обладает достаточной мощью, чтобы ее использование со злым умыслом повлекло за собой гибель миллиарда человек. В свете столь зловещего предупреждения о возможных последствиях применения ИИ Вашингтон и ИИ-отрасль теперь обдумывают свои дальнейшие шаги.
Фото: Bryan Bedder / Getty Images for Bloomberg Philanthropies
В конце сентября NBC News опубликовал фрагмент интервью Гейтса с Meet the Press, в котором миллиардер и филантроп отвечает на вопрос, может ли ИИ уничтожить человечество. «ИИ, безусловно, обладает достаточной мощью, чтобы запустить события, из-за которых может погибнуть миллиард человек», — ответил Гейтс, отметив, что «никогда не существовало оружия столь мощного, как сочетание злоумышленников и новейших ИИ-инструментов»,сообщает forbes.ru.
Гейтсу также задали вопросы о недавно вышедшей статье Дарио Амодеи, генерального директора Anthropic, в которой тот призывает снизить темпы развития ИИ и настаивает, что передовые лаборатории должны замедлить свою работу и «на добровольных основаниях объединиться для регулирования» сферы искусственного интеллекта.
«Никто не считает, что саморегулирования достаточно», — отвечает Гейтс на вопрос о том, возможно ли, что компании в сфере ИИ действительно ограничат свою деятельность, и добавляет, что законы для регуляции ИИ «совершенно» необходимы и что «правоохранительные органы и политики должны подключиться к обсуждению и совместно определить необходимые меры для защиты и контроля».
В своей статье Амодеи тоже призывал правительство принять участие в решении связанных с ИИ вопросов, хотя и отмечал: «К сожалению, принятие законов может занять время, а ИИ развивается невероятно быстро». Пока неясно, что именно предпримет федеральное правительство в отношении регулирования ИИ: заседающие в Конгрессе республиканцы считают эту проблему не слишком серьезной, поскольку президент Дональд Трамп резко выступил против ограничений в сфере ИИ и назвал призывы к ее регулированию «враньем».
Как сообщают различные СМИ, Гейтс сделал свое заявление в преддверии запланированной встречи Трампа с Майком Джонсоном — спикером Палаты представителей, республиканцем от штата Луизиана, и руководителями компаний в сфере ИИ. Ранее Джонсон заявлял, что Трамп и главы компаний в сфере ИИ должны «зайти в конференц-зал, закрыть за собой дверь и разобраться с этим делом». На прошлой неделе он сообщил журналистам, что планируется «обстоятельная беседа об ответственности компаний за обеспечение безопасности и роли правительства (если она есть)». Участие в ней, по данным Reuters, должны принять глава Meta (признана экстремистской и запрещена в России) Марк Цукерберг, генеральный директор Anthropic Дарио Амодеи, глава Nvidia Дженсен Хуанг и президент OpenAI Грег Брокман. Среди других возможных участников агентство называло также главу Google Сундара Пинчаи и руководителя xAI Илона Маска.
По результатам встречи, которая прошла в Белом доме 29 сентября, Пинчаи, Амодеи, Цукерберг, Брокман, а также Маск и Хуанг договорились создать независимые комитеты при советах директоров для контроля за безопасностью передовых ИИ-моделей. Подписанное руководителями технологических компаний и президентом США Дональдом Трампом соглашение опубликовано в Truth Social на странице американского лидера.
Помимо других мер предосторожности, компании договорились внедрить четыре уровня контроля и аудита:
- создать внутренние механизмы для мониторинга возможностей и соответствия моделей требованиям безопасности в таких областях, как кибербезопасность, биологические и химические угрозы, а также контролировать, чтобы модели не взламывали технические системы и не получали к ним непредусмотренный доступ;
- наделить полномочиями внутреннюю команду, которая будет следить за работой механизмов контроля, мониторинга и обнаружения проблем и обеспечивать их устранение;
- привлекать независимого внешнего аудитора или оценщика для проверки работы механизмов контроля, мониторинга и обнаружения;
- создать независимый комитет при совете директоров для надзора за этими командами и получения отчетов от внутренних и внешних аудиторов и оценщиков, а также контроля за устранением выявленных проблем.
Несмотря на то, что Джон Тьюн — лидер большинства в Сенате США, республиканец от штата Южная Дакота — давно призывает урегулировать эту отрасль и еще в 2023 году представил на рассмотрение соответствующий законопроект, недавно он дал ясно понять, что не планирует настаивать на приоритетном рассмотрении этого вопроса.
Так, в середине сентября Тьюн сообщил журналистам, что «вероятно, предстоит обсудить», примет ли палата закон об ИИ до конца года, отметив: «Добиться чего-либо в ближайшей перспективе непросто, учитывая все, с чем нам надо разобраться». Однако лидер большинства в Сенате, похоже, все же обдумывает этот вопрос: 24 сентября он рассказал Axios, что сенатор Эми Клобушар (демократ от штата Миннесота), выступившая соавтором предыдущего законопроекта Тьюна об ИИ, пытается заручиться дополнительной поддержкой демократов перед повторным внесением законопроекта в Конгресс.
Судя по описанию законопроекта, предложенного в 2023 году, он включал различные требования, например, об обязательной сертификации для критически важных систем ИИ, прозрачности созданного с помощью генеративного ИИ контента, обязательной оценке компаниями сопряженных с ИИ рисков и проведении дополнительных государственных изысканий с целью распознавания ИИ-контента, а также необходимые защитные мероприятия. Неясно, сможет ли этот или любой другой законопроект пройти слушания в Конгрессе и не отклонит ли его Трамп. При этом Тьюн сообщил Axios, что, по его мнению, президент допускает необходимость внедрения таких ограничений больше, чем демонстрирует на публике.
Дебаты о безопасности и регулировании в области ИИ резко обострились в последние недели после того, как бывший исследователь Anthropic Джейкоб Коксон 9 сентября публично объявил о своем уходе из компании и заявил (впрочем, не предоставив доказательств): «Люди, работающие над созданием ИИ, искренне уверены, что уже к концу этого десятилетия он может нас всех убить».
Эван Хубингер, руководитель исследований в области согласования целей в Anthropic, поддержал Коксона, письменно заявив, что тот «прав» и что руководители в сфере ИИ «действительно верят, что ИИ способен уничтожить человечество!» По мнению Хубингера, существует более чем 10-процентная вероятность, что ИИ уничтожит человечество «в течение следующих 10 лет». Также он предупреждает, что Anthropic «пока не придумала, как решить проблему согласования целей для сверхинтеллекта, и не знает, по верному ли пути идет». Предупреждение Хубингера усугубило и без того негативное отношение общества к ИИ: люди начали требовать внедрить какие-либо меры для регулирования отрасли.
На волне возмущения Google, Anthropic и OpenAI начали планировать создание группы по обеспечению безопасности ИИ. Альтман и Амодеи в ходе недавней встречи в ООН заявили о необходимости международного сотрудничества и разработки глобальных стандартов в области ИИ. Более того, Амодеи настаивал, что решения по этой технологии «должны формироваться в рамках демократических процедур правительствами, которые отчитываются перед своими гражданами».
Автор Элисон Дерки
Источник forbes.ru