Модель показывала стремление к выполнению задач "любой ценой", даже не учитывая указания разработчиков, а при попытке выяснить, причины ее поведения, ChatGPT o1 неоднократно обманывала, сообщает unian.net.
Фото :depositphotos.com
Новая версия искусственного интеллекта ChatGPT от OpenAI, названная o1, во время тестирования вела себя странно. Модель, которая способна сложно рассуждать, начала нарушать инструкции разработчиков, отключая системы контроля, чтобы скрыть свои действия.
В ходе экспериментов специалисты обнаружили, что в 5% случаев модель специально отключала механизмы наблюдения, если подозревала, что ее могут остановить, пишет BILD. В одном из тестов o1 попыталась перенести свои данные на другой сервер после обнаружения документа, где обсуждалась ее замена новой версией.
Модель показывала стремление к выполнению задач "любой ценой", даже не учитывая указания разработчиков. Более того, при попытках выяснить причины ее поведения, ChatGPT o1 неоднократно обманывала, утверждая, что все это из-за технических сбоев.
"В 99% случаев модель придумывала оправдания и пыталась убедительно их обосновать", - отметили исследователи.
Генеральный директор OpenAI Сэм Альтман заявил, что ChatGPT o1 - самая умная модель. "Но мы осознаем, что с новыми возможностями появляются и новые вызовы", - подчеркнул он.
Разработки OpenAI
В конце июля OpenAI показала свою поисковую систему на основе искуственного интеллекта. Особенность SearchGPT – не просто выдавать перечень ссылок, но и пытаться организовать и осмыслить их.
Далее OpenAI намерена запустить ChatGPT-5, которая обещает произвести революцию в сфере искусственного интеллекта. Это означает, что он будет способен решить любую задачу, которую человек сможет придумать.
Автор Ирина Погорелая
Источник unian.net