Илья Суцкевер, один из соучредителей OpenAI, основал новую компанию Safe Superintelligence Inc. (SSI) всего через месяц после того, как официально покинул OpenAI, сообщает psm7.com.
Фото: freepik.com
Суцкевер, долгое время являвшийся главным научным сотрудником OpenAI, основал SSI вместе с бывшим партнером по Y Combinator Дэниелом Гроссом и бывшим инженером OpenAI Дэниелом Леви.
В OpenAI Суцкевер был неотъемлемой частью усилий компании, направленных на повышение безопасности ИИ с появлением «суперинтеллектуальных» ИИ-систем, над которыми он работал вместе с Яном Лейке, возглавлявшим команду Superalignment в OpenAI. Однако и Суцкевер, и Лейке покинули компанию в мае после драматической ссоры с руководством OpenAI по поводу того, как подходить к безопасности ИИ. Сейчас Лейке возглавляет команду в конкурирующей компании Anthropic.
Суцкевер давно проливает свет на сложные аспекты безопасности ИИ. В своем блоге, опубликованном в 2023 году, Суцкевер в соавторстве с Лейке предположил, что ИИ с превосходящим человеческий интеллектом может появиться в течение десятилетия, и что когда это произойдет, он не обязательно будет доброжелательным, что обусловит необходимость исследования способов его контроля и ограничения
Автор Ольга Деркач
Источник psm7.com