Компания присоединилась к попыткам борьбы с дезинформацией, сообщает inbusiness.kz со ссылкой на ВВС.
Подразделение искусственного интеллекта Google DeepMind сейчас тестирует SynthID, который будет идентифицировать изображения, сгенерированные машинами .
Он работает, встраивая изменения в отдельные пиксели в изображения, поэтому водяные знаки невидимы для человеческого глаза, но обнаруживаются компьютерами.
DeepMind заявила, что разработка не является "надежной защитой от экстремальных манипуляций с изображениями". По мере развития технологии становится все сложнее отличить реальные изображения от искусственно сгенерированных. У Google есть собственный генератор изображений под названием Imagen, и его система создания и проверки водяных знаков будет применяться только к изображениям, созданным с помощью этого инструмента.
В июле Google была одной из семи ведущих компаний в области искусственного интеллекта, подписавших добровольное соглашение в США для обеспечения безопасной разработки и использования ИИ, которое включало в себя обеспечение того, чтобы люди могли обнаруживать компьютерные изображения путем внедрения водяных знаков. Microsoft и Amazon входят в число крупных технологических компаний, которые, как и Google, обязались ставить водяные знаки на некоторый контент, созданный искусственным интеллектом.
Помимо изображений, Meta опубликовала исследовательскую работу для своего невыпущенного видеогенератора Make-A-Video, в которой говорится, что водяные знаки будут добавляться к сгенерированным видео, чтобы удовлетворить аналогичные требования к прозрачности работ, созданных искусственным интеллектом.
В начале этого года Китай полностью запретил изображения, созданные искусственным интеллектом, без водяных знаков, а такие фирмы, как Alibaba, применяли их к творениям, созданным с помощью инструмента преобразования текста в изображение своего облачного подразделения Tongyi Wanxiang.
Источник inbusiness.kz