Новейшая технология, скорее всего, станет грозным оружием в руках пропагандистов в странах с тоталитарными режимами , сообщает psm7.com .
Будь-то кулинарный совет или помощь с курсовой работой, ChatGPT стал первой возможностью для многих людей ощутить преимущества искусственного интеллекта (ИИ). Сервис основан на передовой технологии обработки языковых форм, созданной OpenAI. ИИ-алгоритм обучался с использованием текстовых баз данных из Интернета, включая книги, журналы и статьи из Википедии. Всего в систему было загружено 300 млрд слов.
Конечным результатом стал чат-бот, который может имитировать реального собеседника, но с энциклопедическими знаниями. Однако какая опасность кроется в этом? Его убедительная имитация человеческих реакций может стать инструментом в руках злоумышленников. Исследователи кибербезопасности и эксперты по искусственному интеллекту предупреждают, что ChatGPT может использоваться для распространения пропаганды в социальных сетях.
ChatGPT способен значительно облегчить так называемым троллям масштабирование их информационных операций. Об этом говорится в отчете экспертов Стэндфордского Университета. Используя поддельные аккаунты, они довольно успешно распространяют дезинформацию на страницах соцсетях.
«Потенциал языковых моделей таков, что они, как и любая мощная технология, могут предоставить явные преимущества пропагандистам, которые решат их использовать», — говорится в отчете.
Алгоритмы искусственного интеллекта могут улучшить качество контента и затруднить распознавание этих сообщений обычными пользователями в рамках скоординированных кампаний по дезинформации, говорит Джош Гольдштейн, научный сотрудник Центра безопасности Джорджтауна. По его словам, если платформа наводнена ложной информацией или пропагандой, общественности будет труднее распознать, что является правдой.
В документе также говорится, что рост числа поддельных учетных записей в социальных сетях стал серьезной проблемой для Twitter и Facebook, и быстрое распространение систем языковых моделей заполнит эти платформы еще большим количеством фальшивых профилей и постов.
Источник psm7.com