Искусственному интеллекту нельзя пока доверять по простой причине: он еще не появился. Сейчас искусственным интеллектом мы называем алгоритмы машинного обучения. Если же рассматривать вопросы доверия к алгоритмам машинного обучения, то ответ сильно зависит от совершенства технологий в конкретной отрасли и последствий возможной ошибки, рассказал агентству "Прайм" руководитель центра компетенций Big Data компании "Рексофт" Сергей Назаренко.
"Мы достаточно легко доверяем ИИ в вопросах обработки фото для Instagram или интеллектуальным фильтрам в Photoshop. Никого не пугает передвижение на автомобилях с АБС и ESP — и они нам чаще всего помогают справляться с трудными ситуациями на дороге. В автомобильных помощниках редко используется ИИ, но задействованы достаточно сложные алгоритмы обработки сигналов с датчиков", — добавил эксперт. Первичное решение о выдаче кредита и его условия также довольно часто принимает ИИ.
"Однако пока мы не готовы к тому, что ИИ начнет ставить нам медицинский диагноз, управлять атомной электростанцией или нашим автомобилем", — указал Назаренко.
По его словам, смещенная выборка (bias) влияет на людей, которые пользуются системами ИИ, и мы ничего не можем с этим сделать. "Наша планета заселена неравномерно, доходы и деловая активность также распределены неравномерно. Все эти факторы несомненно влияют на людей: их образ жизни, предпочтения и привычки", — говорит эксперт.
ИИ приходится учитывать много объективных различий окружающей действительности в своей работе, но гиперперсонализация несет за собой риски формирования локальных "пузырей" вокруг индивида, его отрыва от социума и искажение окружающей действительности.
Например, все ваши новые друзья в Facebook на 100% разделяют ваши взгляды, а в рекомендациях товаров появляется только то, что вам действительно нужно, нравится и вы можете себе это позволить.
"Другая часть реальности становится для вас, как темная стороны Луны, которую вы не можете увидеть без существенных усилий", — подытожил эксперт.
Источник 1prime.ru