Причина, по которой новый консультативный орган не проработал и двух недель, — в подборе участников. Присутствие некоторых из них в совете сотрудники компании и сторонние наблюдатели сочли спорным

Google распустил недавно созданный Внешний консультативный совет по передовым технологиям (ATEAC), который должен был рассматривать этические вопросы, связанные с развитием искусственного интеллекта (ИИ) и других новых технологий. Причина — критика как со стороны сотрудников компании, так и от сторонних наблюдателей в адрес кандидатур экспертов, вошедших в совет. Представители Google заявили, что «начнут всё с чистого листа» и попытаются другими способами собрать мнение людей по вопросу разработки и использования инновационных ИИ-технологий.

С самого момента создания на Внешний консультативный совет по передовым технологиям, в состав которого вошло восемь человек, обрушился шквал критики. По мере развития технологий искусственного интеллекта вопрос этики в данной области становится все более важным, ведь ИИ уже применяется при подборе персонала и проверке соискателей, а также в системах наблюдения. Тем не менее как сотрудники Google, так и сторонние эксперты выступили против кандидатур некоторых членов совета.

1 апреля сотрудники Google создали //medium.com/@against.transphobia/googlers-against-transphobia-and-hate-b1b0a5dbf76?fbclid=IwAR0Nd6ObNE8kEMlo0yrQ96vNyhD9Hq_wujRltse6qh-HW_FmBKPfXnXy9mU" style="margin: 0px; padding: 0px; box-sizing: border-box; color: rgb(38, 83, 154);">петицию, требующую отстранения от работы совета Кей Коулс Джеймс, главы консервативного стратегического исследовательского института The Heritage Foundation, в связи с ее резкими высказываниями об ЛГБТ-сообществе и иммигрантах. Более 2350 сотрудников Google подписали петицию. Кроме того, петицию подписали еще около 300 человек, среди которых были эксперты в области разработки ИИ и представители организаций, занимающихся вопросами использования ИИ, например движения под названием Лига алгоритмической справедливости (AJL).

В петиции сотрудники Google обвинили руководство компании в том, что оно встало на защиту Джеймс. По мнению руководства Google, присутствие Кей Коулс Джеймс в совете обеспечивало «плюрализм мнений». Авторы петиции считают, что на деле ее включение в совет «значительно подрывает позиции Google в отношении вопросов этики и равноправия в области ИИ», поскольку при поборе персонала представители меньшинств, например члены ЛГБТ-сообщества или иммигранты, подвержены большему риску дискриминации или исключения из списка потенциальных кандидатов со стороны ИИ-систем.

Петиция была создана после того, как профессор по информационным технологиям и государственной политике Алессандро Акисти добровольно ушел в отставку 30 марта. Он заявил, что больше не считает ATEAC «подходящим форумом» для себя. 3 апреля еще один член совета, профессор Лучано Флориди, занимающийся вопросами цифровой этики, написал на своей странице в Facebook, что рекомендует руководству Google исключить Кей Коулс Джеймс из совета. При этом он сам не планировал уходить в отставку.

 Внимательному изучению подвергли также и кандидатуру Дайан Гиббенс, CEO стартапа Trumbull Unmanned, занимающегося производством дронов. Ранее компания Trumbull Unmanned разрабатывала БПЛА для Вооруженных сил США. Пристальное внимание к кандидатуре Дайан Гиббенс было связано с прошлогодним решением Google не продлевать спорный контракт с Пентагоном, по которому компания должна была создать ИИ-систему для анализа видеозаписей с военных беспилотников. Тогда тысячи сотрудников американского IT-гиганта выступили против вовлечения Google в «военный бизнес».

В итоге 4 апреля руководство Google заявило о роспуске ATEAC. «Стало ясно, что в нынешних условиях совет не может работать так, как мы хотели. Поэтому мы распускаем совет и начинаем все с чистого листа», — сообщил Forbes официальный представитель компании. По его словам, Google и далее будет ответственно подходить к решению важных вопросов, связанных с технологиями искусственного интеллекта. Представитель компании добавил, что Google будет искать другие способы сбора мнения сторонних наблюдателей в отношении использования ИИ.

В 2019 году руководство Google планировало четыре раза встретиться с членами Внешнего консультативного совета по передовым технологиям. Впоследствии компания должна была опубликовать отчет, подводящий итоги дискуссий.

В Twitter создатели петиции против Кей Коулс Джеймс поблагодарилиподдержавших движение за «нежелание мириться с ненавистью».

Но не только руководство Google на прошлой неделе призвали изменить политику по вопросам этики в области ИИ. 3 апреля группа экспертов по технологиям искусственного интеллекта опубликовала открытое письмо, в котором руководство Amazon призвали прекратить продажу технологии по распознаванию лиц Rekognition правоохранительным органам. Ранее исследователи выяснили, что программа //medium.com/@bu64dcjrytwitb8/on-recent-research-auditing-commercial-facial-analysis-technology-19148bda1832" style="margin: 0px; padding: 0px; box-sizing: border-box; color: rgb(38, 83, 154);">чаще ошибается при распознавании лиц темнокожих женщин, чем при распознавании лиц светлокожих мужчин.

«Нет никаких законов или установленных норм, которые бы обеспечивали использование программы Rekognition без нарушений гражданских свобод людей», — говорилось в письме экспертов.

Несмотря на то что общественность уже не раз призывала к регламентациииспользования технологий искусственного интеллекта, никаких подобных правил пока что не было создано.

Перевод Полины Шеноевой

Источник www.forbes.ru

Новости

Популярные новости