Google научил Android предупреждать о телефонных аферистах,сообщает securitylab.ru.
Фото:depositphotos.com
Google расширяет внедрение новых инструментов обнаружения мошенничества на основе искусственного интеллекта, чтобы защитить пользователей Android от все более изощрённых телефонных мошенничеств и атак по СМС.
Компания отмечает, что принятые меры стали ответом на кампании, использующих ИИ. По данным Global Anti-Scam Alliance, такие схемы уже нанесли ущерб на сумму более 1 трлн долларов. Новые функции ориентированы на так называемые «разговорные мошенничества», которые начинаются безобидно, но постепенно вовлекают жертву в опасные ситуации.
В компании отмечают, что пользователи всё чаще сталкиваются с текстовыми атаками, где общение начинается с безобидных сообщений, а затем злоумышленники манипулируют жертвой, чтобы выманить деньги или персональные данные. Кроме того, мошенники всё чаще используют подмену номеров, выдавая себя за доверенные организации.
До сих пор защита от спама на Android была сосредоточена на блокировке угроз до начала общения. Однако мошенники адаптировались, развивая схемы, которые становятся опасными уже в процессе общения. В ответ Google внедрил ИИ-модели, которые отслеживают подозрительные шаблоны поведения в реальном времени и предупреждают пользователей о возможном риске.
Одним из новых решений стала защита сообщений под названием. Она дополняет уже существующую функцию защиты от спама и выявляет мошеннические схемы на более глубоком уровне. Теперь система анализирует SMS, MMS и RCS-сообщения, выявляя подозрительные шаблоны. Если сообщение распознано как потенциально опасное, пользователь получит предупреждение с возможностью заблокировать отправителя или пожаловаться на него.
Функция Scam Detection в Google Messages активируется по умолчанию, но применяется только к разговорам с незнакомыми номерами. При этом все данные обрабатываются локально, без отправки сообщений на серверы Google. В случае жалобы в Google передаются только данные об отправителе и несколько последних сообщений с ним. Защита уже доступна в США, Великобритании и Канаде на английском языке. В будущем Google планирует расширить её на другие регионы.
Работа Scam Detection для сообщений (Google)
Ещё одной важной новинкой стала защита от мошенничества при звонках. Технология анализирует разговоры в реальном времени, выявляя признаки мошенничества. Если собеседник, например, просит перевести деньги через подарочные карты, система уведомляет пользователя об угрозе звуковым сигналом, вибрацией и визуальным предупреждением на экране.
В бета-тестировании использовались модели машинного обучения, адаптированные для разных поколений устройств. На Pixel 9 применялась продвинутая модель Gemini Nano, а на устройствах Pixel 6 и новее — более компактные ИИ-модели. Тесты показали, что Gemini Nano демонстрирует наилучшие результаты, поэтому её функциональность расширена для всех пользователей Pixel 9+.
Работа Scam Detection для звонков (Google)
Как и в случае с защитой сообщений, обработка звонков происходит локально. Аудиозаписи не сохраняются и не передаются третьим сторонам. Scam Detection для звонков отключён по умолчанию из-за возможных опасений по поводу конфиденциальности. Пользователи могут включить функцию вручную в настройках приложения Телефон. Кроме того, даже при включённой функции её можно будет отключить во время конкретного звонка. При активации функции во время звонка раздаётся звуковой сигнал, предупреждающий обе стороны о её работе.
Источник securitylab.ru