Понедельник, 14 июня 2021

Технология искусственного интеллекта способна предложить пользователям впечатляющие преимущества. Однако в случае взлома сервиса, функционирующего на ее основе, масштаб последствий трудно будет оценить.

Microsoft продолжает совершенствовать свою инфраструктуру кибербезопасности. По мнению руководства компании, вопросу безопасности платформ, использующих технологии искусственного интеллекта, уделяется недостаточно внимания. В связи с этим было принято решение создать специальный инструмент для тестирования защищенности подобных систем.

Сервис получил название Counterfit. Данный инструмент с открытым исходным кодом позволяет выявлять скрытые уязвимости в цифровых продуктах, функционирующих на основе ИИ. С помощью Counterfit сотрудники фирм также смогут вести специальные учетные журналы атак на целевую модель. По заявлению разработчиков из Microsoft, их продукт способен задействовать принципы телеметрии, что должно способствовать кардинальному повышению безопасности ИИ-сервисов.

В Microsoft указали, что Counterfit не зависит от среды, модели и данных. Его используют локально, на периферии, в облаке для тестирования любой модели искусственного интеллекта, которая зависит от входных данных практически в любой форме, включая текст и изображения. И хотя изначально Counterfit разрабатывался исключительно для внутреннего пользования работниками Microsoft, после некоторых доработок сервис был доведен до готового коммерческого продукта и вскоре будет доступен на рынке.

Источник  psm7.com