В последней имеющейся версии Концепции развития финансового сектора РК до 2030 года, разработанной АРРФР, в разделе стратегические инициативы 1.12 предлагалось усилить требования к автоматизации принятия решений на основе “продвинутых” скоринговых моделей. Как мы понимаем, Регулятор вдохновлялся моделями Kaspi, Home Credit, Евразийского и Халыка. Этот шаг, по мнению Агентства, повысит качество оценки рисков. Мы считаем, что здесь нужно сделать некоторое уточнение. А именно последовать примеру ФРС США и требовать от БВУ разбираться в моделях, основанных на алгоритмах машинного обучения.
На симпозиуме по использованию искусственного интеллекта (ИИ) в финансовых услугах член совета управляющих Федеральным резервом США Лаел Брейнард (Lael Brainard) заявила об отсутствии прозрачности моделей, разработанных на алгоритмах искусственного интеллекта.
В своей речи Лаел привела множество интересных сравнений принципа работы моделей ML/AI. Она считает, что сообщество исследователей искусственного интеллекта добилось заметных успехов в объяснении сложных моделей машинного обучения. Также, Лаел считает, что разработчикам моделей будет подходящей докторская степень по математике или информатике. Одной из важных причин подобного требования стали законы о защите прав потребителей, которые требуют от кредиторов предоставить потребителю объяснение причин отказа или предоставления кредита на существенно худших условиях. Такое объяснение поможет потребителю понять основу определения кредитной оценки, а также предпринять шаги для улучшения своего кредитного профиля.
Напомним, в АРРФР есть департамент защиты прав потребителей финансовых услуг. Вероятнее всего, в данном департаменте никто не занимается разработкой алгоритмов на основе машинного обучения и тем более не видят проблем с их объяснением.
Источник dknews.kz