Предвзятость искусственного интеллекта в банках, или Как не отказывать хорошим заемщикам | Пресс-релизы

До сих пор многие банки принимают свои решения с применением так называемых стоп-правил, или хард-чеков. Примерами таких стоп-факторов являются слишком молодой или, наоборот, слишком пожилой возраст заявителя, факт прописки в неблагополучном, по мнению банка, регионе, наличие просроченной задолженности в прошлом, отсутствие кредитной истории, наличие микрозаймов и т. д.

Эти правила много лет помогали банкам отсекать от кредитования большие сегменты клиентов с высоким уровнем потенциальной просрочки. Часто эти правила работали, не меняясь, много лет. Но в 2020 году в период пандемии, когда на фоне резкого сокращения уровня одобрения вопрос привлечения новых клиентов стал особо остро, некоторые финансовые организации осознали, что такие стоп-правила сильно неэффективны, поскольку отрезают от кредитования большое число добросовестных клиентов.

Для решения этой проблемы рынку потребовались новые подходы и новые решения для процесса рассмотрения кредитных заявок. Одним из таких решений стала платформа oneFactor SmartMachine для конфиденциального совместного машинного обучения на глобальном клиентском графе и быстрого создания максимально точных сервисов. Эта платформа уже позволила некоторым финансовым организациям верифицировать свои решения: выявить ошибки в работе стоп-факторов и модифицировать их. Платформу уже протестировали и начали использовать банки — лидеры розничного кредитования. По итогам тестов рекомендации на основе платформы позволили признать около 20% отказов, основанных на стоп-факторах, ошибочными.

Эксперты рынка отмечали снижение объемов выдач кредитов населению еще в конце 2019 года — это следствие регуляторного давления на банки в части ограничения ПДН (показателя долговой нагрузки). Требования регулятора были призваны снизить уровень закредитованности населения. Как результат россияне стали гораздо чаще получать отказы в выдаче кредитов.

Ситуация усложнилась в период пандемии, когда некоторые добросовестные клиенты не смогли выплачивать кредиты. Вместо пересмотра текущего процесса рассмотрения заявок и выявления сегментов, на которых банковский конвейер принимает ошибочное решение, чтобы компенсировать рост отказов из-за потери источника доходов значимой долей населения, пострадавшего в период коронавирусных ограничений, банки сформировали дополнительные стоп-правила, блокирующие целые сегменты, наиболее пострадавшие от последствий пандемии, например сотрудников розничной торговли или сферы услуг. В результате на рынке к середине 2020 года уровень одобрения кредитов для новых клиентов упал, по оценке компании oneFactor, в несколько раз — с 30—40% до 5—10%.

Для помощи банкам в решении проблемы сокращения уровня одобрения компания oneFactor на основе собственной платформы SmartMachine разработала сервис, который автоматически выявляет ошибки в решениях банков еще на этапе рассмотрения заявки. Процесс совместного конфиденциального машинного обучения на основе данных разных индустрий и глобального клиентского графа позволяет находить и корректировать ошибки традиционного подхода. Особенностью платформы является постоянное дообучение на основании банковских данных (фактов одобрений и отказов, просрочек по выданному кредиту) и исключение предвзятости банковского искусственного интеллекта, который склонен к формированию высокоохватных стоп-правил, за счет использования внешних поведенческих данных, в которых отсутствуют такие факторы дискриминации, как пол, возраст, место работы и проживания, факты использования микрозаймов и прочее. Запатентованная технология oneFactor, реализующая конфиденциальное совместное машинное обучение на глобальном клиентском графе, позволяет обучать модели и алгоритмы для принятия решений на кросс-индустриальных данных в защищенной области памяти устройств в периметре владельцев данных. В итоге обеспечивается конфиденциальность и сохранность данных.

Внедрение нового подхода к верификации банковских решений на платформе oneFactor позволяет банку увеличить долю положительных решений на 24% без пересмотра приемлемого для банка уровня риска. Например, в сегменте клиентов без кредитной истории платформа позволяет выделить 22% благонадежных клиентов среди получающих сейчас отказ. В сегменте клиентов, имевших ранее просрочку по другим кредитам, 26% заемщиков можно выдать кредит с минимальным риском. Сейчас же большинство банков таким клиентам отказывают.

Генеральный директор и сооснователь oneFactor, руководитель Технологического комитета Ассоциации больших данных в России Роман Постников так прокомментировал ситуацию:

«Проблема предвзятости искусственного интеллекта, выраженная, в частности, в отказе в кредитовании отдельным сегментам населения на основании атрибутов, которые даны человеку от рождения и на которые человек не может влиять, такие как пол, возраст, место рождения, национальность и прочие, мало изучена в нашей стране. В Европе, например, для решения этой проблемы существуют отдельные нормативные акты. Мы же своим опытом показываем, что компании, которые исключают из своих систем искусственного интеллекта элементы предвзятости, получают конкурентное преимущество и получают экстраприбыль. В итоге остальные участники рынка вынуждены к ним подтягиваться. В итоге системы искусственного интеллекта в нашей стране избавляются от предвзятости, и вся система движется к балансу без каких-либо законодательных ограничений».

О платформе

Платформа совместного конфиденциального машинного обучения на глобальном клиентском графе SmartMachine запущена в промышленную эксплуатацию в конце 2020 года. С марта 2021-го технология oneFactor позволяет не только исполнять алгоритмы машинного обучения в анклаве, но также их тренировки внутри анклава Intel SGX. Теперь исполняемый код — алгоритм машинного обучения — генерируется непосредственного в анклаве с помощью инновационных методов. Технология была запатентована компанией oneFactor на территории Российской Федерации в мае 2019 года. На данный момент к платформе уже подключен ряд крупнейших по объему розничного кредитования российских банков.

Использование технологий secure multi-party computation и Intel SGX позволяет решению oneFactor обрабатывать полностью зашифрованные данные в аппаратно-защищенной среде. Технология предоставляет возможность конфиденциально объединять данные разных компаний и индустрий в едином вычислительном облаке, а затем использовать их в рекомендательных сервисах на базе искусственного интеллекта. Особенностью платформы SmartMachine является высокий уровень защиты исходных данных от компрометации на аппаратном уровне, поскольку их «видит» только алгоритм машинного обучения. К данным нет доступа даже у администраторов системы или поставщика облачных сервисов, что подтверждено независимым аудитом с участием компаний, подключивших свои данные к платформе. Изоляция данных в анклаве SGX обеспечивает дополнительную защиту от несанкционированного внешнего или внутреннего доступа. oneFactor — первая компания, которая реализовала коммерческое применение технологии secure multi-party computation для тренировки алгоритмов машинного обучения в решении для финансового сектора в России и запатентовала его еще в 2019 году.

О oneFactor

oneFactor — первая российская компания, которая включена в международное исследование Gartner Cool Vendor List для операторов связи. За всю историю исследований Gartner в Cool Vendor List вошли только пять российских компаний.

Сегодня девять из десяти банков РФ используют сервисы на базе платформы oneFactor. На конец 2020 года более 85% всех решений по выдаче кредитов российские банки принимали с помощью сервиса SmartMachine.

www.onefactor.ru


Источник: https://www.banki.ru/news/pressreleases/?id=10951735

от admin

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *