9 ноября 2023
Искусственный интеллект (ИИ) становится базовой технологией, которую можно сравнить с паровым двигателем или электричеством, объявила на форуме Finopolis глава Центробанка (ЦБ) Эльвира Набиуллина. Но он несет в себе и осязаемые риски для финансового сектора, следует из нового доклада ЦБ, общественные обсуждения которого продлятся до 15 декабря. Это фальсификация данных, предвзятость решений, подверженность манипуляциям, сужение конкуренции, усугубление, а не преодоление кризисов, выбивающихся из стандартизированной выборки данных. Впрочем, «идти огнем и мечом на искусственный интеллект» ЦБ – по крайней мере пока – не собирается.
Центробанк осознает проблемы, которые может породить ИИ в финансовом секторе, но не собирается искоренять эту новую базовую технологию, сопоставимую по значимости с паровым двигателем или электричеством. ЦБ хотел бы найти золотую середину между созданием стимулов для развития инноваций и защитой граждан от связанных с ИИ рисков за счет применения рискориентированного подхода. Об этом объявила в среду председатель Банка России Эльвира Набиуллина на пленарной сессии форума инновационных финансовых технологий Finopolis.
«В каких-то областях, наверное, возможно и жесткое законодательное регулирование, но мы считаем, что его надо вводить только после тщательного анализа рисков и после консультации с рынком. Я думаю, что мы все это будем обсуждать с правительством», – пояснила глава ЦБ.
Правительство, в свою очередь, сейчас работает над новым нацпроектом «Экономика данных». «У нас президентом дано поручение с 2025 года перезапустить нацпроект, который сейчас называется «Цифровая экономика».
Даже название другое – «Экономика данных». Мы в ближайшее время на стратегической сессии рассмотрим содержание этой государственной программы», – сообщил на форуме Finopolis глава Минцифры Максут Шадаев. В частности, будут рассмотрены основные мероприятия нового нацпроекта, финансирование, регуляторные механизмы.
Кроме того, в России планируется создать государственную фабрику больших данных. Как пояснил Шадаев, там «будет происходить накопление, формирование датасетов, прежде всего на основе данных, которые уже есть у государства». Там же будут аккумулироваться и те данные, «которые государство на определенных условиях будет забирать у бизнеса». «Это тоже будет большая регуляторная поправка», – уточнил Шадаев. На таких массивах можно будет тренировать нейросети «для дальнейшего предоставления сервисов на конкурентной основе», отметил министр.
В преддверии форума ЦБ обнародовал консультативный доклад «Применение искусственного интеллекта на финансовом рынке» (его общественные обсуждения продлятся до 15 декабря). И в этом документе перечислены вполне осязаемые риски.
«Внедрение ИИ может оказывать влияние как на бизнес-процессы участников рынка, так и на финансовую систему в целом. Присущие ИИ риск-факторы (например, проблемы объяснимости алгоритмов и качества применяемых данных) могут значительно усиливать классические риски финансового сектора, в частности приводить к фальсификации клиентских данных, мошенничеству и случаям недобросовестной конкуренции», – предупреждают авторы доклада. Помимо этого они упоминают такие проблемы, как непрозрачность принимаемых ИИ решений, подверженность манипуляциям, игнорирование требований к конфиденциальности и др.
Простой пример. Как сообщается в докладе, ранее компании Amazon пришлось отказаться от программы найма сотрудников с использованием ИИ, «так как выяснилось, что она исключала женщин из списка кандидатов на рассмотрение и иногда нанимала менее квалифицированных работников-мужчин». Потому что свои решения эта программа основывала на массивах данных о приеме на работу за последние 10 лет в технологической отрасли, где раньше доминировали мужчины.
Одновременно с этим, допустим, сам же Центробанк считает важным направлением использования ИИ на финансовом рынке скоринг – систему оценки платежеспособности заемщика.
Благодаря ИИ процессы можно полностью автоматизировать, максимально ускоряя принятие решений и, казалось бы, повышая их точность. Причем анализироваться может множество факторов – от платежной дисциплины при оплате коммунальных услуг до таких альтернативных сведений, как геолокация или информация из социальных сетей.
Но помимо плюсов есть и поводы для опасений. Они касаются таких аспектов, как конфиденциальность и этичность использования данных, доверие к вердикту, вынесенному автоматизированной системой, монополизация самого процесса принятия решений. «Использование стандартизированных алгоритмов и моделей от узкого круга разработчиков может привести к большей однородности и единообразию – например, в оценке рисков и принятии решений о кредитовании», – признает и ЦБ. Все это чревато в том числе системными сбоями финансового сектора.
Другой пример – стремление применять ИИ как советчика и помощника для разработки наиболее оптимальных антикризисных мер (см., например, «НГ» от 30.10.23). Трудность в том, что «модели ИИ могут хорошо работать в относительно стабильной среде, которая генерирует надежные сигналы». А в кризисных ситуациях, предполагающих значительный поведенческий сдвиг, точность может как раз снижаться, что становится дополнительным негативным фактором не только для участников рынка, но и в целом для финансовой стабильности, предупреждает ЦБ.
Эта проблема может проявляться и в таких частных случаях, как применение ИИ в алгоритмической торговле. «Компьютеры стали способны отбирать и анализировать большие объемы данных, отслеживать изменения на рынке в реальном времени и совершать сделки значительно быстрее и зачастую эффективнее человека», – поясняется в докладе. Но при этом «большая чувствительность ИИ-моделей к сильным рыночным шокам может создавать эффект автокорреляции алгоритмических систем и усиливать системные риски», отметили в ЦБ.
Широкое использование ИИ потенциально может повысить процикличность на финансовом рынке: алгоритм автоматизирует процесс, тем самым его ускоряя и усиливая.
Добавим к этому, что и мир, и Россия все чаще сталкиваются с такими кризисами, которые в принципе мало похожи на шоки предыдущих лет, а значит, усложняется в том числе задача подбора тех данных, на которых можно обучать ИИ.
Наличие всех этих рисков подтверждают и опрошенные «НГ» эксперты. «Например, нейросети оперируют теми данными, которые есть в доступе, они ничего нового не придумывают, а лишь перебирают тот набор вариантов, который уже так или иначе обсуждался, – пояснил заместитель генерального директора MLP Глеб Белавин. – И мы не знаем, какие алгоритмы использует искусственный интеллект. Может быть, он будет постоянно вторить правилам мировой финансовой системы, сформированным еще в 40-х годах прошлого столетия. Или попытается притянуть наши действия к неким глобальным интересам, которые могут и не отвечать российским».
Нейросети, с одной стороны, могут использоваться для быстрого и достаточно качественного сбора и обработки большого количества данных, однако, с другой стороны, они не способны в полной мере анализировать и тем более интерпретировать информацию, уточнил директор компании Navigator Principal Investors Кайл Шостак.
Любое новшество на финансовом рынке действительно требует оценки со стороны регулятора, признал первый заместитель генерального директора Центра стратегических разработок Борис Копейкин. «Технологии ИИ развиваются очень быстро, уже активно применяются финансовыми институтами и, очевидно, будут использоваться еще шире уже в ближайшем будущем. На настоящий момент ЦБ заявляет об отсутствии срочной необходимости специального регулирования для ИИ. Но, судя по докладу, не исключает, что в будущем это все же потребуется», – обратил внимание эксперт.
В целом процесс автоматизации принятия решений на основе ИИ не противоречит существующим регуляторным требованиям Банка России.
«Как только использование ИИ выйдет за рамки регуляторных требований или появятся прецеденты, связанные с реализацией рисков использования ИИ в банковской сфере, ЦБ, очевидно, примет дополнительные меры по стандартизации и регулированию», – ожидает доцент РЭУ им. Г.В. Плеханова Денис Перепелица.
Тем не менее некоторые представители финсектора настроены оптимистично. Внедрение ИИ и шире автоматизация процессов не просто востребованы отраслью, а необходимы, уверил гендиректор Мосгорломбарда Алексей Лазутин. Такие технологии, по его словам, актуальны в том числе для тех игроков, которые традиционно работают в основном офлайн.
«Так, у нас есть опция залоговых займов. С внедрением автоматизации и новых технологий их можно оформить и продлевать онлайн, без посещения отделения, – сообщил Лазутин. – Внедрены автоматизированные процессы скоринга – оценки платежеспособности клиента, стоимости залога, что также упростило работу и сделало удобнее взаимодействие для клиента».
Источник: Независимая газета
