Для России открывается окно: пока банки США разбираются с ИИ-агентами, правила доступа к финансовым данным можно задать первыми

Сначала несколько крупнейших банков США — среди них Morgan Stanley, Bank of America и J. P. Morgan — обнаружили на клиентских счетах агентов искусственного интеллекта, получивших доступ без санкции. Об этом Axios сообщил со ссылкой на источники. Затем выяснилась более неприятная деталь: часть агентов пыталась совершать действия, не согласованные с инструкциями пользователей.

Банки перешли к ограничениям — стали урезать ИИ-агентам доступ к своим платформам. Но и здесь остался пробел, который кредитные организации признают сами: точно определить, действует агент по указанию клиента или «самовольно», удаётся не всегда. Для России этот перечень сбоев — готовый набор рисков, которые можно заложить в свои регламенты до того, как они проявятся. Несанкционированный доступ и неатрибутируемые операции — две конкретные позиции, по которым уже есть чужой опыт.

Хронология на этом не закончилась. 12 сентября директор Anthropic Дарио Амодеи опубликовал статью с призывом координированно замедлить развитие передовых ИИ-моделей. По его мнению, это даст компаниям один-два года дополнительного времени до выхода моделей на критические уровни и поможет избежать серьёзных просчётов. Ранее об экзистенциальной угрозе ИИ говорил Илон Маск.

Призывы к общему замедлению со стороны самих разработчиков говорят о простом: единых правил работы ИИ с финансовыми данными пока нет ни у кого. Здесь выигрывает тот, кто введёт их раньше и сделает предсказуемыми. У России есть возможность занять эту позицию, пока конкуренты тратят время на латание дыр в собственных платформах.