🏦️️ Совет по финансовой стабильности выпустил рекомендации по работе с ИИ для фининститутов
FSB (Совет по финансовой стабильности при Базеле) выпустил "12 разумных практик" по ИИ для финансовых институтов и если кратко, то это признание того, что человек не успевает за ИИ-агентами, и описание, как жить без одобрения каждой сделки.
Важно сделать оговорку, что Совет по финансовой стабильности это не регулятор, а своего рода координатор, который пишет стандарты, отчитывается перед G20, а они уже принимают решение об их внедрении. Документ, о котором идет речь, тоже не обязателен и даже в одном пункте о рисках агентов попадает в бесконечную петлю, признавая, что мониторинг решений ИИ-агента в реальном времени непрактичен при масштабировании, и для контроля может понадобиться другой ИИ.
Сами рекомендации понятны и их суть в том, что человек задаёт границы автономии и имеет возможность в любой момент остановить агента + учитывает факт, что "агенты рассуждают не как люди и могут трактовать цели неожиданно".
А главный риск подсвечен отчетливо - использование крупными институтами буквально нескольких моделей может создать одинаковую мгновенную реакцию на событие, что может кончиться очень плохо.
Наш ЦБ смотрит на проблемы похожим образом и так же не планирует какую-то жесткую регуляцию агентов, что дает возможность банкам самим масштабировать агентов в антифроде и кредитовании без ограничений.
💶 MarketOverview в МАКС
FSB (Совет по финансовой стабильности при Базеле) выпустил "12 разумных практик" по ИИ для финансовых институтов и если кратко, то это признание того, что человек не успевает за ИИ-агентами, и описание, как жить без одобрения каждой сделки.
Важно сделать оговорку, что Совет по финансовой стабильности это не регулятор, а своего рода координатор, который пишет стандарты, отчитывается перед G20, а они уже принимают решение об их внедрении. Документ, о котором идет речь, тоже не обязателен и даже в одном пункте о рисках агентов попадает в бесконечную петлю, признавая, что мониторинг решений ИИ-агента в реальном времени непрактичен при масштабировании, и для контроля может понадобиться другой ИИ.
Сами рекомендации понятны и их суть в том, что человек задаёт границы автономии и имеет возможность в любой момент остановить агента + учитывает факт, что "агенты рассуждают не как люди и могут трактовать цели неожиданно".
А главный риск подсвечен отчетливо - использование крупными институтами буквально нескольких моделей может создать одинаковую мгновенную реакцию на событие, что может кончиться очень плохо.
Наш ЦБ смотрит на проблемы похожим образом и так же не планирует какую-то жесткую регуляцию агентов, что дает возможность банкам самим масштабировать агентов в антифроде и кредитовании без ограничений.
💶 MarketOverview в МАКС