В штате Делавэр в США разрабатывают законодательную инициативу - модель для компаний, которые будут полностью управляться автономными ИИ-агентами и работать вообще без людей ➡️
ИИ сможет принимать коммерческие решения, заключать договоры, управлять имуществом, оплачивать счета и даже подавать судебные иски от имени компании. При этом, согласно предложению, у компании должен быть владелец (человек или другая организация), который обеспечивает финансирование, но ему не придется лично контролировать каждый шаг алгоритма.
Рабочий проект предусматривает создание "регуляторной песочницы" на 30 месяцев - специального режима, где такие компании смогут работать под надзором регуляторов. Это нужно, чтобы собрать данные и понять, как выстроить полноценное регулирование.
Пока инициатива изучается властями.
Комитет Палаты представителей США по надзору и правительственной реформе официально запросил у властей Делавэра документы по инициативе - чтобы оценить риски.
Ожидается, что законопроект могут вынести на рассмотрение в январе 2027 года.
Одним из главных вопросов в такой бизнес-модели является ответственность. Если решения принимает алгоритм, кто будет отвечать за его ошибку?
Допустимо ли все же уйти от традиционных подходов и распределить ответственность за решения ИИ-агента на разработчика модели, инвестора, того, кто настроил агента, или отвечать будет сама компания в пределах своего имущества? Плохо отстроенный бизнес-процесс, убыточный договор, просрочки в расчетах - как просчитать, кто и где виноват?
Завтра с темой ответственности ИИ-агентов выступаю на форуме "Цифровые технологии и право" (Секция : П1 – AI для юристов: доверие, качество, практика применения) в прекрасной Казани.
Буду рада увидеться и поделиться мнением 👋
#ИИагенты