🗃Цена алгоритмической ошибки
Искусственный интеллект уже принимает участие в решениях, от которых зависят деньги, здоровье и права граждан. Банки используют его для оценки заёмщиков, медицинские организации — для анализа снимков, госучреждения — для проверки документов. В Подмосковье, например, ИИ проверяет документы по 366 госуслугам. Но кто должен отвечать, если алгоритм ошибётся, а человек пострадает от его решения?
Проблема уже проявляется на практике. Согласно исследованию, 34,6% опрошенных врачей считают неопределённость ответственности за рекомендации нейросетей препятствием для их применения, а 34,3% указывают на ошибки и отсутствие ссылок на источники. Банк России также предупреждает о рисках недостоверных ответов ИИ, некорректных данных и кибератак на модели. При этом последствия ошибок несут не сами разработчики алгоритмов, а организации и специалисты, применяющие их в работе.
Попытки урегулировать эти риски вызывают сопротивление бизнеса. При обсуждении законопроекта Минцифры компании предупреждали о возможном росте затрат на внедрение ИИ на 20–40%. Возражения вызвали обязательная маркировка ИИ-контента и требование предоставлять услуги без алгоритмов, уже встроенных в цифровые платформы. Часть положений впоследствии пересмотрели.
На этом фоне появился
проект закона о безопасном использовании ИИ. Он предусматривает реестр доверенных систем, возможность аварийного отключения и судебного запрета опасных алгоритмов. Гражданам предлагают дать право отказаться от взаимодействия с ИИ в определённых ситуациях и оспаривать автоматизированные решения.
Законопроект пока не внесён в Госдуму. Однако обсуждение показывает, что проблема уже не ограничивается качеством работы нейросетей. Массовое внедрение ИИ требует пересмотра правил ответственности: пользователям нужны гарантии защиты от ошибочных решений, а компаниям — чёткие границы обязательств. Без этого ускорение автоматизации будет сопровождаться ростом правовых рисков и недоверия к технологиям.
#цифровойликбез
Искусственный интеллект уже принимает участие в решениях, от которых зависят деньги, здоровье и права граждан. Банки используют его для оценки заёмщиков, медицинские организации — для анализа снимков, госучреждения — для проверки документов. В Подмосковье, например, ИИ проверяет документы по 366 госуслугам. Но кто должен отвечать, если алгоритм ошибётся, а человек пострадает от его решения?
Проблема уже проявляется на практике. Согласно исследованию, 34,6% опрошенных врачей считают неопределённость ответственности за рекомендации нейросетей препятствием для их применения, а 34,3% указывают на ошибки и отсутствие ссылок на источники. Банк России также предупреждает о рисках недостоверных ответов ИИ, некорректных данных и кибератак на модели. При этом последствия ошибок несут не сами разработчики алгоритмов, а организации и специалисты, применяющие их в работе.
Попытки урегулировать эти риски вызывают сопротивление бизнеса. При обсуждении законопроекта Минцифры компании предупреждали о возможном росте затрат на внедрение ИИ на 20–40%. Возражения вызвали обязательная маркировка ИИ-контента и требование предоставлять услуги без алгоритмов, уже встроенных в цифровые платформы. Часть положений впоследствии пересмотрели.
На этом фоне появился
проект закона о безопасном использовании ИИ. Он предусматривает реестр доверенных систем, возможность аварийного отключения и судебного запрета опасных алгоритмов. Гражданам предлагают дать право отказаться от взаимодействия с ИИ в определённых ситуациях и оспаривать автоматизированные решения.
Законопроект пока не внесён в Госдуму. Однако обсуждение показывает, что проблема уже не ограничивается качеством работы нейросетей. Массовое внедрение ИИ требует пересмотра правил ответственности: пользователям нужны гарантии защиты от ошибочных решений, а компаниям — чёткие границы обязательств. Без этого ускорение автоматизации будет сопровождаться ростом правовых рисков и недоверия к технологиям.
#цифровойликбез
Просмотры: 8