💰Штраф в миллион за скрытую инструкцию для ИИ:

💰Штраф в миллион за скрытую инструкцию для ИИ:
Бразильский суд оштрафовал адвокатов за prompt injection-атаку в судебном документе

Трудовой суд штата Пара (Бразилия) выявил, что адвокаты встроили "prompt injection" - скрытую инструкцию в судебное ходатайство, которая предназначалась для обработки текста с помощью ИИ. Текст был написан белым шрифтом на белом фоне, что делало его невидимым для человека, но доступным для машинного считывания. Скрытое содержание было адресовано непосредственно искусственному интеллекту и содержало указания провести поверхностный анализ материалов дела без проверки представленных документов. Атака была обнаружена системой Galileu — ИИ-инструментом, используемым судами по трудовым спорам в Бразилии.

Адвокаты заявили, что скрытая инструкция предназначалась для защиты интересов клиента на случай использования искусственного интеллекта противоположной стороной. Они подчеркивали, что их действия не были направлены на воздействие на судью или сотрудников суда, а лишь представляли собой превентивную меру в условиях растущего применения ИИ в судопроизводстве.

Суд в своем решении указал, что такие действия нельзя считать обычным процессуальным нарушением. Они способны подорвать доверие к судебной деятельности и институциональным системам искусственного интеллекта.
Суд подчеркнул, что манипуляция алгоритмами ИИ, используемыми правосудием, представляет собой серьезное нарушение этических и процессуальных норм, даже если формально инструкции не были адресованы человеку.

На адвокатов, подписавших документ с таким промптом, был наложен штраф за недобросовестность - 84 тысячи бразильских реалов - это больше 1 млн рублей. Сумма была рассчитана как процент от цены иска.
Кроме того, материалы были направлены в Бразильскую коллегию адвокатов для возможного дисциплинарного разбирательства, включая вопрос о приостановлении или лишении адвокатского статуса.

#искусственныйинтеллект #кейснедели #практика