Опаснее выдуманного дела только настоящее, где суд решил иначе
Недавно коллега рассказал историю. Оппонент сослался в процессуальном документе на вроде бы существующую судебную практику, но «истолковал» её весьма специфично. Акты были совсем о другом.
Скорее всего, толковал, конечно, не он, а нейросеть.
И я вспомнил, что сам регулярно это наблюдаю. ИИ находит практику, даёт ссылку на акт и уверенно пишет: «Вот тут подтверждается ваш аргумент». Начинаешь читать, и начало акта действительно повторяет фабулу, которую описал ИИ. А вот вывод суда совсем о другом.
Такие «галлюцинации» я бы разделил на два случая. Причём второй опаснее первого.
1️⃣Случай первый: классический. Нейросеть хочет угодить пользователю. Она не читает акт целиком, а генерирует правдоподобный текст.
Тут всё давно известно, это технические особенности. Такая ошибка получила даже название — misgrounded. Получается, что судебный акт существует, ссылка рабочая, но вывод там иной. Заметить это сложнее, чем выдуманное дело.
2️⃣Случай второй: ловушка от российских судов. Особенность судебных актов российский судов в том, что судебный акт часто дословно пересказывает позиции сторон. А они написаны так, как хотелось бы, чтобы написал суд.
Нейросеть не отличает позицию стороны от вывода суда и уверенно заявляет: «суд пришёл к выводу…».
В итоге будет точная цитата из реального судебного акта. Только это вывод истца или ответчика, а не суда. В такую ловушку может попасться и тот, кто акт всё же прочитал, но бегло.
Кстати, я ловил сторон на этом и до всякого ИИ. Пересказ своей позиции выдавали за вывод суда, причём по собственному спору и очень уверенно.
📌Что с этим делать
Быть внимательным и всё перепроверять. Я в принципе считаю, что одно из главных качеств юриста — критическое мышление. Ставить под сомнение всё — является естественным для нас. Значит под сомнение надо ставить и выводы ИИ и ссылки ИИ.
Недавно коллега рассказал историю. Оппонент сослался в процессуальном документе на вроде бы существующую судебную практику, но «истолковал» её весьма специфично. Акты были совсем о другом.
Скорее всего, толковал, конечно, не он, а нейросеть.
И я вспомнил, что сам регулярно это наблюдаю. ИИ находит практику, даёт ссылку на акт и уверенно пишет: «Вот тут подтверждается ваш аргумент». Начинаешь читать, и начало акта действительно повторяет фабулу, которую описал ИИ. А вот вывод суда совсем о другом.
Такие «галлюцинации» я бы разделил на два случая. Причём второй опаснее первого.
1️⃣Случай первый: классический. Нейросеть хочет угодить пользователю. Она не читает акт целиком, а генерирует правдоподобный текст.
Тут всё давно известно, это технические особенности. Такая ошибка получила даже название — misgrounded. Получается, что судебный акт существует, ссылка рабочая, но вывод там иной. Заметить это сложнее, чем выдуманное дело.
2️⃣Случай второй: ловушка от российских судов. Особенность судебных актов российский судов в том, что судебный акт часто дословно пересказывает позиции сторон. А они написаны так, как хотелось бы, чтобы написал суд.
Нейросеть не отличает позицию стороны от вывода суда и уверенно заявляет: «суд пришёл к выводу…».
В итоге будет точная цитата из реального судебного акта. Только это вывод истца или ответчика, а не суда. В такую ловушку может попасться и тот, кто акт всё же прочитал, но бегло.
Кстати, я ловил сторон на этом и до всякого ИИ. Пересказ своей позиции выдавали за вывод суда, причём по собственному спору и очень уверенно.
📌Что с этим делать
Быть внимательным и всё перепроверять. Я в принципе считаю, что одно из главных качеств юриста — критическое мышление. Ставить под сомнение всё — является естественным для нас. Значит под сомнение надо ставить и выводы ИИ и ссылки ИИ.