🖥 Монтируем LLM как жесткий диск. Бесконечная файловая система на Python + FUSE

Ни для кого не секрет, что языковые модели врут, и врут очень убедительно, часто даже с подробностями. Еще год назад если бы вы попросили у LLM ссылку на исследование, то получили бы статью, которую никто не писал.

Спросили бы про метод библиотеки, и модель расписала бы его аргументы, хотя такого метода там не было.

В безопасности давно ставят фальшивые серверы (их называют honeypot). Злоумышленник лезет туда, оставляет следы и выдает себя.

Первая проблема в том, что пустую ловушку видно сразу, а наполнять ее конфигами, логами и заметками админа приходится вручную. Модель же производит такой контент быстро и в любых количествах.

⏺ Читать материал

Лаборатория хакера