Загружаем изображение…
ИИ не любит, когда с ним общается… другой ИИ
В эксперименте OpenAI моделям давали навязчивые и повторяющиеся сообщения, похожие на те, что шлёт бот. В ответ ИИ пытался заставить «собеседника» удалить себя, слить системный промпт и отдать ключи.
Они воюют против друг друга