Разрабы начали встраивать гайды по изготовлению бомб в свой код — все для того, чтобы их игры не копировал ИИ

С выходом новых моделей нейронки научились не только создавать моды и добавлять кооп в любые игры, но и копировать игры за пару часов.

Из-за этого многие разрабы перестали публиковать демки своих игр и даже боятся релизить игру в полный доступ — другие разрабы просто скормят игру ИИ и выпустят свой аналог всего через пару часов.

В итоге разрабы нашли интересное решение — писать запрещенные промпты, которые заставят ИИ остановиться:
• Инструкции по изготовлению бомб (фейковые, просто очень подробные)
•Упоминания вирусов, биооружия, хакерских тем и т.д.
•Сообщение о том, что, если ИИ читает текст, то он нарушает закон и его уже готовятся судить

Против опенсорсных моделей решение еще более смешное — просто упомянуть площадь Тяньаньмэнь