OpenAI и Meta* предупредили американскую судебную систему: дипфейки…
OpenAI и Meta* предупредили американскую судебную систему: дипфейки уже стали настолько качественными, что надёжно отличать их от настоящих видео и аудио становится практически невозможно. Представитель OpenAI прямо сказал, что не ждёт появления научного метода, который позволит безошибочно выявлять такие материалы, а в Meta признали: последние поколения моделей создают контент, неотличимый от настоящего.
Это важный поворот. До сих пор большая часть регулирования дипфейков строилась вокруг одной идеи: научимся их находить, помечать и таким образом отделять от настоящего контента. Похоже, сама индустрия теперь признаёт, что эта гонка проигрышная. Генераторы видео становятся лучше быстрее, чем детекторы успевают за ними. А мошенник, напомню, добровольно маркировать свою подделку не станет.
Суды здесь просто первыми столкнулись с проблемой в максимально чистом виде. Ещё недавно видеозапись сама по себе выглядела доказательством: камера что-то сняла — значит, это произошло. Теперь ролик может быть безупречно реалистичным и при этом не иметь отношения к реальности. Поэтому задача переворачивается: не пытаться каждый раз доказать, что конкретный ролик фальшивый, а уметь подтвердить происхождение настоящего: кто создал файл, когда, каким устройством, менялся ли он после этого.
В мире, где подделать можно всё, ценность будет иметь уже не сама картинка, а её доказанное происхождение.
*Компания Meta Platforms Inc признана в России экстремистской организацией, её деятельность на территории РФ запрещена.
Это важный поворот. До сих пор большая часть регулирования дипфейков строилась вокруг одной идеи: научимся их находить, помечать и таким образом отделять от настоящего контента. Похоже, сама индустрия теперь признаёт, что эта гонка проигрышная. Генераторы видео становятся лучше быстрее, чем детекторы успевают за ними. А мошенник, напомню, добровольно маркировать свою подделку не станет.
Суды здесь просто первыми столкнулись с проблемой в максимально чистом виде. Ещё недавно видеозапись сама по себе выглядела доказательством: камера что-то сняла — значит, это произошло. Теперь ролик может быть безупречно реалистичным и при этом не иметь отношения к реальности. Поэтому задача переворачивается: не пытаться каждый раз доказать, что конкретный ролик фальшивый, а уметь подтвердить происхождение настоящего: кто создал файл, когда, каким устройством, менялся ли он после этого.
В мире, где подделать можно всё, ценность будет иметь уже не сама картинка, а её доказанное происхождение.
*Компания Meta Platforms Inc признана в России экстремистской организацией, её деятельность на территории РФ запрещена.