Два миллиона человек ждали приговора за убийство, которого не было
Жанр тру крайм сейчас на коне, очевидно. Куча авторов и каналов везде, милионные просмотры и так далее. Вот вам очередной вполне обычный для этого жанра сюжет. Риелтора убивает пасынок, с которым у него был тайный роман. Ролик набрал почти два миллиона просмотров и восемь тысяч комментариев, зрители бурно спорили о мотивах, возмущались, что полиция тянет, и ждали суда. Одно но, все это от и до придумано нейронками.
Канал True Crime Case Files за восемь месяцев собрал больше 85 тысяч подписчиков и выложил сотню с лишним «расследований». Сценарии писал ChatGPT, лица жертв и убийц рисовали генераторы картинок, за кадром звучал синтетический голос, и нигде ни слова о вымысле. Когда обман раскрылся, YouTube удалил канал.
Тут вопрос в общем даже не в этом канале, гораздо показательнее эта история как пример журналистики пост правды.
→ Вымысел живёт дольше канала. Канал удалили, а десятки копий на YouTube и в TikTok остались, как и статьи-пересказы. Всё это индексируют поисковики, всё это попадает в обучающие данные моделей. Через год кто-нибудь спросит нейросеть про убийство в Литтлтоне и получит уверенный ответ со ссылками.
→ Под удар попадают живые люди. Город существует, риелторов в нём хватает, и достаточно совпадения имени, чтобы у вымышленного убийцы появились адрес и соседи, которые начнут коситься.
→ Страдают настоящие жертвы. Прокурор из Колорадо говорил журналистам, что его тревожит доверие присяжных, если любое фото может оказаться сгенерированным, защите проще посеять сомнение в подлинных доказательствах. Чем больше подделок, тем легче преступнику сказать «это нейросеть».
→ Экономика работает на подделку. Расследование это месяцы работы и риск исков, фейк стряпается за вечер с нейросетью. Алгоритм платформы разницы не видит, да и вымысел всегда проще сделать увлекательнее жизни.
Доверие станет главной валютой будущего, его не купишь, а теряется оно очень легко. Ждите тотальной маркировки, требований обязательной идентификации пользователя на вход в браузер и вот этого всего.
Жанр тру крайм сейчас на коне, очевидно. Куча авторов и каналов везде, милионные просмотры и так далее. Вот вам очередной вполне обычный для этого жанра сюжет. Риелтора убивает пасынок, с которым у него был тайный роман. Ролик набрал почти два миллиона просмотров и восемь тысяч комментариев, зрители бурно спорили о мотивах, возмущались, что полиция тянет, и ждали суда. Одно но, все это от и до придумано нейронками.
Канал True Crime Case Files за восемь месяцев собрал больше 85 тысяч подписчиков и выложил сотню с лишним «расследований». Сценарии писал ChatGPT, лица жертв и убийц рисовали генераторы картинок, за кадром звучал синтетический голос, и нигде ни слова о вымысле. Когда обман раскрылся, YouTube удалил канал.
Тут вопрос в общем даже не в этом канале, гораздо показательнее эта история как пример журналистики пост правды.
→ Вымысел живёт дольше канала. Канал удалили, а десятки копий на YouTube и в TikTok остались, как и статьи-пересказы. Всё это индексируют поисковики, всё это попадает в обучающие данные моделей. Через год кто-нибудь спросит нейросеть про убийство в Литтлтоне и получит уверенный ответ со ссылками.
→ Под удар попадают живые люди. Город существует, риелторов в нём хватает, и достаточно совпадения имени, чтобы у вымышленного убийцы появились адрес и соседи, которые начнут коситься.
→ Страдают настоящие жертвы. Прокурор из Колорадо говорил журналистам, что его тревожит доверие присяжных, если любое фото может оказаться сгенерированным, защите проще посеять сомнение в подлинных доказательствах. Чем больше подделок, тем легче преступнику сказать «это нейросеть».
→ Экономика работает на подделку. Расследование это месяцы работы и риск исков, фейк стряпается за вечер с нейросетью. Алгоритм платформы разницы не видит, да и вымысел всегда проще сделать увлекательнее жизни.
Доверие станет главной валютой будущего, его не купишь, а теряется оно очень легко. Ждите тотальной маркировки, требований обязательной идентификации пользователя на вход в браузер и вот этого всего.