Angel Relations Group

Chat GPT будет помечать свои тексты водяным знаком

При генерации модель будет статистически подбирать слова таким образом, чтобы на выходе в тексте был определенный считываемый сигнал. При этом для человеческого глаза он будет незаметен, распознать наличие водяного знака можно будет при помощи специального детектора — доступ к нему предоставит сама же OpenAI. Пока функция вводится для пользователей из Европы.

Ранее аналогичный инструмент в новые модели Claude внедрила компания Anthropic. ИИ-стартапы озаботились возможностью детекции на фоне вступления в силу правил прозрачности, прописанных в новом законе Евросоюза об искусственном интеллекте. Генеральный директор компании Nevel. ai Алексей Хахунов считает, что относиться к нововведению следует именно как к следованию букве закона, которое мало отразится на конечных пользователях. Хотя способ маркировки, используемый OpenAI, эксперт называет достаточно надежным.

Однако точную детекцию водяного знака будет обеспечивать конкретная последовательность слов, сгенерированная искусственным интеллектом. Что встречается крайне редко — публиковать нейросетевой текст без правок, пусть даже минимальных, уже давно считается дурным тоном. Директор Angel Relations Group и преподаватель ВШЭ Алексей Карлов объясняет, что если текст создавался нейросетью совместно с человеком, то есть если пользователь редактировал получившийся материал, обнаружить следы использования ИИ в таком контенте будет практически невозможно.

В самой Open AI тоже признают — если заменить даже 10% сгенерированного текста синонимами, вероятность обнаружения водяного знака падает до 66%. А если поменять четверть слов, точность детекции будет всего 17%.

Автор: Ольга Кашинская
#тема
Послушать в звуке ⬆️

Представляем спикера форума Алексея Карлова:

— преподаватель ИИ в Центре медиапрактик «Высшей школы экономики»,
— генеральный директор Angel Relations Group,
— в своих выступлениях делает упор на практическую пользу, разбирает реальные кейсы, проводит интерактивные сессии и кейс‑игры,
— ключевые темы — PR‑стратегии, цифровые коммуникации, применение ИИ в маркетинге, построение бизнес‑моделей и управление проектами.

✔️ В рамках бизнес-гостиной «Газпром нефти» он проведет практикум по ИИ. В течении 4 часов вы будете подробно разбирать работу с текстами, видео, презентациями.

➡️ Регистрация на бизнес-гостиную «Газпром нефти» по ссылке.
➡️ Программа бизнес-гостиной здесь.
⸻⸻⸻⸻⸻
🔗 Чат участников форума в МАХ

Особые права для умной помощницы

«Алисе AI» могут предоставить расширенный доступ на мобильных устройствах

Инициатива, по данным источников газеты «Коммерсант», предполагает: «Алиса AI» не просто войдёт в перечень обязательного к предустановке софта, но и получит права доступа к системным функциям, уведомлениям и данным пользователя, включая банковские приложения. Это коснется смартфонов, планшетов и умных колонок.

В самом «Яндексе» уверяют: «Алиса» не получает неограниченного доступа к данным и банковским приложениям. «Возможности ассистента на устройстве ограничены механизмами безопасности операционной системы. У него есть доступ только к тем возможностям, на которые пользователь дал явное разрешение в настройках», объясняет PR «Алиса AI» Дарья Усольцева.

Пока инициатива, по данным СМИ, обсуждается в Минцифры. Идея в том, чтобы, расширив права российских ИИ-помощников, исключить преимущество встроенных решений зарубежных производителей. Новые нормы, если их примут, будут работать не на всех гаджетах, напоминает гендиректор Nevel. ai Алексей Хахунов: «В IPhone приложения разделены между собой и технически невозможно сделать так, чтобы какое-то приложение могло собирать данные в других, а вот на Android это возможно».

При этом относиться к рискам для приватности можно по-разному, рассуждает управляющий директор Angel Relations Group Алексей Карлов: «По сути, мобильный оператор знает, о чем мы говорим, что мы пишем в поисковике или приложении на телефоне. Ритейл знает, что мы покупаем. Если появится ассистент, который это объединяет, это будет чем-то аналогично операционной системе. И, видимо, все к этому идет».