Системы автоматического распознавания ложной информации в интернете…

Системы автоматического распознавания ложной информации в интернете включают технологии для выявления дипфейков (поддельных изображений, видео, аудио), сгенерированного нейросетями контента и недостоверных текстовых утверждений. Эти системы используют методы машинного обучения, анализ артефактов, мультимодальный анализ и другие подходы. [```1```](https://www.securitylab.ru/analytics/559172.php)[```6```](https://kontur.ru/talk/spravka/80808-raspoznat_dipfeyk)[```15```](https://rtsystems.ru/deepfake-detectors)

## Детекторы дипфейков

Дипфейки — контент, созданный или изменённый с помощью ИИ, часто с целью дезинформации. Для их обнаружения применяются различные инструменты и платформы:

* Reality Defender — платформа для проверки изображений, видео, аудио и документов в реальном времени. Использует ансамбль специальных моделей и предоставляет пояснения к результатам («heat-map» подозрительных областей). [```1```](https://www.securitylab.ru/analytics/559172.php)

* Sensity AI — анализирует видео, строит многоуровневые графы артефактов: от подсчёта морганий до анализа оптического потока. [```1```](https://www.securitylab.ru/analytics/559172.php)


* Intel FakeCatcher — определяет дипфейки в реальном времени по видеопотоку, оценивая кровоток по мелким изменениям яркости пикселей. Заявляет точность 96% на внутренних тестах. [```1```](https://www.securitylab.ru/analytics/559172.php)[```4```](https://skillbox.ru/media/code/intel-predstavila-tekhnologiyu-raspoznavaniya-dipfeykov/)

* Microsoft Video AI Authenticator — анализирует микропереходы оттенков серого и цветовую субдискретизацию, чтобы определить, был ли кадр манипулирован. [```1```](https://www.securitylab.ru/analytics/559172.php)

* Deepware Scanner — браузерное расширение и мобильное приложение для проверки файлов или ссылок на вероятность дипфейка. [```1```](https://www.securitylab.ru/analytics/559172.php)

* KodikScan (Россия) — бесплатный сервис для проверки изображений, видео, аудио и текстов на признаки генерации с помощью ИИ. Анализирует структуру шума, текстуры, движение лица, голосовые артефакты и языковые паттерны. [```7```](https://trends.rbc.ru/trends/industry/6a1997599a7947a4a0f2550b)

Методы обнаружения дипфейков включают:
* анализ пиксельных артефактов (неестественные переходы, размытые края, сбои в симметрии лица);
* детекцию нарушений мимики и моргания;
* анализ коротких видеофрагментов для выявления микродвижений и нестыковок. [```15```](https://rtsystems.ru/deepfake-detectors)

## Инструменты для проверки текстов и фактов

Для выявления ложной информации в текстах используются фактчекеры и системы на основе ИИ:

* StudyAI — агрегатор нейросетей для проверки фактической достоверности. Находит ошибки, нестыковки в цифрах и датах, логические противоречия. [```2```](https://vc.ru/ai/2849748-neyroseti-dlya-faktchekinga)

* UseGPT — инструмент для работы с ChatGPT, помогает верифицировать утверждения, оценивая соответствие выводов исходным данным. [```2```](https://vc.ru/ai/2849748-neyroseti-dlya-faktchekinga)

* FICHI.AI — платформа для проверки загруженных файлов на наличие недостоверных тезисов и логических разрывов. [```2```](https://vc.ru/ai/2849748-neyroseti-dlya-faktchekinga)

* Factbot (от Snopes) — чат-бот для автоматической проверки фактов. Анализирует запросы и возвращает результаты на основе базы данных Snopes. [```13```](https://www.securitylab.ru/blog/personal/xiaomite-journal/354567.php)

* Google Fact Check Tools — набор инструментов для проверки достоверности информации в новостях и заявлениях. Включает Fact Check Explorer для поиска проверенных фактов по ключевым словам. [```11```](https://dept.one/memo/factcheck/)

* PolitiFact — сервис, оценивающий достоверность политических высказываний с помощью шкалы «правда — ложь». [```11```](https://dept.one/memo/factcheck/)

## Криптографические и метаданные-ориентированные решения