ИИ вообще не знает, о чем говорит!

Да ладно?! Он же отвечает на сложные вопросы, пишет статьи, анализирует документы и даже даёт советы!

Когда мы общаемся с нейросетью, возникает ощущение магии.
«Ого! Она разговаривает как человек! Столько всего знает, рассуждает, поддерживает и даже утешает!»
И незаметно мы начинаем ей доверять.
Она же умная! Кажется, знает больше нас.

Но это не так ❗

Нейросеть не понимает мир как это делает человек! За её красивыми ответами стоит механизм.
Представьте: вы спрашиваете ИИ о каком-нибудь историческом событии. Он выдаёт подробный рассказ — с датами, именами и даже названиями научных работ.
Только вот часть этих сведений может оказаться выдуманной.

Почему?

Потому что нейросеть не достает знания из ячейки или из своего внутреннего хранилища и не выполняет поиск данных, как браузер.

"Знания" нейросети это результат ее обучения!
Человек загружает в нейросеть огромное количество данных, и она выявляет закономерности в этих данных. Нейро не запоминает и не хранит все эти данные, она выявляет связи между словами и путем подбора продолжения формирует ответ. Этот процесс называется генерацией.

У человека тоже есть похожий механизм предположения:

допустим, маленький ребёнок учится говорить.
Он слушает взрослых, запоминает, какие слова обычно стоят рядом, как строятся предложения. Постепенно начинает сам составлять фразы, которых раньше никогда не произносил. И ему совсем не обязательно знать правила русского языка!

Нейросеть обучается в чём-то похоже: анализирует огромное количество примеров и выявляет закономерности в языке.
А когда мы задаём ей вопрос, она использует эти закономерности, чтобы последовательно формировать ответ.

Но есть принципиальная разница.

Ребёнок познаёт мир не только через слова. Он видит, слышит, трогает, действует, получает собственный опыт.
А языковая модель может научиться убедительно рассказывать о вещах, с которыми никогда не взаимодействовала так, как человек.

И здесь самое интересное❤️.

Нейросеть умеет создавать правдоподобные ответы. Но правдоподобный — не значит достоверный!

Именно поэтому ИИ может уверенно сообщить то, чего на самом деле не было.

Почему нейросети так убедительно ошибаются и откуда берутся галлюцинации ИИ — расскажу в следующем посте.

У вас попадались ошибки в ответах ИИ?