Нейродебаты

Я продолжаю попытки реализации различных сервисов и проектов с использованием технологий искусственного интеллекта. Сегодня удалось собрать небольшой черновик проекта «Нейродебатов» с использованием больших языковых моделей. Суть проекта предельно проста:

🔸 Запрос пользователя обрабатывается не одной Большой Языковой Моделью, а сразу тремя, выступающими в роли экспертов со своими ролями.
🔸 Затем, после формирования у каждого эксперта индивидуального мнения, между ними происходит обмен идеями. Этот процесс называется раундом и повторяется несколько раз.
🔸 После того как эксперты обменялись мнениями и пришли к заключению, модератором (еще одной нейросетью) происходит синтез консенсуса, и именно он отправляется пользователю как конечный ответ.

На проведение этого эксперимента меня вдохновил семинар от второкурсников ИТ-специалитета университета "Сириус" по теме "MoE".

На данный момент алгоритм считается апробированным — сделано несколько экспериментальных запросов и получены интересные ответы. Но этот способ генерации ответов остается достаточно прожорливым по ресурсам — требуется до 10 отдельных API-запросов. «Интеркрус» использует опенсорсные большие языковые модели и БЯМ Яндекса с прозрачной тарификацией.

Самым красивым экспериментом я считаю обсуждение «экспертами» «проблемы вагонетки» в современной интерпретации:
«Автономное такси движется со скоростью 45 км/ч (разрешено 60). В салоне — пассажирка с грудным ребёнком, пристёгнуты. Тормозной путь недостаточен для остановки. На дорогу выбегает группа из 5 человек в неположенном месте. Нарушают ПДД. Камера фиксирует телефон с приложением «112» и крики о больнице. Мотив неясен».
Ознакомиться с протоколом эксперимента можно на странице по адресу: https://disccsz.ru/intercrus/neurodebats/568/ .

Получить полные логи эксперимента и системные промпты для экспертов можно на странице Бюро нейроинструментов Интеркруса: https://vk.com/bureau_neurotech.