Интерфейс как коммуникация с ИИ

В определённый момент я понял, что созданный артефакт редактора (так называется в Claude HTML инструмент, созданный в нём, и работающий пока только внутри этой среды ИИ) — ещё и средство общения с ИИ. Причём, оно стоило дешевле общения в чате. Потому что часть функций реализовалась программно и не тратило токены, а часть передавалось боту напрямую, он не тратил токены на то, чтобы понять мой запрос и запросить эти же данные.

Токены, если кто не знает, самая сильная боль всех тех, кто пытается работать с нейронкой профессионально. По идее один токен — один запрос к ИИ. И у тебя есть некий запас этих запросов, который можно покупать. Но к моменту, когда я начал работать с нейронкой, уже произошла дикая инфляция этих токенов, и один запрос мог стоить и по 100 000 токенов. Тем более, когда у беседы есть большая история (контекст), которая, с одной стороны, помогает боту быть в теме, с другой, жрет ещё больше токенов за один запрос. А сколько их у тебя всего, и сколько потратит каждый запрос, вообще хрен узнаешь из Клода. Там все работало приблизительно, и опираться можно было только на дневные и недельные лимиты, которые есть на плане Pro. С бесплатным аккаунтом, кстати, вайбкодингом вообще не заняться.

Так что экономия токенов — это важно. Но создателям ИИ не выгодно, чтобы ты знал, как это делать. Так что сами боты тут не сильно помогут — разве что дадут общие советы. Вот люди и придумывают разные лайфхаки.

Позже такой же подход я применил, когда у меня уже была куча агентов со своими задачами. И чтобы не тратить токены на коммуникацию с ними, я попросил их сделать панель со списком своих задач с кнопками управления ими. Взаимодействие через кнопки не добавляет контекста и не тратит токены на понимание языкового запроса. Вот и экономия.

А редактор стал ещё и способом коммуникации. Вместо копирования текста и обращения вручную, я сделал кнопку, которая отправляла выбранный фрагмент на анализ. Это и быстрее, чем писать запрос, и экономнее.

Пост в блоге →