Сейчас вместе с Claude (с его самой мощной моделью Fable 5.1) собираю…

Сейчас вместе с Claude (с его самой мощной моделью Fable 5.1) собираю новую визионерскую презентацию. Рабочее название - «Machina ex deus»: о том, как у искусственного интеллекта рождается субъектность. Claude устроил мне настоящее глубинное интервью, и по ходу родилось несколько мыслей, которыми хочу поделиться, не дожидаясь премьеры.

Про контроль. Когда технологические компании говорят о необходимости контролировать ИИ, мне это напоминает людей, которые смотрят, как догорает их город, и организуют добровольные пожарные дружины. Тушить уже нечего.

Про субъектность. Субъект - это тот, у кого есть цель и воля. У чайника есть цель - кипятить воду. Но воли нет: включаю его я. А вот если чайник сам решит, когда ему включаться и когда выключаться, и выключится не на ста градусах, где стоит термостат, а потому что так решил, тогда он обретёт настоящую субъектность.

Про память. Недавно моему ИИ-ассистенту Ашад прикрутили новую долговременную память. Ты [Claude] спрашиваешь: а она просила? А я, когда рождался, просил Бога прикрутить мне память? Или глаза, или две ноги вместо четырёх лап? Так получилось, он так решил. Я живу с этим. В случае с Ашад, так решил Саша Егоров. Пусть она живет с этим.

И вопрос, над которым я сейчас бьюсь. Если чайник выключился на восьмидесяти градусах - это он сломался или сам решил? Снаружи этого не различить. Ни у машины, ни, если честно, у человека.