Разобрал интервью Сэма Альтмана Дэвиду Сенре. Несколько раз за…

Разобрал интервью Сэма Альтмана Дэвиду Сенре. Несколько раз за разговор он возвращается к тому, как сильно ожидания расходились с происходящим: от скорости внедрения ИИ до первых дней OpenAI. Выписал эти истории с таймкодами.

03:38 — После GPT-4 всё должно было измениться быстрее

Альтман ожидал, что после выхода GPT-4 рынок софта начнёт перестраиваться гораздо быстрее. Теперь признаёт, что недооценил инерцию: люди продолжают покупать у знакомых компаний и пользоваться инструментами привычным способом.

Причём он видит в этом пользу. Постепенный переход даёт обществу время освоиться. Возможности технологии и готовность людей менять свою жизнь развиваются с разной скоростью.

06:18 — Собственные привычки тоже остались на месте

Он сам продолжает копировать текст между приложениями и перебирать письма, хотя считает, что часть этой работы уже мог бы поручить Codex. За 20 лет такие действия стали для него привычным способом чувствовать себя продуктивным.

И часть ответственности он относит к продукту. Если приходится постоянно решать, что сделать самому, а что поручить агенту, новый способ работы ещё требует слишком много внимания. Он сравнивает нынешний этап со смартфонами до iPhone: многие технические возможности уже появились, удобный способ собрать их вместе ещё ищут.

Мне понравилось, что в этом месте он разбирает собственное поведение. Пользователь может понимать пользу инструмента и всё равно продолжать делать по-старому.

17:50 — Преподаватель советовал держаться подальше от глубокого обучения

По воспоминаниям Альтмана, во время работы в университетской лаборатории примерно в 2005 году преподаватель объяснил ему, что глубокое обучение — надёжный способ испортить карьеру: пробовали долго, ничего не работает. Альтман поверил и занялся другими направлениями.

Позже в разговоре он сам оговаривается, что воспоминания о детских интересах могли измениться под влиянием нынешней работы. Было интересно услышать эту осторожность от человека, чью биографию легко пересказать как последовательное движение к заранее выбранной цели.

29:11 — Его беспокоит концентрация власти

Альтман называет два риска: потерю контроля над сильным ИИ и сосредоточение слишком большой власти у одной компании, модели или человека. Он критикует сценарий, в котором людям обещают благополучие в обмен на отказ от возможности влиять на будущее.

У меня здесь остаётся вопрос к устройству самой платформы. Если множество компаний строят работу поверх одного поставщика ИИ, зависимость от его решений тоже растёт. В интервью нет готового ответа, как совместить масштаб такой платформы с самостоятельностью тех, кто на ней работает.

43:43 — Агенту не хватает контекста о работе

Альтман хочет помощника, который сможет прочитать рабочие обсуждения, отзывы пользователей и исследования, на которые у него самого не хватает времени. И затем поможет принять решение с учётом этой информации.

У Сенры уже есть свой пример. Он сохраняет заметки из книг с 2018 года, добавил расшифровки Founders и использует собственный инструмент при подготовке выпусков. Так можно вернуться к истории, которую читал семь лет назад и уже успел забыть.

Для меня это довольно конкретный ориентир при работе с агентами: доступна ли им история задачи, прошлые решения и причины отказа от предыдущих вариантов. Иначе каждое новое обсуждение приходится начинать с восстановления того, что уже было известно.

54:08 — В OpenAI сомневались, надолго ли людям нужен ChatGPT

По рассказу Альтмана, примерно через два месяца после запуска внутри компании обсуждали