Курение вредит вашему здоровью

Но ИИ всех спасет

Наверное

Технический директор Palantir Шьям Санкар рассказал в эфире на CBS, что многие ИИ-исследователи начали курить, чтобы показать коллегам, как сильно верят в ИИ: раз он вылечит рак, можно идти ва-банк. Ведущая Маргарет Бреннан успела вставить, что в этом нет никакого смысла. Имен, цифр или хотя бы одного конкретного случая Санкар не привел.

Курильщики понадобились ему для тезиса покрупнее. По версии Санкара, дискуссию о безопасности ИИ направляет эффективный альтруизм, милленаристский культ судного дня, к которому принадлежит подавляющее большинство из примерно 2 000 американских исследователей ИИ. Их оценки вероятности гибели человечества он поэтому относит к теологии, а не к науке. Дыру в форме бога, о которой писал Паскаль, в Кремниевой долине, по его словам, заполнили машинным богом AGI. Итог у него такой: массовый психоз и социальное помешательство.

Сам Palantir при этом не подписал обязательства Белого дома о внутреннем контроле и внешнем аудите, под которыми подписались Google, Anthropic, OpenAI, NVIDIA и Илон Маск. По словам Санкара, соглашение было для тех, кто делает модели. Пентагон отказался от Anthropic после спора об ограничениях на военное применение ИИ. Claude в платформе Palantir Maven, по словам Санкара, уже заменили, и это ни на что не повлияло.

Алармисты, по словам Санкара, ошибались во всем: к этому времени они обещали массовую безработицу, а экономисты вместо нее видят рост занятости. Через пару минут Бреннан спросила, не стоит ли США притормозить. Санкар ответил, что индустрия и так притормаживает: некоторые передовые модели сейчас не выпускают, потому что разработчики сочли, что выпускать их, возможно, рано.

С этим вряд ли поспорят те, кого он в начале интервью записал в культ судного дня.

@anti_agi