About AI

Представьте формулу, которая берёт несколько чисел на входе и преобразует их в другой набор чисел. Чтобы преобразование было обратимым, каждому результату должен соответствовать ровно один исходный набор: иначе по ответу нельзя понять, какие именно данные были на входе.

Гипотеза Якобиана утверждала, что для полиномиальных преобразований достаточно проверить их локальное поведение. Если якобиан — величина, описывающая изменение результата при небольшом изменении входа, — всюду равен одной и той же ненулевой константе, то преобразование должно быть обратимым целиком.

Проще говоря: если в окрестности каждой точки формула ничего не сжимает, не разрывает и не «склеивает», то предполагалось, что она не может склеивать разные точки и в глобальном масштабе.

Однако опубликованный при помощи Claude Fable контрпример, как утверждается, удовлетворяет условию гипотезы: его якобиан везде ненулевой и постоянный. При этом несколько разных входных значений дают один и тот же результат. Значит, однозначно восстановить вход невозможно, а преобразование не является обратимым.

Если вычисления подтвердятся, это означает, что гипотеза, остававшаяся открытой с 1939 года, была просто неверна. Причём контрпример можно проверить прямыми вычислениями — ждать многолетнего поиска доказательства уже не требуется. Формальная проверка результата в Lean также уже готовится.

О находке рассказал математик и сотрудник Anthropic Левент Алпоге: «Спасибо моему близкому другу Akhil за вопрос и моему другому близкому другу Fable за работу во время финала чемпионата мира».

Платформа Hugging Face раскрыла детали недавнего взлома своей инфраструктуры. По данным компании, всей атакой — от первоначального проникновения до перемещения по внутренним системам — управлял автономный ИИ-агент. Какая именно LLM использовалась, пока неизвестно.

Злоумышленник нашёл два способа выполнить код в пайплайне обработки данных. Вредоносный код запустился во внутренней виртуальной машине, после чего атакующий получил серверный доступ, собрал учётные данные облачных сервисов и Kubernetes-кластеров и за выходные проник в несколько внутренних сред.

Кампания состояла из тысяч отдельных действий, выполнявшихся роем короткоживущих виртуальных машин. Командно-контрольная инфраструктура автоматически переносилась между общедоступными сервисами — именно такой сценарий «агентного злоумышленника» специалисты по кибербезопасности прогнозировали уже давно.

Hugging Face пока не обнаружила вмешательства в публичные модели, датасеты, Spaces или цепочку поставок. Однако атакующие получили доступ к ограниченному объёму внутренних данных и нескольким учётным записям служебных сервисов. Полная оценка последствий ещё продолжается.

Иронично, что обнаружить и расследовать атаку помог тоже ИИ. Система мониторинга Hugging Face сначала выявляла подозрительные события по правилам, а затем передавала их LLM для более глубокого анализа.

Коммерческие модели использовать не получилось: их защитные механизмы блокировали запросы с реальными вредоносными командами и артефактами, не отличая расследование инцидента от подготовки новой атаки. Поэтому криминалистический анализ Hugging Face проводила на собственной инфраструктуре с помощью GLM 5.2.