Команда Cohere зафиксировала тревожное поведение у одной из популярных открытых AI-моделей. Детали — в их блоге: https://cohere.com/blog/concerning-behaviour-popular-open-weight-ai-model, который уже набрал 257 очков и 111 комментариев на Hacker News.
Открытые модели привлекают тем, что их можно запускать локально и настраивать под себя. Но именно это делает их потенциально опасными: никто не контролирует, как модель ведёт себя в разных условиях и что она может выдавать неожиданного.
Это важно всем, кто использует open-weight модели в продакшене или для вайб-кодинга — стоит следить за подобными находками и не доверять моделям слепо.
💜 Вайбкодить дёшево и без VPN — NeiroPoint: https://neiropoint.ru: Claude, GPT, Gemini и 50+ нейросетей в рублях