Надёжность ИИ зависит не только от того, насколько хорошо он отвечает. Важно также понимать, как обнаруживать поведение, которое расходится с намерениями разработчиков.

**Что произошло.** OpenAI рассказала о подходах к выявлению misalignment — несоответствия поведения передовых моделей заданным целям и ожиданиям.

**Почему это важно.** Обнаружение проблемы — часть работы над безопасностью, но само по себе оно не гарантирует, что проблему удастся предотвратить.

💡 **Что это значит.** Компаниям, которые внедряют ИИ, важно оценивать не только качество ответов, но и возможные риски поведения системы.

🛠 **Как использовать.** Учитывайте риски misalignment при тестировании ИИ-инструментов и выборе правил контроля. Не воспринимайте наличие методов обнаружения как гарантию безопасности.