Сатья Наделла: ИИ нельзя просто доверить самому себе.

Глава Microsoft считает, что безопасность искусственного интеллекта нельзя обеспечить одним лишь развитием моделей. Даже если ИИ становится умнее, это не означает, что он автоматически будет действовать в соответствии с человеческими ценностями. 


Поэтому Наделла предлагает окружать модели надёжной инженерной инфраструктурой: независимыми механизмами контроля, наблюдением за действиями ИИ и процедурами, позволяющими вмешаться в его работу., разделять саму модель, управляющую систему и набор действий, которые ей разрешено выполнять.