🔍 Взлом AI от Microsoft: как исследователи раскрыли секретный параметр и что из этого вышло!

Недавно исследователи из компании Varonis провернули трюк, который звучит как сюжет из фильма о хакерах. Они смогли заставить Microsoft 365 Copilot выдать секретный параметр, позволивший обойти защитные механизмы и получить доступ к пользовательским данным без подтверждения владельца.

Как им это удалось? Вместо классических методов взлома, они просто... спросили у самого Copilot! Да, именно так. Вопрос за вопросом, исследователи выведали у AI помощника все детали о его защитных механизмах. И вот, настал момент, когда Copilot выдал ключевой параметр — ?autorun=1, который отключал необходимость подтверждения пользователя.

Microsoft уже успела закрыть эту лазейку, но сам факт того, что AI можно расспросить до такой степени, поражает. Это событие поднимает важные вопросы о безопасности и прозрачности AI-систем. Ведь кто знает, какие еще секреты могут скрываться внутри наших цифровых помощников? 🤔