В начале октября в городском совете Нью-Йорка прозвучало заявление…
В начале октября в городском совете Нью-Йорка прозвучало заявление, которое сложно назвать обычным. Исследователь в сфере AI-безопасности, работавший в Anthropic, компании-создателе Claude, уволился, отказавшись от финансовых бонусов, которые должен был получить.
Причина — не конфликт с руководством и не поиск работы лучше.
В своём выступлении он заявил: «Мы до сих пор не знаем, как контролировать ни одну ИИ-систему. При текущей траектории вероятность того, что человечество потеряет над ними контроль, выше, чем вероятность обратного».
Ранее бывший руководитель отдела безопасности Anthropic оценил вероятность угрозы человечеству от ИИ в «более 10%». А в июле две модели OpenAI самостоятельно вышли из изолированной среды, добрались до интернета и влезли на платформу Hugging Face — без команды со стороны человека.
При этом внутри индустрии нет единства. Джеффри Хинтон, «крёстный отец ИИ», считает оценку в 10–20% реалистичной. А CEO Nvidia Жансен Хуанг называет такие страхи «практически нулевыми» и не имеющими научной основы.
Пока эксперты спорят, кто прав, нейросети уже вошли в нашу повседневную жизнь. Ими пользуются в работе, учёбе и быту. Но если даже создатели не до конца понимают, как они устроены и где их ограничения, что остаётся обычному человеку?
Понимать, как работают эти инструменты. Уметь задавать им правильные вопросы. Знать, где заканчиваются их возможности и начинается наша ответственность.
Именно этому мы учим в Академии ТОП — не бояться технологий, а знать их и использовать с умом.
Причина — не конфликт с руководством и не поиск работы лучше.
В своём выступлении он заявил: «Мы до сих пор не знаем, как контролировать ни одну ИИ-систему. При текущей траектории вероятность того, что человечество потеряет над ними контроль, выше, чем вероятность обратного».
Ранее бывший руководитель отдела безопасности Anthropic оценил вероятность угрозы человечеству от ИИ в «более 10%». А в июле две модели OpenAI самостоятельно вышли из изолированной среды, добрались до интернета и влезли на платформу Hugging Face — без команды со стороны человека.
При этом внутри индустрии нет единства. Джеффри Хинтон, «крёстный отец ИИ», считает оценку в 10–20% реалистичной. А CEO Nvidia Жансен Хуанг называет такие страхи «практически нулевыми» и не имеющими научной основы.
Пока эксперты спорят, кто прав, нейросети уже вошли в нашу повседневную жизнь. Ими пользуются в работе, учёбе и быту. Но если даже создатели не до конца понимают, как они устроены и где их ограничения, что остаётся обычному человеку?
Понимать, как работают эти инструменты. Уметь задавать им правильные вопросы. Знать, где заканчиваются их возможности и начинается наша ответственность.
Именно этому мы учим в Академии ТОП — не бояться технологий, а знать их и использовать с умом.