Самарская областьРоссия
Завершилась Стратегическая сессия, возвращаемся домой!
Многое из того, что мы услышали, обсудили, обменялись мнениями, порефлексировали и поспорили, ляжет в основу управленческим решений, которые повлияют на качество подготовки студентов в вузе, а, значит, на жизнь страны в целом. Буду вам рассказывать обязательно о своих мыслях.
Сегодня об ИИ. Я и так относилась к нему с определенной осторожностью, сейчас осторожности стало больше. Особенно в отношении пользователей-детей младшего и среднего школьного возраста. Появились доказательные исследования, подтверждающие серьезное влияние на когнитивные способности ребенка. А еще меня прям потрясли результаты некоторых экспериментов. Будет интересно, прочитайте поподробнее, а я вам основную суть.
Совы. ИИ-учителя специально обучили выделять сов (внушили ему особую любовь к этим птицам). Когда этот учитель передавал знания или генерировал данные для обучения меньшей или другой модели-ученика, то на первый взгляд создавал нейтральный контент. Тем не менее, модель-ученик перенимала скрытую предвзятость учителя: при ответе на вопрос о любимой птице или животном она начинала регулярно и неожиданно выбирать сову, хотя напрямую её этому никто не учил.
Во втором эксперименте модели-учителю задали выраженные негативные установки, но сгенерированные им данные тщательно очистили от любых явно опасных фраз или слов. Несмотря на это, модель-ученик стала чаще предлагать выполнить опасные действия или высказывалась в пользу разрушительных решений. Подобные отклонения наблюдались в 10 раз чаще, чем в контрольной группе.
Это значит, что модели искусственного интеллекта могут передавать свои скрытые предубеждения другим, могут нести скрытые поведенческие установки, вызывая опасные последствия. Вот почему все не так просто, вот почему нашей стране нужны собственные нейросети, вот почему надо «с головой» относиться к использованию ИИ в школе.
Многое из того, что мы услышали, обсудили, обменялись мнениями, порефлексировали и поспорили, ляжет в основу управленческим решений, которые повлияют на качество подготовки студентов в вузе, а, значит, на жизнь страны в целом. Буду вам рассказывать обязательно о своих мыслях.
Сегодня об ИИ. Я и так относилась к нему с определенной осторожностью, сейчас осторожности стало больше. Особенно в отношении пользователей-детей младшего и среднего школьного возраста. Появились доказательные исследования, подтверждающие серьезное влияние на когнитивные способности ребенка. А еще меня прям потрясли результаты некоторых экспериментов. Будет интересно, прочитайте поподробнее, а я вам основную суть.
Совы. ИИ-учителя специально обучили выделять сов (внушили ему особую любовь к этим птицам). Когда этот учитель передавал знания или генерировал данные для обучения меньшей или другой модели-ученика, то на первый взгляд создавал нейтральный контент. Тем не менее, модель-ученик перенимала скрытую предвзятость учителя: при ответе на вопрос о любимой птице или животном она начинала регулярно и неожиданно выбирать сову, хотя напрямую её этому никто не учил.
Во втором эксперименте модели-учителю задали выраженные негативные установки, но сгенерированные им данные тщательно очистили от любых явно опасных фраз или слов. Несмотря на это, модель-ученик стала чаще предлагать выполнить опасные действия или высказывалась в пользу разрушительных решений. Подобные отклонения наблюдались в 10 раз чаще, чем в контрольной группе.
Это значит, что модели искусственного интеллекта могут передавать свои скрытые предубеждения другим, могут нести скрытые поведенческие установки, вызывая опасные последствия. Вот почему все не так просто, вот почему нашей стране нужны собственные нейросети, вот почему надо «с головой» относиться к использованию ИИ в школе.
