Вы готовы полететь на самолёте, в котором ответственность за…
Вы готовы полететь на самолёте, в котором ответственность за безопасность будет возложена не на пилотов, а на развитый искусственный интеллект? На этой неделе в Германии прошла крупная конференция европейских гражданских авиационных властей "Дни искусственного интеллекта EASA". Именно в Европе сейчас наиболее быстро развивается тема ИИ в авиационной технике, и мы, конечно, отслеживаем материалы, которые разрабатываются экспертами. Основное вопрос - это условия, при которых ИИ можно доверить функции, влияющие на безопасность полётов.
Очень интересный документ - это проект третьей редакции концепции применения ИИ (выкладываю). Обсуждаются обучение с подкреплением, большие языковые модели, взаимодействие человека и автоматики. Для российской авиации эта задача тоже становится всё более актуальной. Наработки есть: например, ГосНИИАС ведёт исследованиях виртуальных помощников пилота. Развитие беспилотной авиации усиливает потребность в таких решениях.
Но между полезным алгоритмом и системой, которой можно доверить управление воздушным судном, - пропасть. Высокая точность на испытательной выборке ещё не показывает, как она поведёт себя при непривычном освещении, заснеженной местности, загрязнении камеры или противоречивых показаниях датчиков. А для безопасности полётов особенно существенны редкие ошибки и их последствия.
На мой взгляд, российской отрасли необходимо вырабатывать эти подходы совместно: разработчикам, эксплуатантам, научным организациям и авиационным властям. Зарубежный опыт полезен, но его применение требует сопоставления с нашими нормами, стандартами, условиями эксплуатации и отечественной испытательной базой.
Доказательство безопасности должно создаваться одновременно с алгоритмом. Если откладывать его до завершения разработки, могут потребоваться новые данные, повторное обучение и существенная переработка всей системы. Будущее - не просто за ИИ, будущее за искусственным интеллектом, которому можно надёжно доверять.
Очень интересный документ - это проект третьей редакции концепции применения ИИ (выкладываю). Обсуждаются обучение с подкреплением, большие языковые модели, взаимодействие человека и автоматики. Для российской авиации эта задача тоже становится всё более актуальной. Наработки есть: например, ГосНИИАС ведёт исследованиях виртуальных помощников пилота. Развитие беспилотной авиации усиливает потребность в таких решениях.
Но между полезным алгоритмом и системой, которой можно доверить управление воздушным судном, - пропасть. Высокая точность на испытательной выборке ещё не показывает, как она поведёт себя при непривычном освещении, заснеженной местности, загрязнении камеры или противоречивых показаниях датчиков. А для безопасности полётов особенно существенны редкие ошибки и их последствия.
На мой взгляд, российской отрасли необходимо вырабатывать эти подходы совместно: разработчикам, эксплуатантам, научным организациям и авиационным властям. Зарубежный опыт полезен, но его применение требует сопоставления с нашими нормами, стандартами, условиями эксплуатации и отечественной испытательной базой.
Доказательство безопасности должно создаваться одновременно с алгоритмом. Если откладывать его до завершения разработки, могут потребоваться новые данные, повторное обучение и существенная переработка всей системы. Будущее - не просто за ИИ, будущее за искусственным интеллектом, которому можно надёжно доверять.