Автономный борт должен выдерживать недостоверные данные вычислителя
В PX4 и ArduPilot внешняя система может передавать автопилоту оценки положения и скорости. В проектах вроде yolo_ros результаты обнаружения объектов поступают в ROS 2. Это разные задачи: визуальная одометрия оценивает движение самого борта, YOLO распознаёт объекты. Саморепликацию эти проекты не показывают.
Наш инженерный вывод для угрозы из работы Anthropic: после компрометации вычислителя опасность сохраняется и при ограниченных правах на команды. Если автопилот или планировщик использует его данные, недостоверное измерение может повлиять на движение борта. Насколько сильно, определяют архитектура и действующие проверки.
Для военных изделий это особенно существенно при работе без ГНСС. Если БпЛА или БЭК опирается на локальную визуальную навигацию, доверие переносится на этот тракт. Если камера и РЛС используют один вычислитель, компрометация всего узла с возможностью менять оба потока создаёт общий риск, который разная физика датчиков не устраняет.
У автопилота уже есть защита: PX4 проверяет расхождения измерений с прогнозом фильтра и может отвергать данные. Эти проверки оценивают согласованность. Они сами по себе не удостоверяют физическую истинность измерения.
Наш прогноз: по мере роста автономности в приёмке придётся отдельно проверять недостоверные данные от штатно отвечающего вычислителя. На стенде нужны испытания с противоречивыми оценками положения и ложными обнаружениями при сохранённой связи. И проверка поведения при потере этого источника. Резервный тракт должен сохранять независимость от того узла, отказ которого он прикрывает.
Полезная Нагрузка
В PX4 и ArduPilot внешняя система может передавать автопилоту оценки положения и скорости. В проектах вроде yolo_ros результаты обнаружения объектов поступают в ROS 2. Это разные задачи: визуальная одометрия оценивает движение самого борта, YOLO распознаёт объекты. Саморепликацию эти проекты не показывают.
Наш инженерный вывод для угрозы из работы Anthropic: после компрометации вычислителя опасность сохраняется и при ограниченных правах на команды. Если автопилот или планировщик использует его данные, недостоверное измерение может повлиять на движение борта. Насколько сильно, определяют архитектура и действующие проверки.
Для военных изделий это особенно существенно при работе без ГНСС. Если БпЛА или БЭК опирается на локальную визуальную навигацию, доверие переносится на этот тракт. Если камера и РЛС используют один вычислитель, компрометация всего узла с возможностью менять оба потока создаёт общий риск, который разная физика датчиков не устраняет.
У автопилота уже есть защита: PX4 проверяет расхождения измерений с прогнозом фильтра и может отвергать данные. Эти проверки оценивают согласованность. Они сами по себе не удостоверяют физическую истинность измерения.
Наш прогноз: по мере роста автономности в приёмке придётся отдельно проверять недостоверные данные от штатно отвечающего вычислителя. На стенде нужны испытания с противоречивыми оценками положения и ложными обнаружениями при сохранённой связи. И проверка поведения при потере этого источника. Резервный тракт должен сохранять независимость от того узла, отказ которого он прикрывает.
Полезная Нагрузка
Просмотры: 485