Разработка AI-системы управления дронами и БПЛА на RL

Полёт в зоне без спутниковой связи, порывы ветра, отказ одного винта — классический автопилот в таких условиях теряет устойчивость. Мы разрабатываем системы управления дронами и БПЛА на обучении с подкреплением под ключ: от аудита телеметрии до лётных проверок. Наши инженеры доводят контур до стабильного поведения в реальных условиях эксплуатации.
Часто задаваемые вопросы

Управление дроном AI: где ломаются классические автопилоты

Классический контур управления строится вокруг заранее рассчитанной модели: коэффициенты подбираются под номинальную массу, аэродинамику и предполагаемый сценарий полёта. Пока условия совпадают с расчётными, автопилот держит траекторию уверенно — проблемы управления дроном начинаются на границах допустимого, там, где модель перестаёт описывать реальность.

Первое — смена полезной нагрузки. Подвесили камеру тяжелее прежней, сместили центр масс — и та же логика даёт перерегулирование и автоколебания: аппарат «клюёт» носом, рыскает, теряет высоту на развороте. Второе — ветер и порывы: регулятор компенсирует возмущение с запаздыванием, и на длинном маршруте ошибка накапливается до нестабильного полёта.

Третье — потеря сигнала и нештатные траектории. Детерминированный сценарий знает «зависни» и «вернись на точку», но не умеет достроить маршрут в незнакомом рельефе или обойти динамическое препятствие. Здесь отказ автопилота выглядит как отказ техники, хотя аппарат исправен — не хватило политики поведения.

Каждое из этих мест — узкое место управления, и лечится оно не подкруткой коэффициентов. Обучение с подкреплением формирует политику иначе: не по формулам, а по опыту тысяч прогонов в симуляторе с ветром, разной массой и обрывами связи. Разбираем, как такая система управления дроном AI закрывает эти сбои.

Что даёт обучение с подкреплением в реальных полётах

Обучение с подкреплением даёт то, чего не вытягивает классический контур стабилизации: политику управления, которая училась не на одной траектории, а на тысячах эпизодов с рандомизацией условий — масса и смещение центра тяжести, порывы ветра, просадка тяги, задержка канала и отказы отдельных датчиков. Агент получает награду за удержание заданной траектории и за завершение миссии, а не за отдельный удачный кадр управления, поэтому в реальном полёте он выбирает режим, который держит задачу целиком, а не парирует одно возмущение.

Измеримо это видно на трёх числах: доля успешно завершённых миссий, максимальное отклонение от заданной траектории и количество ручных вмешательств оператора на час полёта. После переноса обученной политики на борт типично сокращается разброс отклонения по траектории и падает число вмешательств — оператор из «пилота в контуре» становится наблюдателем, который подключается на этапе выбора задания, а не на каждой коррекции.

Отдельный эффект — устойчивость к помехам и подмене навигации. Политику дообучают на сценариях с искажением сигнала и кратковременной потерей навигационного решения, поэтому аппарат не срывается в неуправляемый дрейф, а переходит на удержание по визуальным и инерциальным данным и продолжает маршрут. Целый класс отказов — потеря управления при внешнем воздействии — уходит из статистики, а вместе с ним уходит и ручной режим как обязательный страхующий контур.

Переносимость даёт связка с открытым полётным стеком: мы работаем с PX4 как бортовой платформой, поэтому обученная политика стыкуется с существующим железом и парком без замены аппаратов. Дообучение на логах реальных полётов уточняет модель на конкретных условиях площадки — и автономный полёт перестаёт быть демонстрацией, а становится режимом с предсказуемым процентом выполнения миссий.

Режимы обучения и управления: сравнение подходов

Выбор контура определяется не модой, а тем, сколько реальных полётов вы готовы потратить на обучение и насколько дорога ошибка. Симулятор даёт тысячи эпизодов без риска для железа, но политика, обученная на идеальной модели динамики, разваливается от шума сенсоров и задержек контура. Лётные данные закрывают это расхождение, но их мало и они неравномерно покрывают режимы.

Сравниваем варианты по трём осям: сколько реальных полётов нужно до рабочего качества, как ведёт себя политика вне номинального режима и сколько стоит переобучение после смены платформы или полезной нагрузки.

Вариант Когда подходит Ограничения
Обучение в симуляторе Сложное поведение: облёт препятствий, групповое взаимодействие Расхождение модели и реальности, чувствительность к шуму сенсоров
Дообучение на реальных данных Есть накопленные логи, целевой режим понятен Мало данных на редкие ситуации, медленный перебор политик
Гибридная схема Нужен баланс скорости и устойчивости Нужна инфраструктура записи, синхронизация наблюдений и действий
Классический контур стабилизации плюс обучение верхнего уровня Критична предсказуемость и разбор причин отказа Ниже адаптивность в нестандартных ситуациях

Перенос модели в реальный контур

Это отдельный этап, а не побочный эффект. В обучение закладывают разброс массы и тяги, задержки канала управления, шум и смещение датчиков, ограничения по углам и скорости — тогда политика перестаёт зависеть от единственного набора условий. Проверка идёт по ступеням: стенд, короткие полёты с подстраховкой оператора, затем расширение режимов.

Этапы разработки: от аудита телеметрии до лётных проверок

Порядок работ выстроен так, чтобы ошибки ловились на земле, а не в полёте. Каждый этап заканчивается проверяемым артефактом: разметкой логов, схемой контуров управления, результатом серии прогонов в симуляторе. К следующему шагу переходим после приёмки предыдущего — так управление дроном на основе ИИ отлаживается без риска для аппарата и площадки.

  1. Аудит телеметрии и постановка цели. Разбираем имеющиеся логи: частоту опроса датчиков, пропуски, шум, поведение аппарата на разных режимах и в ручном пилотировании. Критерии приёмки формулируем измеримо — удержание курса и высоты, время реакции на команду, доля успешно пройденных миссий.
  2. Схема контуров и защитных ограничителей. Определяем, что решает обучаемая модель, а что остаётся на классической стабилизации: возврат домой, ограничение высоты, границы зоны, аварийное зависание. Модель не получает управления там, где её ошибка необратима.
  3. Сборка среды обучения. Строим симулятор по обмерам конкретного аппарата и добавляем возмущения: ветер и порывы, смещение центра масс, задержки канала связи, отказы датчиков. Чем честнее модель среды, тем меньше сюрпризов на полигоне.
  4. Настройка модели. Проектируем функцию награды: штрафы за резкие перегрузки, выход из коридора, раскачку. Обучение идёт волнами, версии фиксируются отдельно — нужна возможность откатиться на предыдущую.
  5. Прогон нештатных сценариев. Прогоняем потери сигнала, отказы, разряды, конфликтные траектории. Фиксируем, где политика деградирует предсказуемо, а где ведёт себя нестабильно.
  6. Лётные проверки. Идём по ступеням: стенд, висение, короткие миссии, полный маршрут в разных условиях. Расхождение с симулятором разбираем и уточняем либо модель, либо цифрового двойника.
  7. Сдача системы. Передаём веса модели, конфигурации, скрипты обучения, документацию по переобучению и протоколы лётных проверок, а также сопровождаем первые недели эксплуатации.

Состав поставки: конфигурации, документация, регламенты

Проект сдан не тогда, когда модель уверенно летает в симуляторе, а когда ваша команда может пересобрать, проверить и безопасно откатить систему без нас. Поэтому в поставку входит не только обученная политика управления, но и весь контур её сопровождения — от конфигураций борта до регламента эксплуатации.

  • Конфигурации борта: параметры полётного контроллера, регуляторов и ограничителей с пояснением, какой сценарий какими значениями закрывается и что менять нельзя.
  • Среда обучения: сценарии, функции награды, файлы запусков и зафиксированные зависимости — эксперимент воспроизводится на вашей машине с тем же результатом.
  • Карточки моделей: архитектура, диапазон входных данных, метрики на отложенной выборке и явно описанные границы применимости.
  • Схемы: контур управления, путь данных от сенсоров до команд, точки отказа и поведение борта при потере связи.
  • Политики доступа и роли: кто правит конфигурацию, кто только читает телеметрию, как разделены стенд и реальный борт.
  • Регламент эксплуатации: предполётные проверки, порядок обновления модели, действия при отклонении поведения от ожидаемого.
  • План отката: как вернуть предыдущую версию модели и конфигурации за одну операцию, не останавливая программу испытаний.

Документация по системе ведётся в вашем контуре — репозиторий, реестр моделей, внутренняя база знаний. Приёмка идёт по чек-листу: ваши инженеры сами прогоняют обучение и обновление борта, мы фиксируем расхождения и закрываем их до подписания.

Кейс: стабилизация полёта в зоне без спутниковой связи

Как было до внедрения

Метрики снимали на одном типе миссий — облёт протяжённого объекта в зоне без спутниковой связи: плотная застройка, узкий рельеф, помехи в канале управления. Оператор вёл аппарат вручную по видео с борта. На выборке из десяти вылетов четыре миссии прерваны до конца маршрута, боковое отклонение от трассы доходило до 12–15 метров, а повторный облёт той же трассы не совпадал с предыдущим — сравнивать данные между вылетами было нельзя.

Что изменили и что не сработало с первого раза

Обучили политику управления в симуляторе с рандомизацией динамики, порывов ветра и шума датчиков, затем перенесли на борт. Оценку положения собрали из инерциальных данных, оптического потока и визуальной одометрии, а контур замкнули на ROS 2.

Первая версия проверку не прошла: награда поощряла удержание позиции, и при боковом ветре аппарат зависал вместо продолжения маршрута. Переписали функцию награды, добавили штраф за незавершённый маршрут и расширили рандомизацию возмущений.

Что стало

На той же трассе прерванных миссий — одна из двенадцати, боковое отклонение — около метра, разброс между повторными облётами одной трассы — полметра. Данные стали сравнимыми между вылетами, а оператор перешёл из режима непрерывного управления в режим контроля и вмешательства по отклонению.

Что делать, если на борту уже работает готовый AI-контур

Короткий ответ: переписывать работающий контур не нужно. Готовое решение обычно закрывает нижний уровень — стабилизацию, удержание высоты и курса, отработку команд оператора, — и оно уже проверено на реальных полётах. Обучаемая политика встраивается уровнем выше: она не управляет приводами напрямую, а формирует уставки, которые отрабатывает тот же классический регулятор.

Точка интеграции — интерфейс команд и телеметрии, который уже есть в системе. Если обмен идёт через уставки по скорости, положению и высоте, новая схема подключается без вмешательства в полётный контроллер. Важно, чтобы обе схемы писали в один журнал: тогда поведение сравнивается на одних и тех же полётах, а расхождения видно не по ощущениям, а по данным.

Миграция идёт по режимам, а не целиком. Первый шаг — теневое включение: решения обученной модели считаются и пишутся в лог, но на управление не влияют. Второй — замена одного участка, например обхода препятствий или полёта по маршруту, при сохранении классического контура как резервного. Третий — расширение на остальные режимы, если накопленная статистика подтверждает устойчивость.

Выбор схемы зависит не от новизны подхода, а от зоны ответственности: где классическое управление предсказуемее, его оставляют, а обучаемую часть включают там, где правил становится слишком много и они начинают противоречить друг другу. Такой переход оставляет возможность вернуться к прежнему поведению одним переключением — и это главное условие, при котором замена контура на борту вообще допустима.

Частые технические сомнения перед стартом проекта

Технические сомнения перед стартом обычно одни и те же: как проверять поведение модели без риска для железа, кто отвечает за безопасность полётов и что останется команде после запуска.

Мы считаем политику управления сменным слоем поверх штатной логики борта: его можно отключить или откатить, не выводя аппарат из строя.

Можно ли обучать модель без реальных полётов?

Да. Основная отработка идёт в симуляторе с физикой и цифровым двойником площадки, на борт политика попадает после контрольных сценариев. Режимы расширяем постепенно — от висения до сложных траекторий, с записью телеметрии.

Что будет, если модель ошибётся в воздухе?

Внешний контур ограничений работает независимо от модели: он держит высоту и скорость, удерживает аппарат в разрешённой зоне и возвращает его при потере связи. Политика не управляет приводами напрямую, поэтому её ошибка приводит к срабатыванию предохранителя. Каждый случай разбираем по логам.

Придётся ли переобучать модель под каждый борт?

Обычно нет. Политику обучают с разбросом условий, поэтому она переносится между однотипными аппаратами и терпит небольшие изменения массы и нагрузки. При серьёзной смене конфигурации дообучение идёт в симуляторе на записях полётов.

Что входит в обслуживание после запуска?

Регламент: контроль качества управления по телеметрии, отслеживание ухода модели при износе железа, плановое обновление политики. Передаём документацию, конфигурации и сценарии проверки, чтобы поддержку можно было вести своими силами.

Обсудим задачу и вернёмся с оценкой и планом работ

Чтобы вернуться с оценкой, а не с уточняющими вопросами, нам нужен от вас минимум по проекту. Ниже — то, что реально влияет на архитектуру и сроки: остальное наши инженеры восстанавливают сами по логам, телеметрии и вашей документации.

  • Класс аппарата, схема управления и бортовая платформа, на которую можно поставить модель управления дроном.
  • Целевые сценарии: что аппарат делает на входе, какой результат считается успешным и что считается отказом.
  • Ограничения среды: коридор полёта, ветровая нагрузка, помехи, требования к поведению при потере сигнала.
  • Данные: логи полётов, телеметрия, записи сенсоров, описание полигона или симулятора, где можно набирать опыт без риска для аппарата.
  • Метрики приёмки — доля успешных эпизодов, время выхода в цель, устойчивость в нештатных режимах.
  • Ответственные с вашей стороны: кто открывает доступ к аппаратам и согласует полётные дни.
  • Внешние ограничения по безопасности, которые нельзя нарушать при обучении и проверках.

В ответ вы получаете оценку проекта и план работ: этапы, результат каждого этапа, порядок старта и точки, где мы сверяемся с вами. Отдельно показываем риски — где данных не хватает и где управление придётся ограничивать правилами, — и чем каждый риск закрываем. Опишите задачу в свободной форме: вернёмся с оценкой и планом работ.

Направления AI-разработки

Последние работы

  • Разработка сайта компании B2B ADVANCE
    Разработка сайта компании B2B ADVANCE
    1542
  • Разработка веб-приложения для компании FEEDME
    Разработка веб-приложения для компании FEEDME
    1394
  • Разработка веб-сайта для компании БЕЛФИНГРУПП
    Разработка веб-сайта для компании БЕЛФИНГРУПП
    1081
  • Разработка интернет магазина для компании FURNORO
    Разработка интернет магазина для компании FURNORO
    1369
  • Разработка логотипа компании B2B Advance
    Разработка логотипа компании B2B Advance
    816
  • Разработка веб-приложения для компании Enviok
    Разработка веб-приложения для компании Enviok
    1142