Вывод модели

Платформа данных Embodiflow предоставляет комплексные сервисы вывода модели, поддерживая развертывание обученных моделей роботизированного обучения одним кликом как производственные сервисы вывода. Платформа поддерживает множественные форматы моделей и гибкие методы развертывания, предоставляя возможности AI-вывода полного сценария от облака до края для роботизированных приложений.

Особенности продукта

Платформа предоставляет полный конвейер от обучения модели до развертывания вывода, поддерживая множественные методы валидации и развертывания вывода:

Метод вывода	Сценарий применения	Описание
Тест симуляционного вывода	Быстрая валидация	Использование случайных данных или пользовательских входов для быстрой проверки функциональности и производительности вывода модели
Тест файла MCAP	Валидация реальных данных	Использование записанных демонстрационных данных робота для проверки эффектов вывода модели в реальных сценариях
Офлайн развертывание на краю	Применение в производственной среде	Развертывание сервисов вывода на локальных GPU роботов для управления в реальном времени с низкой задержкой

Рабочий процесс вывода

Платформа предоставляет продуктизированный процесс развертывания вывода, реализующий полные операции от выбора модели до производственного развертывания через визуальные интерфейсы без требования опыта программирования:

1. Выбор источника модели

Платформа поддерживает множественные источники моделей:

• Использование тонко настроенной модели - Выбор моделей, обученных на платформе, автоматическое наследование конфигураций обучения
• Загрузка пользовательской модели - Поддержка основных форматов, таких как SafeTensors, PyTorch, ONNX
• Использование предобученной модели - Предоставление проверенных базовых моделей для быстрого запуска

2. Настройка и развертывание сервиса

После завершения развертывания сервисы вывода предоставляют комплексный мониторинг состояния:

Информация о сервисе

• Адрес хоста и порт - Адрес доступа к API вывода
• Соединение WebSocket - Информация о соединении для вывода в реальном времени
• Использование ресурсов - Мониторинг использования CPU и памяти в реальном времени
• Состояние контейнера - Состояние работы контейнера Docker и ID

Спецификации входа/выхода модели

Сервисы вывода обладают возможностями интеллектуальной адаптации, автоматически распознавая и адаптируясь к требованиям входа/выхода различных моделей:

• Вход изображения - Интеллектуальная адаптация количества камер (один или несколько видов) и разрешения (автоматическое масштабирование)
• Вход состояния - observation.state [12], observation.gripper [2], observation.score [1]
• Выход действия - action [12] команды управления суставами робота

---

к сведению

Вышеуказанная информация отображает полную конфигурацию сервисов вывода, помогая пользователям понимать требования входа/выхода модели для обеспечения правильного использования функциональности вывода.

Функции тестирования вывода

Тест симуляционного вывода

Функциональность симуляционного вывода предоставляет удобные методы валидации сервиса вывода:

• Задачи естественного языка - Ввод инструкций выполнения робота, таких как "Pick up the apple and place it in the basket"
• Интеллектуальная генерация данных - Заполнение тестовых данных одним кликом, включая файлы изображений и значения состояния суставов
• Мгновенное выполнение вывода - Нажмите кнопку отправки, чтобы немедленно получить результаты вывода модели
• Отображение показателей производительности - Отображение ключевых метрик в реальном времени, таких как время запроса (2479ms) и время вывода (2356ms)

Тест файла MCAP

Функциональность тестирования файла MCAP поддерживает использование реальных демонстрационных данных робота для валидации вывода:

• Загрузка файла данных - Выбор файлов данных MCAP, содержащих полные процессы операций робота
• Интеллектуальный анализ данных - Система автоматически извлекает мультимодальные данные (последовательности изображений, состояния суставов, данные датчиков)
• Последовательный пакетный вывод - Выполнение непрерывного вывода на полных последовательностях действий для проверки временной согласованности модели
• Анализ сравнения эффектов - Количественное сравнение результатов вывода с оригинальными экспертными демонстрациями

Офлайн развертывание на краю

Функциональность офлайн развертывания на краю полностью мигрирует сервисы вывода на локальные GPU-устройства робота для производственных приложений:

Стандартизированный процесс развертывания

1. Подготовка среды - Установка необходимых пакетов зависимостей Python на контроллерах роботов
2. Загрузка образа - Получение полных образов Docker, содержащих среду вывода, веса модели и конфигурации
3. Запуск сервиса - Запуск сервисов вывода на локальных GPU через команды Docker
4. Подключение клиента - Запуск скриптов клиента ROS для установления связи в реальном времени с сервисами вывода

Преимущества производственного применения

• Архитектура краевых вычислений - Вывод выполняется локально на роботах, полностью устраняя сетевую задержку и зависимости
• Глубокая интеграция ROS - Беспрепятственная подписка на темы датчиков и прямая публикация команд управления суставами
• Управление замкнутым циклом в реальном времени - Поддержка высокочастотных (2-10Hz) циклов восприятие-решение-выполнение
• Промышленная надежность - Подходит для промышленных производственных сред с сетевыми ограничениями или высокими требованиями безопасности

---

Через сервисы вывода платформы данных Embodiflow вы можете беспрепятственно развертывать обученные модели роботизированного обучения в производственные среды, от облачной валидации до краевого развертывания, достигая полных замкнутых циклов применения модели.