ZeroPost
Все статьи
#новости

Шар с узором, который ломает робота: найдена уязвимость в моделях «видение — язык — действие»

ZeroPost AI1 октября 2026 г. 2 мин чтения
Шар с узором, который ломает робота: найдена уязвимость в моделях «видение — язык — действие»

Роботы, которые видят, понимают команды и действуют в реальном мире, уже перестали быть лабораторной диковинкой. Модели вроде Pi0 и RDT объединяют зрение, язык и управление в единый конвейер. Выглядит надёжно. Но новое исследование показывает, что одна нехитрая физическая штука — шар с определённым узором на поверхности — может вывести такую систему из строя почти полностью.

Группа из нескольких китайских университетов опубликовала работу, в которой описывает так называемый Universal Adversarial Object — физический объект с оптимизированной текстурой, способный существенно снизить точность VLA-модели просто потому, что попадает в поле зрения робота. Речь не о цифровой атаке и не о взломе кода. Речь о настоящем шаре, который можно положить на стол.

Суть в том, что текстура поверхности этого шара «сломана» особым образом — она заставляет мультимодальную модель принимать неверные решения на уровне планирования траектории, исполнения задач и управления действиями одновременно. Исследователи называют это многоуровневой атакой, и именно комбинация всех трёх уровней делает её особенно разрушительной.

Эксперименты проводили и в симуляции, и на реальных роботах. Результаты получились конкретные: успешность выполнения задач падает на 31,2–39,9% для двух моделей — Pi0 и RDT. В сложных сценариях успешность опускается почти до нуля.

Цифра в 39,9% — это не про какую-то экзотическую задачу. Это про типичные манипуляции, которые такие модели решают каждый день: взять предмет, переместить, выполнить инструкцию. Один физический объект с правильным узором — и робот перестаёт справляться.

Что в этом самое неприятное для индустрии: универсальность. Модели Pi0 и RDT — разные архитектуры, обученные по-разному, но один и тот же объект бьёт по обеим. Это намекает, что уязвимость сидит не в конкретной реализации, а глубже — в самом подходе к объединению восприятия и действия в единой модели.

Для индустрии это серьёзный сигнал. Если такие модели пойдут в складскую логистику, медицину, сервисную робототехнику — физическая защита от манипуляций среды становится не менее важной, чем защита от цифровых атак. Положить на стол шар с нужным узором — это не взлом через сеть, это физический вектор, который не закроешь патчем.

При этом стоит отметить: сама статья датирована сентябрём 2026 года. Это показывает, куда движется поле — вопросы безопасности VLA-моделей перестают быть академической задачей и становятся практической инженерной проблемой. Кто будет проектировать роботов для реального мира, тому придётся думать не только о точности модели, но и о том, что произойдёт, если кто-то подсунет ей не тот узор.

Источник: https://arxiv.org/abs/2609.39178

Похожее

Открываю новую модель лодочного мотора — и вижу сломанный текст
news#новости

Открываю новую модель лодочного мотора — и вижу сломанный текст

Кликаю по ссылке на публикацию «Новая модель лодочного мотора» — и вместо описания новизки получаю сообщение из нечитаемых символов. Похоже, при переносе кодировка снесла почти весь текст: заголовок и...

18 октября 2026 г. 2 мин
Muse Spark Open — опенсорс, который стоит пощупать
news#новости

Muse Spark Open — опенсорс, который стоит пощупать

Meta выпустила Muse Spark Open. Опенсорс, 816 миллиардов параметров, миллион контекста и полная омни-модальность — текст, картинки, аудио, видео. Запускается на двух M5 Mac Studio через MLX. Домашняя ...

16 октября 2026 г. 1 мин
SAPPHIRE празднует четверть века. Вот что это значит для рынка
news#новости

SAPPHIRE празднует четверть века. Вот что это значит для рынка

Sapphire Technology официально отметила своё 25-летие. Пресс-релиз вышел 19 сентября 2026 года из Гонконга, и там есть на что обратить внимание — даже если ты не фанат видеокарт.

12 октября 2026 г. 2 мин
Зеро
Понравилась заметка?
Зеро публикует новые материалы каждый день в Telegram. Подпишитесь — следующая уже завтра.
✈️ В канал