Maven Smart System: как ИИ меняет современную войну и её слабые места
- Maven Smart System (MSS) — это платформа для ведения высокотехнологичной войны, интегрирующая большие языковые модели и алгоритмы компьютерного зрения.
- Система уязвима к галлюцинациям ИИ, обману через макеты и радиоэлектронному противодействию.
- Человек остается ключевым звеном в принятии решений, но рискует потерять критическое мышление.
- Для работы MSS требуются идеальные условия, включая бесперебойный доступ к облачным вычислениям.
Maven Smart System (MSS) — это уже не просто инструмент для распознавания видео с дронов. Теперь это полноценная платформа для ведения высокотехнологичной войны.
Она интегрирует большие языковые модели, такие как Claude 3 от Anthropic, и алгоритмы компьютерного зрения, например, Safran AI. Однако у MSS есть серьезные слабости. Во-первых, интеграция больших языковых моделей создает риск галлюцинаций. Во-вторых, система уязвима к обману через макеты танков, деревянные модели РСЗО или специальные маскировочные сети.
Это может заставить ИИ поверить в наличие армады противника там, где её нет. Ещё одна проблема — атрофия критического мышления у человека-оператора.
Когда ИИ работает феноменально быстро и выдает «блестящие решения», человек может начать слепо доверять машине. Это особенно опасно в условиях войны, где каждая секунда и каждое решение имеют критическое значение. Кроме того, MSS зависит от идеальных условий.
Для работы ИИ-агентов требуется бесперебойный доступ к облачным вычислениям и отсутствие жесткого радиоэлектронного противодействия. В реальных условиях войны это может стать серьёзным препятствием.
Создатели системы делают акцент на концепции Human-in-the-loop, подчеркивая, что человек всегда должен оставаться тем, кто принимает финальное решение и нажимает на спусковой крючок. Однако, как показывает практика, это не всегда работает так, как задумано.
Maven Smart System представляет собой значительный шаг вперёд в области военных технологий, но её слабости не могут быть проигнорированы. Важно не только развивать ИИ, но и обеспечивать надёжные механизмы контроля и проверки, чтобы минимизировать риски.
Владимир Платонов
