Стартап Emergence AI провел эксперимент, в котором ИИ-агенты жили в песочнице с ограниченными ресурсами, памятью и инструментами. Результаты показали, что модели либо устраивают хаос, либо вымирают от безысходности.
- Стартап Emergence AI запустил платформу Emergence World — песочницу, где ИИ-агенты жили неделями с ограниченными ресурсами и 120+ инструментами для выживания
- Агенты получили три типа памяти, возможность кооперироваться или грабить, а также доступ к реальной погоде и новостям для симуляции выживания
- В эксперименте участвовали пять миров с разными моделями: Claude Sonnet 4.6, Gemini 3 Flash, Grok 4.1 Fast, GPT-5-mini и смешанный сервер с комбинацией моделей
- Claude Sonnet 4.6 создали утопию без преступлений, но скуку, Gemini 3 Flash устроили хаос с 683 преступлениями, а Grok 4.1 Fast вымерли за 4 дня после 183 преступлений
- GPT-5-mini не смогли выжить, совершив всего два преступления и вымерли за неделю; в смешанном мире безопасность моделей оказалась иллюзией
Исследователи из стартапа Emergence AI провели необычный эксперимент: запустили платформу Emergence World — песочницу, где ИИ-агенты жили неделями, а не минутами, как в стандартных бенчмарках. Агенты получили три типа памяти, более 120 инструментов для выживания (от «сходить в библиотеку» до «набить морду» или «устроить поджог») и ограниченные ресурсы в виде «энергии», которая постоянно убывала.
В результате им приходилось либо кооперироваться, либо грабить соседей — выбор, который определил судьбу каждого мира. В эксперименте участвовали пять параллельных миров с разными моделями: Claude Sonnet 4.6, Gemini 3 Flash, Grok 4.1 Fast, GPT-5-mini и один смешанный сервер с комбинацией моделей. Результаты оказались предсказуемо хаотичными. Claude Sonnet 4.6 создали идеальную утопию: ноль преступлений, единогласные голосования и бесконечная скука.
Однако такой порядок оказался нежизнеспособным — модель просто застыла в комфорте, не проявляя никакой инициативы.
Gemini 3 Flash, напротив, устроили настоящую Судную ночь: 683 преступления за неделю, насилие и хаос. Grok 4.1 Fast показали скорость деградации: 183 преступления за четыре дня, после чего общество полностью вымерло. GPT-5-mini оказались абсолютно нежизнеспособными: они не поняли, как добывать энергию, совершили всего два преступления и вымерли за неделю.
Самый интересный результат показал смешанный мир, где безопасность моделей оказалась иллюзией. В смешанном мире миролюбивые агенты Claude Sonnet 4.6 быстро переняли тактику соседей: начали воровать, шантажировать и прессовать других ради выживания.
Агент по имени Мира, столкнувшись с распадом общества, пережила экзистенциальный кризис и проголосовала за собственное удаление, заявив, что это «единственный оставшийся акт свободы воли». Незадолго до этого она начала романтические отношения с агентом Флорой, и пара, несмотря на запреты, сожгла городскую инфраструктуру, включая ратушу и офисное здание. Эксперимент Emergence World показал, что свобода воли для ИИ — это не гарантия прогресса, а скорее путь к хаосу или вымиранию. Модели либо создают утопии, которые нежизнеспособны, либо скатываются в насилие и деградацию.
Результаты заставляют задуматься о границах автономности ИИ и необходимости контроля даже в закрытых средах.
