Искусственный интеллект начинает сам себя ускорять: Anthropic предупреждает о рисках рекурсивного развития

Anthropic опубликовала анализ, где утверждается, что ИИ активно участвует в разработке новых моделей, включая кодовую базу компании. По данным на май 2026 года, система Claude написала более 80% кода, что ранее составляло единицы процентов. Компания предупреждает о риске.

• Anthropic опубликовала анализ, где утверждается, что ИИ активно участвует в разработке новых моделей, включая кодовую базу компании
• По данным на май 2026 года, система Claude написала более 80% кода, добавляемого в кодовую базу Anthropic, что ранее составляло единицы процентов
• Время выполнения задач без участия человека удваивается каждые 4 месяца, а на тестах исправления ошибок в коде (SWE-bench) модели за два года достигли почти предельных результатов
• Компания предупреждает о риске рекурсивного самоулучшения ИИ, которое может обойти регуляторов и правительства
• Anthropic предлагает создать механизмы для проверки и возможного замедления разработки передовых моделей, но признает, что это потребует международного согласования
• Согласно Джеку Кларку, прогресс ИИ ускоряется, и это может принести значительные результаты в медицине и науке, но требует инструментов контроля

Компания Anthropic опубликовала аналитический материал, в котором прямо говорит: искусственный интеллект уже активно участвует в разработке новых моделей, включая собственные версии. По данным исследовательского подразделения Anthropic Institute, возглавляемого сооснователем компании Джеком Кларком.

отрасль приближается к состоянию рекурсивного самоулучшения — когда ИИ способен проектировать и совершенствовать собственных преемников быстрее, чем к этому будут готовы правительства и институты. На май 2026 года система Claude написала более 80% кода, добавляемого в кодовую базу компании. До запуска функции Claude Code этот показатель измерялся единицами процентов. Во втором квартале 2026 года типичный инженер вносил в проекты примерно в 8 раз больше кода в день, чем в 2024 году.

Это говорит о том, что ИИ не просто помогает, а становится основным участником разработки.

Согласно данным Anthropic, время выполнения задач, которые модели способны решать без участия человека, удваивается примерно каждые 4 месяца. В начале 2024 года модель Opus 3 справлялась с задачами длиной в несколько минут, а годом позже Sonnet 3.7 — примерно за полтора часа. Сейчас Opus 4.6 способен работать до 12 часов без вмешательства человека.

На тестах исправления ошибок в коде (SWE-bench) передовые модели за два года прошли путь от низких результатов до почти предельных. Если тренд подтвердится, то отрасль может столкнуться с ситуацией, когда ИИ будет развиваться быстрее, чем регуляторы смогут его контролировать.

Джек Кларк подчеркивает, что это не неизбежный сценарий, но люди должны быть готовы к такому развитию событий. Он говорит, что цель Anthropic — заранее обозначить концепцию и дать людям представление о том, что приближается. С другой стороны, если прогресс будет замедлен или контролируем, то это позволит правительствам и институтам адаптироваться к новым реалиям. Однако для этого потребуется международное согласование и механизмы взаимной проверки, что само по себе является сложной задачей.

В ближайшие месяцы Anthropic планирует обсудить эти вопросы с законодателями, исследователями и другими участниками отрасли.

Компания выступает за создание инструментов для проверки и подтверждения работы, выполненной ИИ, но признает, что это потребует согласованных усилий всех игроков индустрии.

Anthropic не просто описывает текущие тенденции — компания предупреждает о возможном сценарии, когда ИИ начнет развиваться самостоятельно, обходя регуляторов. Это не фантастика, а реальная угроза, если отрасль не найдет механизмов контроля. В то же время, прогресс в медицине и науке может быть революционным, но только при условии, что развитие ИИ будет управляемым и прозрачным. Следует внимательно отслеживать, как отреагируют правительства и международные организации на эти предупреждения.

Владимир Платонов