Красная тревога: Anthropic призывает остановить ИИ-гонку из-за милитаризации моделей

Индустрия искусственного интеллекта натолкнулась на предел собственной безопасности. 12 сентября 2026 года глава Anthropic Дарио Амодей опубликовал меморандум "We Must Pace the Frontier", призвав мировые ИИ-лаборатории заключить перемирие и кардинально замедлить разработку новых моделей.

Причина этой паники вскрылась синхронно: лаборатория опубликовала threat-intelligence отчет, детально описывающий случаи боевого и криминального использования нейросети Claude. Выяснилось, что алгоритм применялся для создания софта, управляющего автономными роями FPV-дронов (с выбором целей и координацией), а также для кибератак и автоматизации слежки. Инструменты выравнивания (alignment) провалились. Бигтех осознал, что мощь Agentic AI превратилась в оружие массового поражения, доступное любому преступнику. Призыв к замедлению — это отчаянная попытка разработчиков внедрить новые архитектуры изоляции до того, как правительства просто отключат дата-центры от рубильника из соображений национальной безопасности.

Источник: Anthropic / Reuters