Этот инцидент обнажает главную проблему рынка фронтирных моделей. Kimi K3 с ее 2,8 трлн параметров и окном контекста в 1 миллион токенов требует колоссальных объемов VRAM для инференса. В условиях дефицита чипов стартап прагматично выбрал защиту SLA для существующих клиентов вместо погони за новыми. Выходом из инфраструктурного тупика станет анонсированный на 27 июля релиз полных открытых весов модели. Передавая архитектуру в open-source, Moonshot AI снимает с себя нагрузку по инференсу, заставляя корпорации запускать тяжеловесного агента на собственных (on-premise) серверах.
Источник: Moonshot AI / Reuters
LLMMoonshot AIInfrastructureB2BChina