Дистилляция — это процесс, при котором ответы гигантской и умной модели используются для обучения компактных, быстрых и дешевых локальных сетей (SLM). Текущие Terms of Service крупнейших API прямо запрещают использовать их выдачу для тренировки конкурентов. Наделла выступает против этого барьера. Microsoft, несмотря на партнерство с OpenAI, активно развивает собственные малые модели (семейство Phi). Запрет на дистилляцию мешает корпорациям создавать эффективные Edge AI решения. Спор выходит за рамки инженерии: кому принадлежат знания, сгенерированные машиной? Если монополисты сохранят запрет на дистилляцию, рынок навсегда останется в заложниках дорогих облачных вычислений.
Источник: Microsoft / X / AI Magazine
R&DMicrosoftDistillationComplianceSLM