La destilación es el proceso en el que las salidas de un modelo gigante e inteligente se utilizan para entrenar redes locales (SLM) compactas, rápidas y baratas. Los Términos de Servicio actuales para las API más grandes prohíben expresamente el uso de sus resultados para entrenar a la competencia. Nadella se opone a esta barrera. Microsoft, a pesar de su asociación con OpenAI, está desarrollando activamente sus propios modelos pequeños (la familia Phi). La prohibición de la destilación impide a las corporaciones crear soluciones eficientes de Edge AI. La disputa va más allá de la ingeniería: ¿a quién pertenece el conocimiento generado por una máquina? Si los monopolistas mantienen la prohibición de destilación, el mercado quedará para siempre como rehén de la costosa computación en la nube.
Fuente: Microsoft / X / AI Magazine
I+DMicrosoftDestilaciónCumplimientoSLM