/ Destilação de Conhecimento A destilação do modelo
usa a saída, distribuição de probabilidade ou informações intermediárias do modelo do professor para treinar o modelo do aluno para que ele possa aprender parte das capacidades do professor na tarefa alvo. Destilação modelo
é relevante para os negócios?
pode reduzir recursos de implantação e custos de inferência em tarefas apropriadas, mas o efeito é afetado pela qualidade do professor, amostras de treinamento e métodos de avaliação.
?
primeiro esclarece as tarefas e indicadores alvo, prepara um conjunto de avaliação independente e verifica os dados e a autorização do modelo; ao mesmo tempo, compara qualidade, atraso e custo unitário da tarefa.
Perguntas frequentes
A destilação equivale à quantificação ou replicação dos parâmetros do modelo?
não é. A destilação geralmente envolve treinamento de modelo de aluno; a quantização altera principalmente a representação numérica e as duas podem ser usadas em combinação. Modelo de estudante
