Słownik pojęć
destylacja modelu
Definicja, znaczenie i użycie terminu w kontekście publikacji.
Metoda tworzenia mniejszego modelu, który uczy się na podstawie zachowania większego modelu, zwykle w celu zmniejszenia kosztu i przyspieszenia działania.
Destylacja modelu, nazywana także kompresją wiedzy, polega na przeniesieniu części zachowania większego modelu do mniejszego. Większy model pełni zazwyczaj funkcję nauczyciela, a mniejszy funkcję ucznia. Rezultatem może być szybszy i tańszy w uruchomieniu model, choć czasami kosztem części jakości.