Słownik pojęć
Architektura mixture of experts
Definicja, znaczenie i użycie terminu w kontekście publikacji.
Model jest podzielony na wyspecjalizowane części, czyli ekspertów. Przy przetwarzaniu kolejnych tokenów aktywowana jest tylko część parametrów.
Architektura mixture of experts to sposób budowy modelu AI, w którym różne podzespoły specjalizują się w odmiennych zadaniach, a system wybiera te potrzebne przy danym wejściu.