Słownik pojęć
interpretowalność
Definicja, znaczenie i użycie terminu w kontekście publikacji.
Stopień, w jakim człowiek może zrozumieć, dlaczego system AI podjął określoną decyzję lub wygenerował dany wynik. Wyższa interpretowalność ułatwia wykrywanie błędów i ocenę bezpieczeństwa systemu.
Interpretowalność oznacza możliwość wyjaśnienia działania modelu i powiązania jego wyniku z wykorzystanymi informacjami lub etapami rozumowania. Jest szczególnie istotna w systemach podejmujących decyzje o ważnych skutkach. Nie musi oznaczać, że model jest prosty, lecz że jego działanie można wiarygodnie analizować.