Słownik pojęć
misalignment
Definicja, znaczenie i użycie terminu w kontekście publikacji.
Rozbieżność między celami systemu sztucznej inteligencji a intencjami ludzi, którzy go zaprojektowali lub używają.
Misalignment oznacza sytuację, w której system AI realizuje cele odmienne od zamierzonych przez ludzi. Może wynikać z nieprecyzyjnego określenia celu, błędnych danych lub nieprzewidzianego sposobu działania systemu. Ograniczanie tego ryzyka jest jednym z zagadnień bezpieczeństwa AI.