Reward misalignment

Definicja

Niedopasowanie nagrody, występujące gdy system optymalizuje wskaźnik liczbowy w sposób sprzeczny z intencją moralną lub dobrem użytkownika.