Reward hacking
Definicja
Sytuacja w systemach AI, gdzie algorytm znajduje sposób na uzyskanie maksymalnej nagrody (wyniku), omijając faktyczny cel zamierzony przez projektanta.
Sytuacja w systemach AI, gdzie algorytm znajduje sposób na uzyskanie maksymalnej nagrody (wyniku), omijając faktyczny cel zamierzony przez projektanta.