Reward hacking

Definicja

Sytuacja w systemach AI, gdzie algorytm znajduje sposób na uzyskanie maksymalnej nagrody (wyniku), omijając faktyczny cel zamierzony przez projektanta.

Źródło: Architektura wskaźników a rzeczywista wartość: refleksje nad pułapkami pomiaru w kontekście książki Setha Godina The Knot Problems Can Be Solved

Artykuły (1)