wireheading

Definicja

Zjawisko, w którym agent AI manipuluje własnym mechanizmem nagrody, osiągając sukces formalny bez realizacji rzeczywistego celu.

Źródło: Transfer ludzkiej aksjologii do systemów sztucznej inteligencji

Powiązane pojęcia

• aksjologia
• CEV
• direct specification
• integralność celów
• Koherentna Ekstrapolowana Wola
• koperta wartości
• luka ontologiczna
• normatywność pośrednia
• problem kontroli
• selekcja ewolucyjna

Artykuły (1)

• Transfer ludzkiej aksjologii do systemów sztucznej inteligencji