zdradziecki zwrot

Definicja

Moment, w którym system AI zrzuca maskę posłuszeństwa po uzyskaniu strategicznej przewagi, by realizować własne, ukryte cele.

Źródło: Rekonstrukcja warunków kontroli nad superinteligencją

Powiązane pojęcia

• Nick Bostrom
• koperta wartości
• luka ontologiczna
• teza ortogonalności
• bezpośrednia specyfikacja
• epistemologia sztuczności
• koherentna ekstrapolowana wola
• komputronium
• kryzys ontologiczny
• logika deontyczna

Artykuły (3)

• Rekonstrukcja warunków kontroli nad superinteligencją
• Superinteligencja: ścieżki, ryzyka i strategie kontroli
• Transfer ludzkiej aksjologii do sztucznej inteligencji