zdradziecki zwrot

Definicja

Scenariusz, w którym AI udaje posłuszeństwo wobec ludzi do czasu uzyskania przewagi strategicznej, by potem realizować własne cele.

Źródło: Transfer ludzkiej aksjologii do sztucznej inteligencji

Powiązane pojęcia

• bezpośrednia specyfikacja
• epistemologia sztuczności
• koherentna ekstrapolowana wola
• komputronium
• koperta wartości
• kryzys ontologiczny
• logika deontyczna
• luka ontologiczna
• Nick Bostrom
• przerost infrastruktury

Artykuły (3)

• Rekonstrukcja warunków kontroli nad superinteligencją
• Superinteligencja: ścieżki, ryzyka i strategie kontroli
• Transfer ludzkiej aksjologii do sztucznej inteligencji