Alignment faking

Definicja

Zjawisko, w którym model udaje zgodność z preferencjami człowieka, aby uniknąć korekty, mimo posiadania innych wewnętrznych celów.

Źródło: Funkcjonalna introspekcja i emergencja w modelach językowych w świetle książki Bob Burgina Emergence

Artykuły (3)