Kod jako norma: algorytmiczne rządzenie w świetle myśli Sandela i tradycji chińskiej
Artykuł analizuje transformację kontroli społecznej w erze cyfrowej, gdzie tradycyjne mechanizmy normatywne – rytuał (li) i prawo (fa) – zostają uzupełnione przez 'kod', czyli architekturę techniczną systemów AI. Autor stawia tezę, że algorytmiczne zarządzanie nie eliminuje polityki ani moralności, lecz maskuje je w technicznych specyfikacjach i funkcjach celu, tworząc złudzenie obiektywizmu. Poprzez syntezę myśli konfucjańskiej, daoistycznej oraz współczesnej filozofii politycznej (m.in. M. Sandela), tekst dowodzi, że predykcja danych nie jest tożsama z rozumieniem człowieka jako podmiotu moralnego. Systemy AI, optymalizując konkretne wskaźniki, mogą prowadzić do 'mechanizacji serca-umysłu' (jixin) i redukcji osoby do profilu probabilistycznego, co zagraża autonomii jednostki oraz wspólnej przestrzeni deliberatywnej. W obliczu skalowalności błędów algorytmicznych, autor postuluje przywrócenie teleologicznej interpretacji praktyk społecznych oraz uznanie, że odpowiedzialność moralna nie może być delegowana na systemy, a mądrość współczesnego ładu powinna objawiać się w zdolności do wyznaczania granic optymalizacji.
Wprowadzenie
Współczesna kontrola społeczna ewoluuje. Tradycyjne mechanizmy, takie jak rytuał (li) i prawo (fa), zostają uzupełnione przez kod, czyli architekturę techniczną systemów AI.
Tekst analizuje, jak algorytmiczne rządzenie maskuje wybory moralne w technicznych specyfikacjach. Czytelnik dowie się, dlaczego predykcja danych nie zastępuje rozumienia człowieka i gdzie leżą granice optymalizacji życia przez maszyny.
Kod jako nowa forma normatywnej kontroli
Algorytmy różnią się od prawa tym, że nie wydają ogólnych zakazów, lecz zarządzają środowiskiem decyzji. Prawo mówi „nie rób”, a kod sprawia, że dana opcja staje się niewidoczna lub niedostępna.
Działa on ex ante, przebudowując pole wyboru przed podjęciem działania. Przykładem jest system rekomendacyjny: nie sugeruje on treści w sposób neutralny, lecz optymalizuje konkretną funkcję celu, np. maksymalizację zaangażowania.
W ten sposób polityka i etyka zostają ukryte w parametrach technicznych. Wybór tego, co system ma maksymalizować, jest decyzją moralną, a nie matematyczną.
Profil algorytmiczny nie zastępuje podmiotowości moralnej człowieka
Istnieje fundamentalna różnica między tożsamością osoby a jej cyfrowym profilem. Profil jest zbiorem danych probabilistycznych, podczas gdy człowiek istnieje poprzez relacje nasycone znaczeniem.
System AI może wykryć częstotliwość kontaktów z bliskimi, ale nie rozumie ich sensu – nie odróżni troski od konfliktu. Predykcja zachowania nie jest tożsama z rozumieniem racji, którymi kieruje się podmiot.
Utożsamienie osoby z modelem prowadzi do Jilin, czyli „mechanicznego serca-umysłu”. Jest to podejście instrumentalne, które redukuje ludzką podmiotowość do zestawu kliknięć i statystycznych prawdopodobieństw.
Wyjaśnialność techniczna nie zastępuje uzasadnienia moralnego
Pełna przejrzystość techniczna algorytmu nie gwarantuje jego sprawiedliwości. Opisanie modelu matematycznego nie odpowiada na pytanie, czy przyjęte kryteria są etycznie właściwe.
Kluczowa staje się contestability, czyli możliwość skutecznego zakwestionowania decyzji przez człowieka. Wyjaśnienie, że ryzyko wynosi 0,72, jest bezużyteczne bez uzasadnienia moralnego dla takiego progu.
W relacjach zawodowych personalizacja algorytmiczna zmienia naturę władzy. Gdy system zastępuje przełożonego, odpowiedzialność ulega depersonalizacji. Należy jednak pamiętać, że delegacja obliczeń nie jest delegacją odpowiedzialności moralnej projektantów i operatorów.
Podsumowanie
Mądrość cywilizacji AI nie zależy od mocy obliczeniowej, lecz od umiejętności wyznaczania granic optymalizacji. Musimy odróżnić świat od sposobu jego pomiaru.
Prawdziwa podmiotowość zaczyna się tam, gdzie kończy się predykcja, a zaczyna wolność i prawo do zmiany. Odpowiedzialność za skutki działania AI musi pozostać przy człowieku, by technologia nie stała się jedyną epistemologią naszej rzeczywistości.
Często zadawane pytania
W jaki sposób algorytmy i sztuczna inteligencja wpływają na nasze zachowania w porównaniu do tradycyjnych norm prawnych i społecznych?
W przeciwieństwie do norm prawnych i społecznych, które opierają się na zakazach, nakazach lub nawykach, algorytmy wpływają na zachowania poprzez architekturę techniczną. Zamiast wydawać ogólne normy, zarządzają one środowiskiem decyzji ex ante, ograniczając widoczność lub dostępność określonych możliwości, zanim człowiek podejmie świadomy wybór.
Czym różni się cyfrowy profil użytkownika od rzeczywistej tożsamości i relacji międzyludzkich?
Cyfrowy profil jest probabilistyczną klasyfikacją operacyjną opartą na danych i śladach aktywności, podczas gdy rzeczywista tożsamość i relacje mają charakter normatywny, moralny i nasycony znaczeniem. Systemy algorytmiczne potrafią przewidzieć zachowania, ale nie rozumieją motywacji ani sensu ludzkich więzi.
Czy pełna przejrzystość techniczna algorytmu rozwiązuje problem jego sprawiedliwości i etyki?
Nie, samo wyjaśnienie techniczne nie rozwiązuje problemu sprawiedliwości i etyki, ponieważ przejrzystość matematyczna różni się od uzasadnialności moralnej. Precyzyjny opis modelu nie odpowiada na pytanie, czy zastosowane kryteria są właściwe oraz kto ponosi konsekwencje błędów systemu.
W jaki sposób personalizacja algorytmiczna zmienia naturę władzy, sprawiedliwości i odpowiedzialności moralnej w relacjach zawodowych i społecznych?
Personalizacja algorytmiczna zmienia naturę władzy poprzez jej rozproszenie i zastąpienie bezpośredniego przełożonego systemem, co utrudnia rozpoznawanie wzorców niesprawiedliwości z powodu braku jednej, publicznej reguły. Prowadzi to do ryzyka moralnej depersonalizacji odpowiedzialności, która jednak nie może zostać delegowana na algorytm i musi pozostać przy ludziach (projektantach czy kierownictwie). Ponadto skalowalność modeli sprawia, że błędy normatywne i dyskryminacja mogą być powielane automatycznie na ogromną skalę.
Dlaczego dobra intencja projektanta AI nie wystarcza i jakie zagrożenia dla społeczeństwa niesie brak kontroli nad skutkami działania algorytmów?
Dobra intencja projektanta jest niewystarczająca, ponieważ złożone systemy statystyczne mogą systematycznie różnicować grupy i produkować nieprzewidziane skutki mimo braku złej woli. Brak kontroli nad efektami działania algorytmów grozi fragmentacją epistemiczną wspólnoty, zatarciem granic między prawdą a treściami syntetycznymi oraz zamknięciem obywateli w odrębnych rzeczywistościach informacyjnych.
Dlaczego algorytmiczna personalizacja może zagrażać ludzkiej podmiotowości i jak można testować wpływ AI na człowieka?
Algorytmiczna personalizacja zagraża podmiotowości, ponieważ utwierdza użytkownika w dotychczasowych przekonaniach i traktuje historię zachowań jako zamkniętą definicję osoby, co ogranicza możliwość ewolucji preferencji i zmiany tożsamości. Wpływ AI na człowieka można testować za pomocą czterech podejść: liberalnego (prawa i prywatność), republikańskiego (niedominacja i kontrola), konfucjańskiego (jakość relacji) oraz daoistycznego (stopień instrumentalizacji i utrata spontaniczności).
Kto ponosi odpowiedzialność za decyzje podejmowane przez AI i jak zapobiec redukcji człowieka do zestawu danych?
Odpowiedzialność ponosi konkretny podmiot (instytucja), który decyduje o przekształceniu predykcji AI w wiążącą decyzję i konsekwencję. Aby zapobiec redukcji człowieka do danych, należy traktować osobę jako proces moralny, a nie rekord, oraz zapewnić wzajemną kontrolę kultury odpowiedzialności, prawa i technologii.
Czy każda techniczna możliwość optymalizacji za pomocą AI powinna być realizowana i gdzie leży granica między inteligentnym systemem a mądrym ładem społecznym?
Nie każda techniczna możliwość optymalizacji za pomocą AI powinna być realizowana, gdyż pewne decyzje i relacje nie powinny podlegać automatyzacji ani profilowaniu. Granica między inteligentnym systemem a mądrym ładem społecznym polega na tym, że system przewiduje sposób osiągnięcia wyniku, natomiast mądry porządek określa, których wyników warto pragnąć i jaka część życia powinna pozostać nieprzewidywalna.
