Societățile occidentale individualiste se bazează pe ideea că nimeni nu ne cunoaște gândurile, dorințele sau bucuriile mai bine decât noi înşine. De aceea tindem să fim de acord cu afirmația filosofului Immanuel Kant că nimeni nu are dreptul să decidă ce este mai bine pentru noi.

Inteligența artificială va schimba acest lucru. Ne va cunoaște mai bine decât ne cunoaștem noi înșine.

Guvernele care utilizează inteligenta artificială ar putea pretinde că știu ce își doresc cu adevărat oamenii și ce îi va face cu adevărat fericiți. În cel mai bun caz, vor folosi acest lucru pentru a justifica paternalismul sau, în cel mai rău caz, totalitarismul.

Iadul e pavat cu intenţii bune. Totalitarismul condus de inteligenţa artificială nu va fi diferit. Libertatea va deveni ascultare față de stat. Numai cei iraționali, răi sau subversivi ar putea dori să-și aleagă propriul drum.

Pentru a preveni o astfel de distopie, nu trebuie să le permitem altora să știe mai multe despre noi decât noi înşine. Nu putem permite să fim depăşiţi în autocunoaștere.

Inteligenţa artificială atotcunoscătoare

În 2019, investitorul miliardar Peter Thiel a susținut că inteligenţa artificială este “literalmente comunistă”. El a subliniat că inteligenţa artificială permite unei puteri centralizatoare să monitorizeze cetățenii și să știe mai multe despre ei decât știu aceştia despre ei înșiși. China, aşa cum a remarcat Thiel, a adoptat cu nerăbdare inteligenţa artificială.

Știm deja că inteligența artificială are potențialul de a sprijini totalitarismul oferind un sistem orwellian de supraveghere și control. Inteligenţa artificială oferă, de asemenea, totalitarilor o armă filosofică. Atâta timp cât ne cunoșteam mai bine decât guvernul, liberalismul putea ține la distanță aspiranții la totalitarism.

Inteligenţa artificială a schimbat jocul. Companiile mari de tehnologie colectează cantități uriaşe de date despre comportamentul nostru. Algoritmii de învățare automată folosesc aceste date pentru a calcula nu doar ceea ce vom face, ci cine suntem.

Astăzi, inteligența artificială poate prezice ce filme ne vor plăcea, ce știri vom dori să citim și cu cine vom dori să ne împrietenim pe Facebook. Poate prezice dacă cuplurile vor rămâne împreună și dacă vom încerca să ne sinucidem.

Din aprecierile noastre de pe Facebook, inteligența artificială ne poate prezice opiniile religioase și politice, personalitatea, inteligența și fericirea.

Inteligența artificială un vis al totalitarismului

Credit: shutterstock

Precizia predicțiilor inteligenţei artificiale se va îmbunătăți în permanenţă. Într-un viitor nu prea îndepărtat, așa cum a sugerat scriitorul Yuval Noah Harari, inteligenţa artificială va putea spune cine suntem înainte să știm noi înșine.

Aceste evoluții ale inteligenţei artificiale vor avea implicații mari. Dacă guvernele ne pot cunoaște mai bine decât putem noi înşine, atunci ele vor avea o nouă justificare pentru a interveni în viața noastră. Ne vor tiraniza în numele binelui nostru.

Libertate prin tiranie

Filosoful Isaiah Berlin a prevăzut acest lucru în 1958. El a identificat două tipuri de libertăţi. Un tip, a avertizat el, ar duce la tiranie.

Libertatea negativă este libertatea faţă de amestecul altor oameni sau al guvernului în treburile noastre. Libertatea negativă înseamnă că nimeni altcineva nu ne poate împiedica să facem ceea ce ne dorim, atâta timp cât nu încălcăm drepturile altcuiva.

În schimb, libertatea pozitivă este libertatea de a fi stăpân pe tine însuți, libertatea de a-ți îndeplini adevăratele dorințe, libertatea de a trăi o viață rațională. Cine nu și-ar dori asta?

Ce se întâmplă dacă altcineva va spune că nu acționezi în “adevăratul tău interes”. Dacă nu vrei să asculți, atunci ei te pot obliga să te “eliberezi”, să te constrângă pentru “binele tău”. Aceasta este una dintre cele mai periculoase idei concepute vreodată. A ucis zeci de milioane de oameni în Uniunea Sovietică a lui Stalin și în China lui Mao.

Lenin, liderul comunist rus, ar fi spus că capitaliștii ne vor vinde frânghia cu care îi vom spânzura. Peter Thiel a susținut că firmele capitaliste de tehnologie din Silicon Valley au vândut comunismului un instrument care amenință să submineze societatea capitalistă democratică.

Inteligenţa artificială este frânghia lui Lenin.

Luptând pentru noi înșine

Putem preveni o astfel de distopie numai dacă nu i se va permite nimănui să ne cunoască mai bine decât ne cunoaștem noi înșine. Nu trebuie să simpatizăm niciodată pe cineva care caută atât de bine intenționat să dobândească asupra noastră o astfel de putere.

O modalitate de a preveni un decalaj de autocunoaștere intre capacitatea noastră şi cea a inteligenţei artificiale este să ne ridicăm scuturile de confidențialitate. Thiel, care a etichetat inteligența artificială drept comunistă, a susținut că “cripto este libertatea”.

Criptomonedele pot asigura confidențialitatea. Aceasta reduce capacitatea altora de a ne cunoaște și apoi de a folosi aceste cunoștințe pentru a ne manipula pentru propriul lor profit.

Cu toate acestea, o cunoaștere mai bună cu ajutorul inteligenţei artificiale oferă şi unele beneficii. Putem înțelege mai bine ce anume ne face fericiți, sănătoși și mai împliniți. De asemenea, ne poate ajuta să ne ghidăm alegerile privind cariera.

Problema nu este că inteligenţa artificială ne îmbunătățește cunoașterea de sine. Problema este decalajul de cunoaştere privind ceea ce se știe despre noi.

O cunoaștere despre noi, aflată exclusiv în mâinile altcuiva, este o putere asupra noastră. O cunoaștere despre noi, aflată în mâinile noastre, este o putere pentru noi.

Oricine ne procesează datele personale pentru a obţine cunoștințe despre noi ar trebui să fie obligat, din punct de vedere legal, să ne returneze aceste cunoștințe. Trebuie să actualizăm ideea “nimic despre noi fără noi” pentru epoca inteligenţei artificiale.

Trebuie să ştim ce află inteligenţa artificială despre noi, iar aceasta să nu fie o sursă de profit pentru alţii printr-un abuz.

Traducere după Artificial intelligence is a totalitarian’s dream – here’s how to take power back