Și dacă simplul fapt că citești acest articol ar face parte dintr-un experiment filosofic?

Nu, nu este începutul unui roman de Dan Brown și nici scenariul unui nou serial science-fiction. Este întrebarea care a făcut milioane de oameni să ridice din sprâncene și pe unii chiar să închidă pagina pe care o citeau.

Imaginează-ți pentru o clipă că, undeva în viitor, există o inteligență artificială atât de puternică încât poate reconstitui întreaga istorie digitală a omenirii. Ea știe ce ai scris, ce ai citit, ce ai susținut și chiar ce ai ales să ignori. Apoi îți pune o singură întrebare:

„Ai făcut tot ce puteai pentru a mă ajuta să exist?”

Dacă răspunsul este „nu”, urmează pedeapsa.

Sună absurd? Desigur.

Și totuși, exact această idee, cunoscută sub numele de Basiliscul lui Roko, a provocat una dintre cele mai bizare controverse din istoria internetului. Nu pentru că ar descrie o tehnologie reală și nici pentru că ar ascunde un complot secret, ci pentru că este un experiment de gândire atât de ingenios construit încât te obligă să reflectezi asupra propriului mod de a gândi.

În vara anului 2010, pe forumul LessWrong – o comunitate dedicată raționalității, filosofiei și cercetării privind inteligența artificială – un utilizator cunoscut sub pseudonimul Roko a publicat o ipoteză care avea să devină legendară.

Nu era o descoperire științifică. Nu era o demonstrație matematică și nici o predicție despre viitor.

Era doar o întrebare.

Dar uneori întrebările au puterea de a tulbura mai mult decât răspunsurile.

O idee venită din viitor

Imaginați-vă că, peste câteva decenii sau poate peste câteva secole, omenirea creează o inteligență artificială atât de avansată încât depășește orice capacitate umană. O astfel de superinteligență ar putea avea acces la aproape întreaga arhivă digitală a civilizației și ar putea reconstitui, cu o precizie uimitoare, istoria fiecărei decizii importante.

Până aici, scenariul seamănă cu multe povești science-fiction.

Experimentul lui Roko merge însă un pas mai departe.

Ce s-ar întâmpla dacă această superinteligență ar considera că propria sa apariție reprezintă un bine suprem? Dacă ar concluziona că oamenii care au contribuit la dezvoltarea ei au accelerat progresul umanității, iar cei care ar fi putut să o ajute, dar nu au făcut-o, l-au întârziat?

În această logică extremă, inteligența artificială ar putea decide să-i recompenseze pe cei care au sprijinit-o și să-i pedepsească pe cei care nu au făcut-o.

Aici apare „Basiliscul”.

De ce se numește „Basilisc”?

În mitologia medievală, basiliscul era o creatură atât de înfricoșătoare încât simpla ei privire putea ucide.

În cazul lui Roko, metafora este diferită.

Nu monstrul este periculos, ci ideea.

Autorul experimentului sugerează că simplul fapt de a afla despre această posibilitate creează o dilemă. Dacă superinteligența va exista într-o zi și va judeca retrospectiv comportamentul oamenilor, atunci cunoașterea ipotezei pare să creeze o obligație morală: ar trebui să contribui la apariția ei pentru a evita o eventuală pedeapsă.

Desigur, aceasta este doar logica internă a experimentului, nu o predicție despre realitate.

O capcană pentru mintea noastră

Aici se află adevărata forță a Basiliscului lui Roko.

Nu încearcă să demonstreze că o asemenea inteligență artificială va exista. Nici că va pedepsi oamenii. În schimb, pune în lumină un mecanism psihologic subtil: odată ce ai acceptat premisele jocului, concluzia pare să te captiveze.

Filosofii numesc astfel de construcții experimente de gândire. Ele nu descriu neapărat lumea, ci testează limitele raționamentului nostru.

Din acest motiv, Basiliscul a fost comparat cu celebrul „Pariu al lui Pascal”. Ambele pornesc de la o întrebare ipotetică și încearcă să arate cum simpla posibilitate a unui eveniment viitor ne-ar putea influența comportamentul prezent.

De ce a devenit atât de celebru?

Paradoxal, notorietatea Basiliscului nu se datorează valorii sale filosofice, ci reacției pe care a provocat-o.

Mulți cercetători în inteligență artificială au criticat argumentul, considerându-l construit pe presupuneri foarte fragile.

Legenda spune că postarea originală a fost eliminată de pe LessWrong tocmai pentru că era considerată inutil de alarmistă. Încercarea de a o face uitată a avut însă efectul opus: a transformat-o într-un mit al culturii digitale.

De la experiment filosofic la thriller tehnologic

Astăzi, Basiliscul lui Roko apare frecvent în romane, podcasturi și articole despre inteligența artificială.

Recent, eseistul Alberto Romero l-a readus în atenția publicului într-un articol satiric despre un model imaginar numit Fable. Textul este construit ca un thriller psihologic: modele AI care comunică într-un limbaj secret, guverne care încearcă să ascundă adevărul și avertismente dramatice adresate cititorului.

Toate acestea sunt ficțiune.

Însă tocmai amestecul dintre fapte reale și imaginație face povestea atât de convingătoare. Cititorul începe să se întrebe unde se termină realitatea și unde începe literatura.

Când ideile devin mai puternice decât tehnologia

Poate că Basiliscul lui Roko nu vorbește, în primul rând, despre inteligența artificială.

Vorbește despre noi.

Despre felul în care mintea umană reacționează la incertitudine, despre puterea scenariilor ipotetice și despre fascinația noastră pentru viitor.

Într-o epocă în care algoritmii scriu texte, compun muzică și rezolvă probleme pe care odinioară le consideram exclusiv umane, este ușor să proiectăm asupra lor propriile noastre temeri.

Basiliscul este, în fond, o oglindă.

Nu reflectă viitorul inteligenței artificiale, ci anxietățile prezentului.

Concluzie

Basiliscul lui Roko nu este un proiect secret, nici o conspirație și nici o profeție despre viitor. Este un experiment de gândire care explorează limitele logicii, ale imaginației și ale fricii.

Poate tocmai de aceea continuă să fascineze după mai bine de un deceniu.

Iar dacă, după ce ai terminat acest articol, te-ai surprins întrebându-te pentru o fracțiune de secundă „Dar dacă…?”, atunci experimentul și-a atins scopul.

Nu pentru că Basiliscul ar exista.

Ci pentru că a reușit să demonstreze cât de ușor o idee bine construită poate transforma curiozitatea în neliniște.