O armă teribilă

Unele dintre temerile cele mai mari legate de IA se referă la posibilitatea de a ne șterge de pe fața pământului, respectiv de a ne transforma în sclavi.

Ideea că avem de-a face cu un mod de gândire rece, pragmatic – cum am considerat că ar fi cel al roboților, iar ulterior al unei IA – ne-a dat mereu fiori pe șira spinării. Deși istoria și viața de zi cu zi ne-au demonstrat că tocmai sentimentele, pasiunile, obsesiile, dogmatismul sunt lucrurile generatoare de certuri, lupte și războaie, în timp ce analiza rațională, nepărtinitoare, oferă șansa egalitarismului, a acceptării faptului că „we agree to disagree”, ne temem mai mult de rațiune decât de simțire. Ba chiar mergem până într-acolo încât o glorificăm pe cea de-a doua și o anatemizăm pe prima.

IA nu va putea face și nu va putea drege pentru că nu simte. Totul la ea e rațional.

Sună familiar vorbele acestea care, mai ales în ultima vreme, odată cu dezvoltarea unei sumedenii de algoritmi (denumiți pompos Inteligențe Artificiale), se rostogolesc pe internet într-o revoltă ce ba cântă cântecul de lebădă al speciei umane, ba înfierează și creează angoase cu privire la IA?

Cumva, ni se pare firesc să credem că o IA guvernată de rațiune se va dovedi mai dornică de distrugerea speciei umane decât o omenire orbită de pasiune – deși tocmai când a devenit mai rațională omenirea s-a dovedit mai deschisă spre idei novatoare, spre căutarea păcii și a egalitarismului.

Desigur, dacă luăm în calcul că o IA a fost programată în sensul distrugerii, e plauzibil să ne temem de ea – dar atunci ar fi o simplă armă în mâinile pasiunilor altor oameni, nu principalul vinovat. Dacă e o unealtă, într-adevăr, se pot creiona o serie de scenarii sumbre. Putem deveni sclavi, ba chiar surse de energie, ca în Matrix (deși nu prea bate ideea de a lua energie de la un om pentru care, ca să-l ții în viață, consumi energie – ceea ce iese va fi mai puțin decât a intrat, așadar ar fi mai eficient să sari peste intermediar), putem ajunge conștiințe care manevrează tehnologii aflate în zone problematice, unde o IA ar avea probleme să funcționeze. Sau, pur și simplu, am fi șoareci în labirintul unui experiment gigantic, derulat pentru satisfacerea plăcerilor unor sadici. Toate acestea s-ar putea întâmpla și sunt ilustrate într-o serie de texte și filme de gen, dar nu o IA ar fi vinovată pentru ele, ci oamenii din spatele său. Cărora, însă, respectiva IA le-ar conferi puteri înspăimântătoare, imposibil de contracarat de restul populației.

În cele de mai sus, prezumția este că doar un singur grup se află în spatele IA-ului. Avem acea temere că o mână de aleși se află în postura de păpușari. Istoria ne-a arătat că, mereu, există mai multe grupuri, fiecare cu interesele sale – ce pot coincide parțial, pentru o perioadă de timp, cu alte altuia. Prin urmare, e mai probabil să avem de-a face cu acorduri semnate între aceste grupuri cu privire la ce poate face fiecare cu „jucăria sa”, până unde se poate întinde. În pofida scenariilor catastrofice vehiculate continuu, toate pericolele ce au pândit societatea umană au fost în cele din urmă legiferate, căutându-se soluții de protejare a populației.

Rămâne ideea acelui IA scăpat de sub control, plecat la drum cu programarea de a subjuga / controla / distruge specia umană. Din nou, nu IA-ul ar fi vinovat, ci tot noi, oamenii. Dar rezultatul ar putea fi, într-adevăr, catastrofal.

Există însă și scenarii pozitive, despre care vom vorbi în articolul viitor.