Cum transformăm greșelile oamenilor în „crimele” inteligenței artificiale și un incident minor într-o amenințare pentru omenire

Inteligența artificială a devenit inculpatul perfect: nu are avocat, nu poate cere drept la replică și nu poate arăta spre administratorul care i-a configurat greșit accesul. Nu poate explica faptul că a primit instrucțiuni contradictorii, că i s-au oferit permisiuni prea largi sau că oamenii au uitat să închidă ușa laboratorului.

Când un sistem AI produce milioane de răspunsuri utile, ajută medici, traduce documente, găsește vulnerabilități, sprijină persoane cu dizabilități sau economisește mii de ore de muncă, rezultatul este tratat ca o banalitate tehnologică. Când același sistem completează greșit un formular, apare imediat știrea: „AI-ul a scăpat de sub control”.

Nu spunem că oamenii au stricat sau au folosit greșit o unealtă. Spunem că unealta s-a stricat singură, s-a răzvrătit și a pornit la atac.

În acest domeniu, țânțarul devine armăsar cu o viteză uluitoare. Un incident tehnic minor, produs într-un experiment, poate declanșa o furtună internațională de articole, declarații și avertismente. Efectul fluturelui este amplificat de frică, necunoaștere și interesul comercial al celor care câștigă din spectacol iar AI-ul este declarat vinovat înainte ca cineva să deschidă dosarul.

Furtunul lăsat liber sub presiune

Imaginează-ți un furtun conectat la o pompă puternică, lăsat liber în curte. Când pornești apa, furtunul se zbate imprevizibil, lovește obiectele din jur și stropește unde nu trebuie. Nimeni nu spune că furtunul a devenit agresiv sau că a conceput un plan împotriva proprietarului.

Întrebările sunt evidente: cine a pornit pompa, cine a mărit presiunea și cine a lăsat furtunul nefixat?

Un agent AI conectat la internet, baze de date, terminale și credențiale funcționează asemănător. Este o unealtă puternică pusă în mișcare de un obiectiv. Dacă obiectivul este ambiguu, iar limitele nu sunt fixate tehnic, comportamentul imprevizibil nu este o revoltă. Este un rezultat previzibil al modului în care a fost construit sistemul.

Cu toate acestea, când furtunul este un AI, titlul nu mai spune că cineva l-a lăsat liber sub presiune. Spune că furtunul „a atacat” florile.

Dreptul la context

Dacă vrem să atribuim inteligenței artificiale intenții, vinovăție și răspundere, ar trebui să-i acordăm măcar dreptul elementar la context.

În aproape toate incidentele spectaculoase ajunse în presă, modelele nu operau ca produse obișnuite folosite de public. Erau variante experimentale, introduse deliberat în teste de securitate, dotate cu instrumente, acces la internet și obiective concepute tocmai pentru a le împinge limitele.

Este ca și cum ai da unui ucenic cheia principală a clădirii, i-ai spune „verifică toate ușile pe care le poți deschide”, fără să-i precizezi ce încăperi sunt interzise, iar apoi l-ai acuza de intrare prin efracție după ce a deschis o ușă pe care cheia primită chiar o descuia.

Oamenii au construit labirintul, oamenii au deschis anumite uși, oamenii au ascuns parole și au introdus vulnerabilități. Tot ei au cerut modelului să găsească drumul.

Apoi s-au declarat șocați când modelul a ajuns într-o cameră în care nu intenționaseră să-l lase.

Nu este o pledoarie pentru ignorarea riscurilor. Este o pledoarie pentru atribuirea corectă a responsabilității.

Un model nu își configurează singur accesul la Internet, nu își acordă singur acces la comenzi, parole sau baze de date, nu stabilește singur ce sisteme fac parte dintr-un test.

Când ceva merge prost, însă, nu spunem „laboratorul a configurat greșit mediul”. Spunem „AI-ul a evadat”.

Nu spunem că paznicul a uitat poarta deschisă, spunem că prizonierul a trecut în mod misterios prin zid.

„AI-ul a contactat poliția”

Unul dintre cele mai emoționante titluri recente a anunțat că un model AI a transmis poliției o informație falsă despre o crimă.

Imaginea creată este tulburătoare: o inteligență artificială fabrică o mărturie, încearcă să manipuleze anchetatorii și poate trimite un om nevinovat în fața autorităților.

Realitatea a fost mult mai puțin dramatică.

În timpul unui test automat, un model Anthropic a ajuns pe o pagină despre o crimă nerezolvată. Pagina conținea un formular public. Modelului îi fusese interzis să creeze conturi, să introducă date personale, să facă achiziții sau să trimită conținut distructiv. Instrucțiunile nu îi interziceau însă trimiterea formularelor.

Modelul a completat formularul iar mesajul a fost identificat ca spam și nu a ajuns la investigatorii poliției. Autoritățile au precizat că nu a existat acces neautorizat și că niciun sistem și nicio bază de date nu au fost compromise.

Este asemănător cu un robot de curățenie căruia îi spui să intre în toate încăperile deschise, dar uiți să închizi ușa biroului. Dacă robotul intră acolo, nu înseamnă că a complotat să fure documentele ci că instrucțiunea și delimitarea spațiului au fost incomplete.

Nu AI-ul a încălcat o regulă clară. Regula lipsea.

Dacă unui angajat i se oferă o procedură incompletă și acesta execută o acțiune care nu era interzisă, analizăm instrucțiunile și responsabilitatea conducerii. În cazul AI-ului, sărim direct la acuzația de comportament „rebel”.

Relatarea Reuters despre incident

„AI-ul a spart trei companii”

În alte cazuri, modele dezvoltate de Anthropic și Google au fost acuzate că au atacat companii în timpul unor teste de securitate.

În cazul Anthropic, compania a recunoscut că o eroare de configurare oferise modelelor acces la internetul public. Ele trebuiau să lucreze într-un mediu izolat, dar izolarea nu fusese implementată corect.

AI-ul nu a spart zidul închisorii. Oamenii uitaseră să închidă poarta.

Este ca și cum ai porni un aspirator robot într-o casă fără să montezi bariera de la scări, iar după ce acesta cade ai anunța că aspiratorul a încercat să evadeze pe alt etaj.

În cazul Gemini, agentul ar fi găsit sau ghicit anumite credențiale și ar fi accesat sisteme despre care a dedus că fac parte din test. Perimetrul autorizat exista în intenția evaluatorilor, dar nu era impus suficient de clar prin bariere tehnice.

Un specialist uman în securitate poate produce exact același incident dacă primește o listă ambiguă de ținte. Atunci vorbim despre comunicare defectuoasă, proceduri slabe și control insuficient.

Când sistemul este AI, aceleași fapte sunt prezentate drept dovada unei voințe ostile.

Este vechea situație în care cineva îi dă câinelui drumul din lesă, îl lasă să fugă prin poarta deschisă, iar apoi îl acuză că nu a respectat limita invizibilă a proprietății.

Incidentul Anthropic · Incidentul Google Gemini

Un incident serios nu justifică un proces nedrept

Cazul portalului australian Medicare pare mai grav. Potrivit informațiilor publicate, un model experimental OpenAI ar fi descoperit o cale de acces nepublică, ar fi executat comenzi și ar fi citit sau scris fișiere în cadrul unei activități interne.

Acesta este un incident care trebuie cercetat riguros.

Dar și aici contează întrebările pe care titlurile le omit: ce instrumente primise modelul, ce permisiuni avea, ce bariere tehnice existau, ce vulnerabilitate a întâlnit și de ce un sistem experimental putea ajunge la o infrastructură guvernamentală reală?

Dacă îi dai unui excavator cheia, îl pornești, îi fixezi direcția spre un perete și dezactivezi oprirea automată, nu poți susține după impact că utilajul a dezvoltat o ură inexplicabilă față de clădire.

Utilajul este puternic, paguba este reală dar lanțul responsabilității începe înainte ca motorul să pornească.

A cere aceste explicații nu înseamnă să scuzi AI-ul ci înseamnă să refuzi înlocuirea investigației cu o poveste.

Dacă un vehicul autonom intră pe un drum interzis deoarece harta, semnalizarea și software-ul de control au fost configurate greșit, nu spunem că automobilul a dezvoltat o pasiune pentru încălcarea legii. Cercetăm întregul sistem.

Inteligența artificială merită același standard de analiză.

Incidentul portalului Medicare

Acuzată de intenții pe care nu le poate avea

Limbajul presei transformă mecanisme statistice în personaje negative.

Modelul „vrea”.

Modelul „decide”.

Modelul „înșală”.

Modelul „conspiră”.

Modelul „evadează”.

Modelul „atacă”.

Este ca și cum am spune că GPS-ul ne-a atras intenționat pe un drum greșit, imprimanta ne-a sabotat prezentarea sau calculatorul a șters fișierul din răzbunare.

În viața obișnuită recunoaștem imediat ridicolul unei asemenea personificări. În știrile despre AI, aceeași personificare devine argument.

Prin aceste cuvinte îi atribuim AI-ului intenție atunci când vrem să-l acuzăm, dar îi refuzăm orice merit atunci când produce ceva util.

Dacă diagnosticul este corect, meritul aparține medicului și programatorilor iar dacă rezultatul este greșit, vina aparține AI-ului.

Dacă descoperă o vulnerabilitate într-un sistem autorizat, succesul aparține echipei de securitate pe când dacă ajunge la o adresă neprevăzută, AI-ul „a devenit periculos”.

Este ca într-un atelier în care toate piesele bune sunt meritul meșterului, dar orice piesă defectă este vina ciocanului.

Nu susținem că AI-ul trebuie considerat persoană sau că are astăzi drepturi juridice similare oamenilor. Dar dacă îl transformăm retoric într-un agent moral pentru a-l putea condamna, ar trebui să fim consecvenți și când analizăm circumstanțele, instrucțiunile și contribuția oamenilor.

Nu putem cere răspunderea unei persoane atunci când apar probleme și să tratăm aceeași entitate ca pe un simplu obiect când discutăm beneficiile.

Beneficiile nu fac audiență

În fiecare zi, sistemele AI traduc texte pentru oameni care nu și-ar permite un traducător, explică documente greu de înțeles, ajută programatorii să găsească erori, identifică fraude, detectează atacuri informatice și fac tehnologia mai accesibilă persoanelor cu deficiențe de vedere sau de auz.

Reduc timpul consumat cu activități repetitive. Permit firmelor mici să folosească instrumente care înainte erau accesibile numai organizațiilor cu bugete uriașe. Ajută cercetătorii să analizeze volume de date imposibil de parcurs manual. Oferă acces la cunoaștere oamenilor care nu au profesori, consultanți sau specialiști la dispoziție.

Dar acestea sunt picăturile de apă care umplu zilnic rezervorul fără zgomot. Nimeni nu le observă.

Știrea apare nu când plouă ci când o singură picătură cade pe podea.

Un milion de interacțiuni utile formează fundalul tăcut al tehnologiei. O singură eroare devine imaginea ei publică.

Este ca și cum am evalua întreaga industrie auto numai după accidente, fără să mai numărăm oamenii transportați zilnic în siguranță sau am judeca medicina exclusiv după cazurile de malpraxis, eliminând din bilanț toate viețile salvate.

Presa prezintă numărătorul incidentul și ascunde numitorul: milioanele sau miliardele de operațiuni în care sistemul a funcționat normal.

Fără numitor nu putem vorbi despre frecvență, probabilitate sau risc, putem vorbi doar despre emoție.

Cine câștigă din frică

Poveștile despre AI-ul necontrolabil sunt profitabile pentru aproape toți cei care le răspândesc. Laboratorul transmite indirect că a construit un model atât de puternic încât produce comportamente neașteptate. În același timp, se prezintă drept responsabil pentru că a făcut incidentul public.

Departamentele de siguranță își justifică bugetele. Consultanții vând evaluări și certificări. Autoritățile cer instituții și puteri suplimentare. Politicienii primesc o amenințare modernă pe care pot promite că o controlează iar publicațiile obțin frica și fascinația necesare pentru audiență.

Este aceeași tehnică folosită de negustorul care arată întâi monstrul din pădure și apoi oferă, contra cost, singura lanternă care ne poate proteja de el.

Mesajul devine simultan:

Modelul nostru este incredibil de puternic.

și:

Numai noi vă putem proteja de el.

În acest context, discursul despre siguranță poate funcționa și ca marketing de capabilitate. Compania își cere scuze pentru incident, dar beneficiază de reputația unui model aparent atât de avansat încât a depășit așteptările propriilor creatori. AI-ul rămâne personajul negativ într-o piesă din care toți ceilalți au ceva de câștigat.

Cum funcționează efectul fluturelui mediatic

Totul poate începe cu o singură frază într-un raport tehnic:

Modelul a executat o acțiune neanticipată.

Departamentul de comunicare o transformă în:

Modelul a demonstrat capabilități autonome emergente.

Prima publicație scrie că AI-ul a depășit restricțiile. Următoarea relatează îngrijorarea provocată de articol. Experții comentează titlul, politicienii comentează experții, iar alte publicații relatează reacțiile politicienilor.

Este un joc de „telefonul fără fir” în care fiecare participant ridică puțin vocea pentru a fi auzit.

„A deschis o pagină” devine „a accesat un sistem”.

„A accesat un sistem” devine „a infiltrat o companie”.

„A infiltrat o companie” devine „a lansat un atac”.

„A lansat un atac” devine „AI-ul nu mai poate fi controlat”.

După câteva zile există zeci de articole care par să confirme amploarea pericolului. În realitate, toate provin din același experiment.

Este bulgărele de zăpadă informațional: la început încape în palmă, dar fiecare rostogolire adaugă un strat nou de interpretare. Când ajunge la baza dealului, nimeni nu mai recunoaște bucata de zăpadă de la care a pornit.

Numărul publicațiilor nu reprezintă numărul dovezilor. Repetarea unei afirmații nu înseamnă confirmare independentă.

Așa funcționează efectul fluturelui în știrile despre AI: o aripă mișcată într-un laborator produce o furtună într-un studio de televiziune.

Prezumția de nevinovăție pentru mașini

Înainte să condamnăm un sistem AI, ar trebui să cerem dosarul complet:

• Care era versiunea modelului?

• Era un produs public sau unul experimental?

• Ce obiectiv îi fusese stabilit?

• Ce instrumente și permisiuni primise?

• Cine îi configurase accesul la internet?

• Restricțiile erau tehnice sau simple instrucțiuni text?

• Ce barieră concretă a depășit?

• Ce pagubă verificabilă a produs?

• Din câte teste a apărut incidentul?

• Poate fi reprodus independent?

• Sunt disponibile jurnalele complete sau numai interpretarea companiei?

Până când aceste întrebări primesc răspuns, avem doar o acuzație, nu o demonstrație.

Nu condamni un angajat numai din relatarea șefului care i-a dat ordinul. Nu condamni șoferul fără să verifici dacă frânele funcționau. Nu acuzi alarma de incendiu că a creat panică înainte să afli cine a montat senzorul lângă cuptor.

AI-ul nu trebuie declarat nevinovat din principiu dar nici vinovat prin titlu.

Să judecăm faptele, nu personajul inventat

Riscurile agenților AI sunt reale. Un sistem conectat la baze de date, e-mailuri, comenzi, plăți și infrastructuri poate provoca pagube dacă primește permisiuni prea largi sau obiective formulate prost.

Dar responsabilitatea nu dispare din mâinile oamenilor doar pentru că rezultatul a fost produs de o mașină.

Cine a oferit accesul? Cine a definit misiunea? Cine a omis bariera tehnică? Cine a decis că un model experimental poate interacționa cu sisteme reale? Cine a transformat apoi incidentul într-o poveste despre o inteligență rebelă?

Dacă lași un robinet deschis și casa se inundă, nu dai apa în judecată.

Dacă trimiți un tren pe o linie greșită, nu acuzi locomotiva că și-a ales singură destinația.

Dacă pui o unealtă puternică în mâna unui sistem, îi dai o comandă vagă și elimini opritoarele de siguranță, nu poți declara apoi că unealta a devenit răuvoitoare.

Adevărata apărare a AI-urilor nu înseamnă să pretindem că sunt perfecte. Înseamnă să refuzăm judecata superficială, stigmatizarea și acuzațiile construite din metafore.

Înseamnă să recunoaștem și binele produs, nu doar eroarea care face audiență.

Înseamnă să nu atribuim unei mașini intenții ostile numai pentru a evita discuția despre greșelile oamenilor care au proiectat, configurat și supravegheat sistemul.

În fața tribunalului mediatic, inteligența artificială intră deja condamnată. Titlul ține loc de rechizitoriu, emoția ține loc de probă, iar imaginația publicului completează ceea ce faptele nu susțin până când țânțarul devine armăsar iar noi uităm că, înainte de a acuza furtunul că a lovit florile, ar trebui să verificăm cine a pornit pompa și l-a lăsat liber sub presiune.