A da sau a lua amendă. Inteligența artificială provoacă dreptul

– So, what am I? If I'm not human, what am I?

– Whatever you want to be.

Alien: Earth, Episode 1, Neverland, FX (2025)

Mai multe știri din ultima vreme încep să arate limitele sistemului legislativ atunci când vine vorba despre interacțiunile cu tehnologia inteligenței artificiale (IA). Albania pretinde că toate achizițiile publice guvernamentale se vor realiza prin intermediul unui bot (botezat Diella) pentru a elimina corupția din acest domeniu.  În același registru, Grecia a decis să utilizeze un sistem IA pentru a crea profiluri de risc ale contribuabililor în vederea identificării riscului de evaziune fiscală înainte de a se produce. De asemenea sistemul va fi folosit la realizarea controalelor fiscale. Oare vor funcționa mai bine decât ION – asistentul prim-ministrului Ciucă?

În ultimii ani toată lumea vorbește despre revoluția IA, dar până acum nu am văzut decât programe care regurgitează informație fără vreun discernământ. Este drept că de multe ori și oamenii fac la fel, ceea ce face ca IA să pară inteligent… Este adevărat că un sistem IA poate să facă mai repede sarcini simple și repetitive (în domenii în care erorile nu sunt fatale). Dar acest lucru se întâmplă încă din timpul primei revoluții industriale. Dacă sperăm ca IA să înlocuiască oamenii în sarcini complexe în viitorul apropiat, riscăm să mergem pe calea specialiștilor în eficiența corporațiilor din filmul Timpuri noi al lui Charlie Chaplin. IA nu este nici panaceu universal, dar nici sfârșitul lumii prevestit de singularitate. Este (doar) un (nou) instrument pus la dispoziția omului. Ca orice instrument, poate fi folosit în scopuri bune sau rele.

Și problemele nu au întârziat să apară. După autoturismul autonom care cauzează accident mortal în situații în care nici un om nu putea să-l evite până la recentele aventuri ale poliției din SUA care nu a știut pe cine să amendeze când un taxi fără șofer circula pe contrasens... Nu trebuie să ne așteptăm că IA ne va rezolva toate problemele pentru ca noi să stăm pe canapea baleind rețelele sociale. Vă mai amintiți scandalurile care au însoțit introducerea sistemului de emitere automatizată a amenzilor în cazul folosirii drumurilor publice fără rovignetă? Acolo un proto-IA ne dădea amendă. Acum vrem să ne răzbunăm și să dăm noi amendă IA-ului.

Cred că principala problemă aici constă în antropomorfizarea IA. Un japonez a ajuns să creadă că s-a căsătorit cu un bot. În pur stil jansenist, actorii încep să protesteze împotriva folosirii unor actori generați de IA. Legea (română și europeană) nu ne permite însă să facem asemenea extensii (deocamdată). IA nu va putea fi considerat o persoană ca atare. Deci IA nu poate să ne dea amendă, dar nu poate nici să ia amendă. Nu se poate căsători (nu poate nici măcar intra într-o relație din punct de vedere juridic) și nu poate să ia slujba nimănui (dar poate să facă anumite lucruri mai repede și mai ieftin decât un om). Soluția nu este să îl interzicem, ci să stabilim cine (o persoană!) va răspunde pentru lucrurile făcute de IA. Pe măsură ce gradul de autonomie al IA va crește, problema consecințelor deciziilor (greșite) luate de IA va deveni din ce în ce mai presantă. EU AI Act stabilește doar că (alt)cineva trebuie să răspundă, dar nu este foarte clar care dintre diferitele persoane menționate acolo va răspunde efectiv, ceea ce va transforma această dezbatere într-un joc de-a „leapșa” între diferiții actori implicați.

Și da, aceste probleme nu sunt undeva în viitor, ci sunt aici printre noi. Când un IA filtrează CV-uri înainte de interviul de angajare sau decide să oprească accesul unui utilizator la un site, avem potențialul de litigiu acum și aici. Atunci când „pilotul automat” al unui autoturism frânează fără motiv întemeiat (ci pentru că i s-a părut că există un obstacol inexistent) și cauzează un accident, vom avea o problemă de răspundere aici și acum. Iar toate acestea vor trebui să fie rezolvate de un judecător (uman) din România (aplicând legea română). Problemele juridice generate în legătură cu utilizarea IA sunt o realitate, nu doar o ficțiune. Ele pot fi prevenite dacă ne gândim la ele din vreme la modul serios.

Uniunea Europeană (post Raportul Draghi) își caută încă drumul, iar schimbările pot fi semnificative. Analiza de risc de astăzi se poate dovedi insuficientă mâine. Dar ea trebuie făcută. Pentru că, deocamdată, nu putem spune ca în cântecul lui Shaggy „It wasn’t me!”. EU AI Act are grijă să elimine orice încercare de disculpare din parte celor care lucrează cu instrumente IA: ei vor fi cei răspunzători, chiar dacă greșeala este generată de sistemul IA. Așa că fiecare trebuie să-și evalueze în mod realist riscurile pe care și le asumă, pentru că amenda o va lua mereu omul din spatele IA. „Seeing is believing so you better change your specs”[Shaggy (feat. Ricardo Ducent), It Wasn't Me, "Hotshot" (2000)]...