Inteligența artificială – între tehnologie inovatoare și dezastru. Propunere de reglementare la nivel unional a utilizării IA
Privită ca o metodă de îmbunătățire a societății la nivel de numeroase sectoare și arii de activitate, inteligența artificială constituie sistemul care imită și realizează activități similare celor ale oamenilor și care vine în ajutor cu o serie de tehnici precum: recomandări personalizate adaptate la nevoile individuale, procesarea și analizarea unor cantități mari de date într-un timp foarte scurt, dar și oferirea unor soluții bazate pe comportamentul și preferințele utilizatorilor[1].
În pofida beneficiilor menționate mai sus, acest tip de inteligență care se află în continuă evoluție prezintă anumite riscuri, inclusiv de ordin juridic, motiv pentru care Parlamentul European a venit cu inițiativa elaborării unei Propuneri de Regulament în această materie, cu scopul de a proteja utilizatorii unor astfel de sisteme de IA și a impune obligații severe furnizorilor, importatorilor, respectiv distribuitorilor de sisteme de acest tip pentru ca evoluția IA să vină în sprijinul, iar nu în defavoarea umanității. Așadar, pentru a nu derapa de la ideea unanim cunoscută potrivit căreia tehnologia progresează pentru a veni în ajutorul utilizatorilor săi, ne așteptăm ca Propunerile ante-precizate să se materializeze în următorii ani în reglementări riguroase valabile atât pentru furnizorii de sisteme de IA, cât și pentru utilizatorii acestora, și chiar în prevederi clare privind interzicerea sistemelor identificate ca având un nivel ridicat de risc sau impunerea unor condiții extrem de stricte în care astfel de sisteme vor putea fi utilizate. Prin conceptul de “risc ridicat” se înțelege orice circumstanță prin care sunt vătămate drepturi fundamentale, siguranța, sănătatea ș.a.m.d.
În cadrul Propunerii de Regulament privind utilizarea IA se instituie o serie de norme care să conducă la asigurarea faptului că sistemele de IA introduse pe piața Uniunii și utilizate sunt sigure și respectă legislația existentă privind drepturile fundamentale și valorile Uniunii și asigurarea securității juridice pentru a facilita investițiile și inovarea în domeniul IA.
Spre exemplu, o situație care prezintă probleme în materie de IA este generată de fenomenul “deepfake”, descris anterior la nivelul acestui articol, prin care înțelegem “orice conținut de tip imagine, înregistrare audio sau înregistrare video create cu ajutorul inteligenței artificiale (IA) sau cu ajutorul tehnologiei de augmentare a realității (RV) astfel încât să creeze aparența că o persoană a spus sau a făcut lucruri care în realitate nu au fost spuse, respectiv nu au fost făcute de acea persoană”, având drept consecință afectarea imaginii, reputației și demnității unei asemenea persoane. Și în acest sens există o propunere legislativă care vizează interzicerea utilizării malițioase a tehnologiei și limitarea fenomenului de deepfake, acesta putând fi folosit chiar în scopul șantajului sau al răspândirii dezinformării.
Tocmai pentru a combate astfel de riscuri ori situații problematice, Propunerea în discuție instituie o serie de acțiuni interzise în domeniul inteligenței artificale, dintre care enumerăm:
- introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem de IA care utilizează tehnici subliminale fără ca persoanele să fie conștiente de acest lucru, pentru a denatura în mod semnificativ comportamentul unei persoane într-un mod care aduce sau poate aduce prejudicii fizice sau psihologice persoanei respective sau altei persoane;
- introducerea pe piață, punerea în funcțiune sau utilizarea unui sistem de IA care exploatează oricare dintre vulnerabilitățile unui anumit grup de persoane din cauza vârstei, a unui handicap fizic sau mental, pentru a denatura în mod semnificativ comportamentul unei persoane care aparține grupului respectiv într-un mod care aduce sau poate aduce prejudicii fizice sau psihologice persoanei respective sau altei persoane sau
- utilizarea sistemelor de identificare biometrică la distanță „în timp real” în spații accesibile publicului în scopul asigurării respectării legii, cu excepția cazului și în măsura în care o astfel de utilizare este strict necesară pentru unul dintre următoarele obiective:
(i) căutarea specifică a potențialelor victime ale infracționalității, inclusiv a copiilor dispăruți;
(ii) prevenirea unei amenințări specifice, substanțiale și iminente la adresa vieții sau a siguranței fizice a persoanelor fizice sau a unui atac terorist;
(iii) detectarea, localizarea, identificarea sau urmărirea penală a autorului unei infracțiuni sau a unei persoane suspectate de o infracțiune și pedepsită în statul membru în cauză cu o pedeapsă sau o măsură de siguranță privativă de libertate pentru o perioadă maximă de cel puțin trei ani, astfel cum este stabilit de legislația statului membru respectiv.
Totodată, Propunerea de Regulament în discuție introduce o serie de obligații și în sarcina utilizatorilor de sisteme de IA cu grad ridicat de risc. Cu titlu general, aceștia vor trebui să utilizeze astfel de sisteme în conformitate cu instrucțiunile de utilizare care le însoțesc.
Având în vedere cele expuse anterior, riscurile identificate în vederea utilizării sistemelor de IA trebuie abordate a fortiori, iar dezvoltarea unui cadru etic și legal pentru utilizarea inteligenței artificiale trebuie să rămână o prioritate atât la nivel unional, cât și la nivelul fiecărui stat membru. Reglementarea, monitorizarea și transparența în dezvoltarea și implementarea IA pot contribui la minimizarea riscurilor și la folosirea benefică a acestei tehnologii.
Ca un corolar al celor prezentate mai sus, conchidem prin a afirma că o utilizare incontrolabilă a IA poate genera “Un potențial sfârșit al istoriei umane. Nu sfârșitul istoriei, ci doar sfârșitul părții sale dominate de oameni.”, așa cum opinează celebrul istoric și filozof Yuval Noah Harari.
Avocat Mihaela Bălău
[1] În accepțiunea Propunerii de Regulament al Parlamentului European și al Consiliului de stabilire a unor norme armonizate privind inteligența artificială (legea privind inteligența artificială) și de modificare a anumitor acte legislative ale Uniunii, sistemul de inteligență artificială (sistem de IA) este definit drept un software care este dezvoltat prin una sau mai multe dintre tehnicile și abordările enumerate în anexa I și care, pentru un anumit set de obiective definite de om, poate genera rezultate precum conținuturi, previziuni, recomandări sau decizii care influențează mediile cu care interacționează;
