Gestionarea riscurilor asociate utilizării inteligenței artificiale generative la nivelul unei companii– necesitatea implementării unei politici interne
Inteligența artificială generativă (IAG), privită drept o ramură a inteligenței artificiale, are în vedere crearea de modele și algoritmi capabile să genereze conținut nou și creativ. Astfel, prin învățarea automată a unor pattern-uri complexe și utilizarea ulterioară a informațiilor, conținutul nou produs poate îmbrăca forma unor texte, imagini, sunete ori chiar întregi medii virtuale. Așadar, conținutul generat, destinat de altfel să simuleze conținutul creat de o ființă umană, poate avea în vedere inclusiv generarea de cod sursă, scripturi automatice ori conținut interactiv în jocuri și medii virtuale.
Cu toate acestea, alături de numeroasele avantaje care decurg din utilizarea acestei forme de IA, pot fi, cel puțin la o primă constatare, deduse o serie de riscuri și provocări corelative la nivelul unei întreprinderi. Aspectele care ridică cele mai multe preocupări din această perspectivă sunt proprietatea intelectuală, securitatea cibernetică și confidențialitatea și securitatea datelor.
În ceea ce privește proprietatea intelectuală, dificultățile care intervin au în vedere, în particular, crearea automată de conținut care seamănă, pana la nivel de confuzie, cu opere protejate de drepturi de autor, fără însă a le încălca în mod explicit, dar care poate conduce la dispute de ordin legal. Mai mult decât atât, conținutul generat de IA generativă poate fi utilizat pentru a crea ori distribui conținut plagiat sau chiar pentru a veni în sprijinul pirateriei, cum ar fi prin copiere ilegală de opere protejate de drepturi de autor. Prin urmare, pentru a gestiona apariția acestor riscuri iminente, este important a se lua în considerare mai multe măsuri, precum dezvoltarea de tehnologii de detecție a conținutului plagiat, încurajarea dezvoltatorilor și a utilizatorilor de a respecta drepturile de proprietate intelectuală, dar și actualizarea constantă a legislației în materie, astfel încât să poată ține pasul cu noile provocări asociate utilizării inteligenței artificiale generative.
În privința aspectelor legate de securitate cibernetică, utilizarea IA generative poate da naștere unui conținut rău intenționat, cum ar fi malware, atacuri de tip phishing ori mesaje spam, care sunt mai greu de detectat decât versiunile manuale ale acestora. În plus, un alt risc semnificativ la nivelul întreprinderii este reprezentat de atacurile distribuite de tip refuz-serviciu (DDoS), care conduc la indisponibilitatea serviciilor online și, în mod implicit, la pierderi financiare masive ale firmei. Mai mult decât atât, se poate avea în vedere utilizarea IA generative pentru crearea de imagini care pot să inducă în eroare sistemele de recunoaștere facială, aspect de natură să afecteze securitatea fizică și digitală a întreprinderii. Astfel, precum am menționat anterior, printre măsurile de combatere a acestor probleme pot figura educarea utilizatorilor în vederea recunoașterii unor astfel de atacuri, dar și coordonarea eforturilor atât la nivelul sectorului privat, cât și public, de a dezvolta strategii eficiente de combatere.
Nu în ultimul rând, riscul major asociat cu confidențialitatea și securitatea datelor dintr-o întreprindere, presupune faptul că prin oferirea de către angajați de informații, care pot include date cu caracter personal, dezvoltatorii sistemelor de IAG pot ajunge să dețină secrete comerciale ori alte informații confidențiale sau sensibile, iar mai departe acestea să figureze printre rezultatele furnizate pentru alți utilizatori ai sistemului. Prin urmare, o măsură de combatere a acestui risc ar putea fi reprezentată de criptarea în tranzit și la repaus a datelor, astfel încât acestora să le fie acordată o protecție suplimentară împotriva accesului neautorizat.
Pe cale de consecință, elaborarea unei politici interne la nivelul unei companii, astfel încât să poată fi combătute riscurile asociate IAG, este un pas crucial în raport cu protejarea firmei împotriva potențialelor amenințări.
În acest sens, o primă etapă ar avea în vedere desemnarea unor persoane și departamente responsabile de implementarea și aplicarea politicii, responsabili ce trebuie să dețină cunoștințe și expertiză în domeniu.
Mai departe, compania ar trebui să realizeze o examinare completă a riscurilor legate de utilizarea IAG și a scenariilor de amenințare relevante pentru firmă. Mai mult decât atât, politicile specifice adoptate pot include cerințe privind criptarea datelor, gestionarea accesului la date, monitorizarea activității, dar și anumite proceduri de comunicare și notificare în cazul unui incident de securitate. Toate aceste proceduri ar trebui să fie cuprinse într-un plan de răspuns la incidente, astfel încât să poată fi gestionate eficient situațiile de urgență și minimizate eventualele daune produse. În fine, alături de efectuarea de simulări periodice pentru antrenarea personalului și dincolo de toate cele descrise anterior, politica internă elaborata ar trebui să fie extrem de clară, bine comunicată angajaților, devenind astfel parte integrantă a culturii de securitate și confidențialitate a întreprinderii.
➡📞Contact: (+4) 031 426 0745 – office@grecupartners.ro
Avocat Ana Maria Nistor
