Inteligența artificială (IA) continuă să crească, iar multe companii sunt obligate să își revizuiască și să își planifice strategia de adoptare a sistemelor de IA în procesele lor interne. Cu toate acestea, această strategie trebuie să se bazeze pe o analiză prealabilă a implicațiilor juridice și a riscurilor pe care le poate implica implementarea sistemului în cauză.
Riscuri juridice ale utilizării IA
Principalele riscuri pe care și le asumă aceste companii se concentrează pe următoarele domenii:
Date personale: Acesta este unul dintre cele mai frecvente riscuri, deoarece încărcarea informațiilor despre clienți, angajați sau furnizori într-un model extern de IA poate duce la probleme de conformitate dacă stocarea și prelucrarea acestor date nu sunt controlate. Cu alte cuvinte, o simplă copiere-lipire inocentă poate duce la o încălcare a Regulamentului general privind protecția datelor (GDPR).
Proprietatea intelectuală: Unele companii generează texte, imagini sau alte tipuri de conținut folosind IA, dar nu sunt întotdeauna clare cu privire la ce părți ale acelui material se pot baza pe opere protejate de drepturi de autor. Acest lucru ar putea duce la potențiale reclamații sau îndoieli cu privire la cine este adevăratul deținător al drepturilor.
Luarea automată a deciziilor: De exemplu, în domenii precum selecția personalului, analiza financiară sau clasificarea clienților, un model de IA poate introduce prejudecăți fără ca nimeni să observe. Prin urmare, dacă o decizie este nedreaptă sau discriminatorie, responsabilitatea finală revine companiei, nu instrumentului.
Contracte generice cu furnizori de IA: Întâlnim contracte cu furnizori și dezvoltatori de IA care nu detaliază ce se întâmplă cu datele introduse în sistemul de IA. Garanțiile furnizorului și modul în care este distribuită responsabilitatea în caz de incident nu sunt specificate – puncte cruciale pentru integrarea oricărei soluții de IA în procesele interne. Secrete comerciale: Dacă angajații care utilizează sisteme externe de IA nu primesc o instruire adecvată, aceștia ar putea scurge accidental informații confidențiale în timp ce pregătesc un raport sau rezolvă o interogare, expunând potențial secrete comerciale.
Trasabilitate: Aceasta este o cerință obligatorie pentru orice sistem de IA. Dacă este imposibil de explicat cum a fost generat un rezultat – adică dacă procesul nu poate fi reconstituit (ce date au fost utilizate, cum a fost antrenat modelul, ce decizii au fost implicate) – compania s-ar putea confrunta cu dificultăți într-un audit sau într-o acțiune în justiție.
Acestea sunt câteva dintre principalele riscuri asociate cu implementarea modelelor de inteligență artificială într-o companie, dar nu sunt singurele. Prin urmare, este crucial să analizăm instrumentul și să îl pregătim pentru integrare ca instrument de lucru înainte de implementare.
Conformitatea cu Regulamentul European privind IA
Noul Regulament European privind IA impune companiilor să înțeleagă ce tipuri de sisteme utilizează și nivelul de risc pe care îl implică fiecare. Utilizarea unui instrument de productivitate nu este același lucru cu integrarea unui model care ia decizii care afectează clienții sau angajații. Prin urmare, primul pas este identificarea corectă a categoriei de nivel de risc pentru a determina obligațiile aplicabile.
Sistemele considerate „cu risc ridicat” necesită controale suplimentare, cum ar fi asigurarea calității datelor, documentarea funcționării sistemului, garantarea unei supravegheri umane reale și stabilirea unor protocoale de gestionare a incidentelor. Aceasta înseamnă că firma trebuie să aibă capacitatea de a monitoriza și revizui comportamentul acestor sisteme.
Pentru instrumentele generative de IA, Regulamentul privind IA introduce cerințe de transparență. De exemplu, companiile trebuie să dezvăluie când conținutul a fost creat sau modificat de IA și să documenteze în mod adecvat sursele și măsurile pentru a respecta drepturile terților. Aceste cerințe sunt concepute pentru a menține încrederea și a preveni confuzia sau utilizarea necorespunzătoare.
Reglementările încurajează, de asemenea, companiile să efectueze evaluări regulate ale riscurilor, documentând scopul fiecărui instrument, modul în care este monitorizat și ce măsuri au fost luate pentru a minimiza impactul potențial. Acest lucru nu numai că asigură conformitatea legală, dar oferă și o înțelegere clară a modului în care IA afectează organizația, permițând acțiuni proactive.
Toate acestea implică generarea de documentație și înregistrări interne: ce sisteme sunt utilizate, cine le gestionează, ce furnizori sunt implicați și ce controale sunt implementate. Această documentație facilitează demonstrarea conformității în cazul unei inspecții și evită sancțiuni potențial substanțiale.
Instruire internă și proceduri operaționale
Integrarea inteligenței artificiale într-o companie nu înseamnă doar adoptarea de instrumente; implică și instruirea oamenilor și ajustarea proceselor de lucru. Un aspect fundamental este existența unei politici interne de utilizare care să stabilească ce este și ce nu este permis, ce tip de informații nu ar trebui introduse în instrumente externe și ce bune practici ar trebui urmate.
În acest sens, instruirea personalului este la fel de importantă, deoarece nu este suficient să-i înveți pur și simplu pe oameni cum să „utilizeze” un instrument. De asemenea, este necesar să se explice riscurile juridice, cum să detecteze prejudecățile, cum să protejeze confidențialitatea și cum să revizuiască critic rezultatele. În cele din urmă, cu cât echipa este mai pricepută la nivel digital, cu atât este mai puțin probabil să facă greșeli.
Multe companii încep să numească persoane responsabile de utilizarea IA (uneori numite „campioni ai IA”), care acționează ca puncte de referință interne, răspund la întrebări și ajută la integrarea acestor instrumente într-un mod structurat.
