Inteligența artificială: Comisia avansează în direcția adoptării unor orientări în materie de etică

Comisia Europeană a prezentat, în data de 8 aprilie, următoarele etape pentru consolidarea încrederii în inteligența artificială, pornind de la activitatea desfășurată de grupul de experți la nivel înalt.

Pe baza activității grupului de experți independenți numiți în iunie 2018, Comisia a lansat o etapă-pilot pentru a se asigura că pot fi puse în practică orientările etice pentru dezvoltarea și utilizarea inteligenței artificiale (IA). Comisia invită sectoarele interesate, institutele de cercetare și autoritățile publice să testeze lista detaliată de evaluare, care completează orientările și care a fost întocmită de grupul de experți la nivel înalt.

Planurile fac parte din strategia privind IA, prezentată în aprilie 2018, ce vizează majorarea investițiilor publice și private până la cel puțin 20 de miliarde EUR pe an în următorul deceniu, punerea la dispoziție a mai multor date, stimularea talentelor și asigurarea încrederii în această tehnologie.

Vicepreședintele pentru piața unică digitală, Andrus Ansip, a declarat: Salut activitatea desfășurată de experții noștri independenți. Dimensiunea etică a IA nu este o caracteristică tehnică de lux sau o simplă funcție accesorie. Doar dacă simțim că putem avea încredere în tehnologia bazată pe IA, putem beneficia pe deplin, ca societate, de toate avantajele pe care le aduce aceasta. O inteligență artificială etică este o propunere care aduce beneficii tuturor părților și care poate deveni un avantaj competitiv pentru Europa, dacă aceasta va ști să se impună ca lider în domeniul dezvoltării unei inteligențe artificiale centrate pe factorul uman, în care oamenii simt că pot să aibă încredere.”

Comisarul pentru economie digitală și societate digitală, Mariya Gabriel, a adăugat: Astăzi facem un pas important în direcția asigurării unei inteligențe artificiale etice și sigure în UE. Avem în prezent o bază solidă, ancorată în valorile UE și rezultată din implicarea amplă și constructivă a unui număr mare de părți interesate, inclusiv din mediul de afaceri, cel academic și din partea societății civile. În prezent vom pune în practică aceste cerințe și, în același timp, vom lansa o discuție internațională pe tema unei inteligențe artificiale centrate pe factorul uman.

Inteligența artificială poate aduce beneficii într-o gamă largă de sectoare, cum ar fi asistența medicală, consumul de energie, automobilele, agricultura, schimbările climatice și gestionarea riscurilor financiare. De asemenea, IA poate contribui la detectarea fraudelor și a amenințărilor cibernetice și le permite autorităților de aplicare a legii să combată criminalitatea într-un mod mai eficient. IA aduce însă și noi provocări pentru viitorul locurilor de muncă și ridică probleme juridice și etice.

Abordarea Comisiei este trilaterală: instituie cerințele-cheie pentru o inteligență artificială de încredere, demarează o etapă-pilot la scară largă pentru părțile interesate și depune eforturi în vederea ajungerii la un consens internațional în ceea ce privește dezvoltarea unei inteligențe artificiale centrate pe factorul uman.

1. Șapte aspecte esențiale pentru o inteligență artificială în care să putem avea încredere

O inteligență artificială în care să putem avea încredere ar trebui să respecte toate normele aplicabile, precum și o serie de cerințe; listele de evaluare specifice au scopul de a contribui la verificarea aplicării fiecăreia dintre cerințele-cheie:

• Implicare și supraveghere umană: sistemele de IA ar trebui să faciliteze existența unor societăți echitabile prin sprijinirea implicării factorului uman și a respectării drepturile fundamentale, fără să reducă, să limiteze sau să compromită autonomia umană.
• Robustețe și siguranță: o IA în care putem avea încredere presupune ca algoritmii să fie siguri, fiabili și suficient de solizi pentru a face față erorilor sau inconsecvențelor de pe parcursul întregului ciclu de viață al sistemelor de IA.
• Respectarea vieții private și guvernanța datelor: cetățenii ar trebui să dețină controlul deplin asupra propriilor date, care să nu fie utilizate în scopuri prejudiciabile sau discriminatorii.
• Transparență: ar trebui asigurată trasabilitatea sistemelor de IA.
• Diversitate, nediscriminare și echitate: sistemele de IA ar trebui să țină seama de întreaga gamă de abilități, competențe și cerințe din partea factorului uman și să asigure accesibilitatea.
• Bunăstare societală și de mediu: sistemele de IA ar trebui utilizate pentru a accelera schimbările sociale pozitive și pentru a favoriza dezvoltarea durabilă și responsabilitatea ecologică.
• Responsabilitate: ar trebui instituite mecanisme care să asigure responsabilitatea și răspunderea sistemelor de IA și a acțiunilor acestora.

2. Proiect-pilot pe scară largă cu partenerii

În vara anului 2019, Comisia va lansa o etapă-pilot cu participarea unei game largi de părți interesate. Întreprinderile, administrațiile publice și organizațiile se pot deja înscrie în Alianța europeană pentru IA pentru a primi o notificare atunci când va fi lansat proiectul-pilot. În plus, membrii grupului de experți la nivel înalt privind AI vor prezenta orientările și pot oferi explicații în acest sens părților interesate relevante din statele membre.

3. Ajungerea la un consens internațional în ceea ce privește dezvoltarea unei inteligențe artificiale centrate pe factorul uman

Comisia dorește să își promoveze la nivel mondial abordarea cu privire la cerințele etice aplicabile inteligenței artificiale întrucât tehnologiile, datele și algoritmii nu cunosc granițe. În acest scop, Comisia își va consolida cooperarea cu parteneri care împărtășesc aceeași viziune, precum Japonia, Canada sau Singapore, și va continua să joace un rol activ în discuțiile și inițiativele internaționale, inclusiv în cadrul G7 și G20. Etapa-pilot va implica, de asemenea, societăți din alte țări și organizații internaționale.

Etapele următoare

Membrii grupului de experți în domeniul inteligenței artificiale își vor prezenta în detaliu rezultatele muncii cu ocazia celei de a treia ediții a evenimentului Zilele digitale, care va avea loc la Bruxelles, la 9 aprilie. După faza-pilot, la începutul anului 2020, grupul de experți în domeniul inteligenței artificiale va revizui listele de evaluare a cerințelor-cheie, pe baza feedbackului primit. Pe baza acestei revizuiri, Comisia va evalua rezultatele și va propune etapele următoare.

În plus, pentru a asigura dezvoltarea etică a IA, până în toamna anului 2019, Comisia: va lansa un set de rețele de centre de excelență în domeniul cercetării în domeniul IA; va începe să înființeze rețele de centre de inovare digitală și, împreună cu statele membre și cu părțile interesate, va iniția discuții pentru a dezvolta și a pune în aplicare un model de partajare a datelor și de utilizare optimă a spațiilor comune de date.