Etica AI: utilizare responsabila si gandire critica

• Bias de date — datele de antrenament nu reprezinta echilibrat toate grupurile. Exemplu: un detector facial antrenat majoritar pe fete cu piele deschisa la culoare va fi mai putin precis pentru alte grupuri etnice.
• Bias de confirmare — modelul reflecta stereotipurile existente in textele de pe internet. Exemplu: asocieri automate gen „medic” = barbat, „asistenta” = femeie.
• Bias de masurare — indicatorul ales pentru a evalua performanta modelului nu surprinde corect obiectivul real.
• Bias de agregare — un model antrenat pe populatia generala poate fi nepotrivit pentru subgrupuri specifice. Exemplu: un algoritm de diagnostic medical adaptat majoritar la populatia dintr-o anumita regiune geografica poate fi mai putin precis pentru pacienti din alte zone.

Un mare retailer online a testat un sistem AI de filtrare a CV-urilor. Modelul a fost antrenat pe CV-urile angajatilor din ultimii 10 ani — majoritar barbati in domenii tehnice. Rezultatul: sistemul penaliza automat CV-urile care contineau indicii legate de gen (de exemplu, apartenenta la cluburi sau echipe feminine). Proiectul a fost abandonat. Sursa biasului: datele istorice au codificat o inegalitate deja existenta in procesul de angajare.

• Societatea produce inegalitati istorice (diferente de gen, etnie, clasa sociala in angajare, educatie, sanatate).
• Datele colectate codifica aceste inegalitati. Exemplu: credite bancare acordate diferit pe criterii istorice de discriminare.
• Modelul AI invata din date si reproduce paternul discriminatoriu.
• Decizia automata ia hotarari (credit, angajare, sentinta) care perpetueaza inegalitatea — de data aceasta cu autoritatea unui „algoritm obiectiv”.

Un algoritm predictiv de recidiva folosit in justitie poate identifica in mod disproportionat anumite grupuri ca „risc ridicat”. Daca judecatorii acorda pedepse mai mari pe baza acestui scor, persoanele respective ajung mai frecvent in date ca „recidiviste”. Modelul este retrenat cu aceste date — si biasul se amplifica progresiv.

• Echipele de proiectare AI nu sunt suficient de diverse: persoanele care nu sunt afectate de un bias il sesizeaza mai greu.
• Modelele de tip „cutie neagra” (deep learning) sunt greu de auditat — nu putem vedea cu exactitate de ce a luat o anumita decizie.
• Viteza de implementare la scara larga precede deseori verificarea biasului.

Prima lege cuprinzatoare privind AI din lume, adoptata de UE in 2024. Introduce un sistem de clasificare pe niveluri de risc:

• Risc inacceptabil — interzis complet: sisteme de scoring social, recunoastere faciala in timp real in spatii publice (cu exceptii stricte), manipulare comportamentala subliminala.
• Risc inalt — permis cu obligatii stricte: AI in medicina, justitie, angajare, educatie, infrastructura critica. Necesita transparenta, audit periodic si supraveghere umana.
• Risc limitat — obligatii de transparenta: chatbotii si sistemele de generare de continut trebuie sa informeze utilizatorul ca interactioneaza cu AI.
• Risc minim — liber: filtre spam, jocuri video cu AI, recomandari de continut cu impact scazut.

Regulamentul General privind Protectia Datelor (GDPR, 2018) se aplica si datelor folosite pentru antrenarea AI:

• Dreptul la explicatie: daca o decizie automatizata te afecteaza (ex: credit bancar refuzat), ai dreptul sa ceri o explicatie.
• Dreptul de opozitie: poti cere revizuirea umana a deciziei automate.
• Principiul minimizarii datelor: un sistem AI nu poate colecta mai multe date decat are nevoie pentru scopul declarat.

• Principiile OCDE pentru AI (2019): transparenta, responsabilitate, siguranta, echitate, bunastare umana.
• Recomandarea UNESCO privind Etica AI (2021): adoptata de 193 de state membre, include protectia datelor, diversitatea si echilibrul ecologic.
• Blueprint for an AI Bill of Rights (SUA, 2022): document de orientare cu 5 principii: sisteme sigure, protectie impotriva discriminarii algoritmice, protectia datelor, notificarea utilizatorilor si posibilitatea de revenire la decizie umana.

• Transparenta: declari cand ai folosit AI pentru a crea un continut (eseu, imagine, cod).
• Verificarea informatiilor: nu accepti automat raspunsurile AI. Halucinatiile (informatii inventate, prezentate cu ton sigur) sunt frecvente. Verifica intotdeauna cu surse independente.
• Consimtamant si date personale: nu introduci date personale ale altora in sisteme AI fara consimtamantul lor.
• Limite ale domeniului: AI-ul nu inlocuieste medicul, avocatul sau psihologul. Raspunsurile in domenii cu risc inalt necesita validare de specialist.
• Impact de mediu: antrenarea si utilizarea modelelor mari consuma cantitati semnificative de energie si resurse. O utilizare constienta tine cont de acest cost.

Un model de limbaj (LLM) genereaza text prin predictie statistica: alege urmatorul cuvant cel mai probabil, nu „cauta” activ adevarul. Rezultatul: poate genera fapte, date, citate sau referinte complet inventate, dar prezentate cu siguranta. Exemple documentate: chatboturi care au citat articole stiintifice inexistente, cu titluri, autori si numere de pagini plauzibile. Regula de aur: orice afirmatie factuala generata de AI trebuie verificata independent.

• Folosit ca tutor (explica-mi conceptul X, verifica daca am inteles corect): util si etic.
• Folosit ca instrument de scriere asistata (ajuta-ma sa structurez un eseu pe care il redactez eu): etic daca este declarat.
• Folosit pentru generarea integrala a lucrarii predata ca proprie: neonest si in conflict cu regulile academice.

Un deepfake este un continut media (video, audio, imagine) in care fata, vocea sau corpul unei persoane reale au fost inlocuite sau modificate cu ajutorul AI, de obicei fara consimtamantul persoanei. Termenul combina „deep learning” + „fake”.

• Video deepfake: o personalitate publica pare sa faca declaratii pe care nu le-a facut niciodata.
• Voice cloning: vocea unei persoane este clonata pentru a transmite un mesaj fals (frauda telefonica).
• Imagini sintetice non-consensuale: imagini intime generate cu chipul unei persoane fara acordul ei — o forma grava de abuz recunoscuta legal in tot mai multe jurisdictii.

• Dinti neregulati, nereali sau cu contururi „topite”
• Fundalul neclar sau „curgator” in jurul parului si urechilor
• Pupile de marimi diferite sau reflexe de lumina inconsistente in ochi
• Artefacte vizuale la bijuterii, ochelari, coliere
• Miscarea buzelor nesincronizata perfect cu sunetul
• Important: aceste indicii sunt din ce in ce mai greu de sesizat pe masura ce modelele se imbunatatesc. Detectia vizuala singura nu este suficienta.

• Sursa: Cine a publicat? Are un interes financiar sau politic in a disemina acest continut?
• Verificabilitate: Pot confirma afirmatia intr-o sursa independenta credibila?
• Metoda: Cum a fost generat continutul? Ce model AI? Pe ce date a fost antrenat?
• Context: Cand a aparut? In ce context social sau politic? Cui ii serveste aceasta informatie?
• Emotia: Continutul incearca sa provoace frica, furie sau panica? Emotiile puternice sunt frecvent exploatate in dezinformare.

• Companiile AI: proiectare transparenta, audit continuu de bias, publicarea de descrieri ale datelor de antrenament, limitelor si riscurilor cunoscute ale modelelor.
• Guvernele si legiuitorii: reglementare proportionala cu riscul, investitii in educatie digitala, finantarea cercetarii de siguranta AI.
• Organizatiile care implementeaza AI: evaluare a impactului inainte de implementare, supraveghere umana a deciziilor cu miza mare, proceduri clare de contestatie pentru persoanele afectate.
• Utilizatorii individuali: utilizare constienta, raportarea continutului manipulator, informarea continua, refuzul de a distribui dezinformari.

• Automatizarea muncii: AI automatizeaza sarcini cognitive de rutina. Raspunsul adaptiv nu este sa oprim AI, ci sa ne orientam spre competente greu de automatizat: creativitate, empatie, gandire critica, colaborare.
• Concentrarea puterii: cele mai capabile modele AI sunt detinute de cateva companii mari. Cine controleaza AI-ul detine o influenta majora asupra infrastructurii decizionale globale.
• AI in domenii sensibile: utilizarea AI in sisteme de armament ridica probleme etice grave, dezbatute activ la nivel international.
• Impactul de mediu: antrenarea modelelor de dimensiuni mari consuma resurse energetice si de apa semnificative — o dimensiune etica adesea ignorata.

• Verifica intotdeauna informatiile generate de AI inainte de a le distribui.
• Declara cand ai folosit AI in lucrari sau creatie proprie.
• Informeaza-te din surse diverse — nu te baza pe o singura platforma AI.
• Raporteaza continut deepfake sau dezinformari pe platformele sociale.
• Urmareste actualizarile legislative (EU AI Act, GDPR, UNESCO) — peisajul se schimba rapid si informarea continua este o forma de responsabilitate civica.