Inteligenta artificiala responsabila: drepturi, reglementare, mediu

Pentru preselectia la concertul de Craciun, scoala foloseste un instrument IA care asculta inregistrarile trimise de elevi si le da un punctaj. Dupa doua saptamani se observa ceva: aproape toti elevii respinsi trimisesera inregistrari facute cu telefonul, in camera, iar aproape toti cei acceptati inregistrasera in sala de studiu, cu microfon.

Programul nu a fost rautacios. A fost antrenat si testat numai pe inregistrari curate, de studio — deci a invatat ca zgomotul de fond inseamna interpretare slaba. Intrebarea nu este ce a gresit programul, ci cine a gresit.

1. Cine proiecteaza sistemul — decide ce anume masoara sistemul si ce declara bun. Alegerea punctam claritatea sunetului in loc de punctam intonatia este o decizie a unui om, nu a masinii.

2. Cine il antreneaza si il testeaza — alege datele pe care invata si cazurile pe care il verifica inainte de folosire.

3. Cine decide sa il foloseasca — scoala, profesorul, organizatorul. Aceasta decizie nu poate fi delegata programului.

4. Cine semneaza rezultatul — omul care trimite lista finala isi asuma continutul ei, chiar daca a fost produsa automat.

Preselectie audio: inregistrari cu zgomot de fond, voci de baiat inainte si dupa schimbarea vocii, instrumente rare in scoala (harpa, contrabas), fisiere mai scurte de 30 de secunde.

Evaluarea unui portofoliu vizual: desen in creion pe hartie ingalbenita, fotografie facuta in lumina de seara, lucrare fotografiata strambe, lucrare abstracta fara subiect recognoscibil.

Regula: daca nimeni nu a incercat sistemul pe aceste cazuri, sistemul nu a fost testat — a fost doar aratat.

Pe afisul concertului, fundalul este o imagine generata integral cu IA: o sala de spectacol care nu exista nicaieri. Profesoara cere sa scrie undeva, mic, imagine generata cu inteligenta artificiala. Colegul tau spune ca e o exagerare. Nu este: exista o lege europeana care cere exact asta.

Risc inacceptabil — interzis. Regulamentul interzice, printre altele, sistemele care deduc emotiile oamenilor in scoli si la locul de munca. Un program care ar nota elevii dupa cat de emotionati par in fata camerei, in timpul unui examen, intra aici.

Risc ridicat — permis, dar cu conditii grele. Sistemele folosite in educatie pentru admitere sau pentru evaluarea rezultatelor invatarii sunt tratate ca risc ridicat: cer documentatie, date de calitate, supraveghere umana reala si posibilitatea de a contesta.

Risc limitat — obligatie de transparenta. Chatbot-ul de pe pagina filarmonicii trebuie sa arate ca este un program. Continutul generat sau modificat cu IA (imagine, sunet, video) trebuie sa fie marcat ca atare.

Risc minim — fara obligatii speciale. Filtrul care scoate zgomotul dintr-o inregistrare sau cel care sugereaza etichete pentru fotografiile din portofoliu.

Dreptul de acces — sa afli ce date detine cineva despre tine.
Dreptul la rectificare — sa ceri corectarea unei informatii gresite.
Dreptul la stergere — sa ceri eliminarea datelor, in conditiile prevazute de regulament.
Dreptul de opozitie — sa te opui unor prelucrari, de exemplu folosirii fotografiei tale in promovare.
Unde reclami in Romania: la Autoritatea Nationala de Supraveghere a Prelucrarii Datelor cu Caracter Personal (ANSPDCP).

Regulamentul IA spune ce fel de sisteme ai voie sa construiesti si sa folosesti. GDPR spune ce ai voie sa faci cu datele oamenilor pe care le bagi in acele sisteme. Un afis facut cu IA poate respecta regulamentul IA (e marcat corect) si sa incalce totusi GDPR, daca ai folosit fotografia unei colege fara acordul ei.

La concursul de dans al scolii, juriul poate scoate oricand fisele de punctaj: se vede ce a dat fiecare membru, la ce criteriu si de ce. De aceea o contestatie are sens. Daca un program ar alege singur castigatorul, iar nimeni nu ar putea arata pe ce s-a bazat, contestatia devine imposibila — nu pentru ca decizia e sigur gresita, ci pentru ca nu se poate verifica.

Un program de evaluare a portofoliilor antrenat aproape numai pe picturi in ulei va da punctaje mici desenelor in creion sau in carbune. Nu pentru ca desenele ar fi slabe, ci pentru ca sistemul nu a vazut destule. Rezultatul: aceeasi categorie de elevi pierde de fiecare data. Asta nu este ghinion, este partinire sistematica, si se descopera doar daca cineva se uita pe rezultate pe grupe.

1. Deschide documentul in Google Docs, cu contul scolar.

2. Meniul Fisier → Istoricul versiunilor → Vedeti istoricul versiunilor (in interfata in engleza: File → Version history → See version history). Scurtatura de tastatura: Ctrl+Alt+Shift+H.

3. In panoul din dreapta apar versiunile documentului, cu data, ora si numele celui care a scris. Clic pe o versiune → documentul se afiseaza asa cum arata atunci.

4. Fisier → Istoricul versiunilor → Denumiti versiunea curenta si scrie un nume care spune ceva: predare_v1, dupa_corectura_prof. O versiune denumita se gaseste in doua secunde peste trei luni.

5. In Google Drive, selecteaza fisierul si deschide panoul de detalii (butonul i — Vizualizati detaliile); fila Activitate arata cine a deschis, a mutat sau a redenumit fisierul.

Ideea e aceeasi, dar drumul e altul: in Word mergi la Fisier → Informatii → Istoric versiuni. In Microsoft Teams, in fila Fisiere a echipei, clic dreapta pe fisier → Istoric versiuni; acelasi lucru functioneaza si in OneDrive sau SharePoint, unde sunt pastrate de fapt fisierele echipei.

Diferenta de retinut: in Google Docs versiunile se salveaza continuu, in timp ce scrii, si le poti denumi din meniu; in Word pe calculator, istoricul complet apare pentru fisierele salvate in OneDrive sau in echipa Teams, nu pentru un fisier tinut doar pe discul tau.

Organizezi transportul corului la concursul judetean. Ai un tabel cu numele, telefoanele si adresele a 28 de colegi. Ca sa mearga mai repede, il lipesti intreg intr-un chatbot si ceri sa il imparta pe trasee. Ai economisit un sfert de ora si ai trimis, in acelasi timp, datele a 28 de persoane catre un serviciu al carui traseu nu il cunosti si carora nu le-ai cerut voie.

Nume, adrese, numere de telefon si e-mailuri ale colegilor sau ale parintilor.

Codul numeric personal, seria si numarul actelor, date medicale, situatii de familie.

Note, absente, observatii despre alti elevi.

Inregistrari cu vocea sau fotografii cu chipul cuiva, fara acordul acelei persoane.

Materiale nepublicate ale profesorului sau ale scolii (subiecte, partituri, texte in lucru) care nu iti apartin.

Clonarea vocii unei colege pentru clipul de promovare inseamna doua lucruri deodata: prelucrezi o data cu caracter personal (vocea ei) si creezi un continut care o face sa para ca a spus ceva ce nu a spus. Ai nevoie de acordul ei inainte, iar clipul trebuie marcat ca fiind continut generat sau modificat cu IA. Fara aceste doua lucruri, faptul ca sunetul e reusit nu ajuta cu nimic.

Testul afisului din hol: inainte sa scrii ceva intr-o fereastra de chat, intreaba-te daca ai lipi acel text pe usa scolii. Daca raspunsul e nu, nu il scrie.

Verifica setarile contului. La multe servicii, conversatiile pot fi pastrate si folosite pentru imbunatatirea sistemului, in functie de setari si de tipul de cont. La scoala, contul de Google Workspace sau Microsoft pentru educatie are politici stabilite de administrator — intreaba profesorul sau administratorul ce este permis, nu presupune.

Trupa scolii scoate un album. Ai cerut unui generator de imagini 40 de variante de coperta. Ai ales una singura, ai schimbat tipografia, ai mutat titlul, ai taiat marginea si ai schimbat culoarea fundalului. Coperta finala nu seamana cu nimic din ce a iesit prima data. Intrebarea concursului de la judet: cine este autorul acestei coperte?

Drepturi morale — sa fii recunoscut autor, sa decizi sub ce nume apare opera, sa te opui modificarilor care iti deformeaza lucrarea. Nu se vand si nu se cedeaza.

Drepturi patrimoniale — sa hotarasti cine reproduce, distribuie sau prezinta public opera si in ce conditii. Acestea se pot ceda prin contract, contra unei sume.

Durata: drepturile patrimoniale dureaza toata viata autorului si inca 70 de ani dupa moartea lui, in favoarea mostenitorilor. Dupa aceea, opera intra in domeniul public.

In 2023, Oficiul pentru Drepturi de Autor din Statele Unite a analizat banda desenata Zarya of the Dawn, ale carei imagini fusesera produse cu un generator de imagini. Decizia: textul si aranjarea paginilor, facute de autoare, raman protejate; imaginile generate, in schimb, au fost excluse din inregistrare, pentru ca nu au un autor uman. Este o decizie americana, nu o lege romaneasca, dar arata limpede criteriul care se aplica peste tot: ce a facut omul.

Generatoarele de imagini si de text au fost antrenate pe cantitati uriase de opere existente, multe dintre ele protejate. Din acest motiv exista, in acest moment, procese si dezbateri in mai multe tari, iar situatia juridica nu este inca stabilizata. Regula prudenta pentru tine: nu cere in stilul lui X, cu numele unui artist in viata, ca sa livrezi rezultatul drept lucrare proprie. Poti studia un stil; nu il poti imprumuta cu numele lui pe eticheta.

Exista un standard deschis, C2PA (cunoscut si ca Content Credentials), care ataseaza fisierului o fisa de provenienta: cu ce instrument a fost creat, ce modificari a suferit. Tot mai multe aplicatii foto il scriu automat. Are insa o limita importanta: fisa se poate pierde cand imaginea e recomprimata, retrimisa prin unele retele sociale sau pur si simplu fotografiata de pe ecran. Deci absenta fisei nu dovedeste ca imaginea e reala.

La fiecare lucrare predata, atasezi patru randuri: ce instrument ai folosit si cand, ce i-ai cerut (formularea exacta), ce ai ales si ce ai modificat tu, ce nu ai verificat inca. Costa un minut si rezolva dinainte orice suspiciune.

Cele 40 de variante de coperta au parut gratuite: ai apasat un buton de 40 de ori si nu ai platit nimic. Nu au fost gratuite — costul a fost platit in alta parte, intr-o hala de servere de care nu ai auzit niciodata, care trage curent din retea zi si noapte si care trebuie racita ca sa nu se opreasca.

Antrenarea modelului se face o singura data, dureaza saptamani si consuma foarte mult. Este ca turnarea unui decor urias de teatru: scump, dar o singura data.

Utilizarea (fiecare cerere pe care o trimiti) costa foarte putin la bucata — dar se intampla de miliarde de ori pe zi, in toata lumea. Insumat, utilizarea ajunge sa cantareasca mai mult decat antrenarea.

Potrivit raportului Energy and AI al Agentiei Internationale pentru Energie (2025), centrele de date din intreaga lume au consumat in 2024 in jur de 415 TWh de electricitate, adica aproximativ 1,5% din consumul mondial de electricitate, iar estimarea pentru 2030 este de aproape dublu.

Cum citesti aceasta cifra, corect: este o estimare pentru toate centrele de date, nu doar pentru IA, si difera de la o sursa la alta. Retine ordinul de marime si faptul ca tendinta este de crestere; nu invata cifra ca pe un adevar fix.

Formuleaza cererea bine de prima data. O cerere clara, cu format, dimensiune si stil precizate, inlocuieste 30 de incercari la intamplare. Cea mai mare economie de energie e cea pe care nu o mai ceri.

Genereaza la dimensiunea de care ai nevoie. Pentru o poza de pe pagina de Instagram a clasei nu ai nevoie de rezolutie de afis A2.

Nu cere video cand ajunge o imagine. Generarea de video este, de departe, cea mai costisitoare dintre operatiile obisnuite.

Reutilizeaza si arhiveaza. Pastreaza variantele bune intr-un folder al proiectului, in loc sa regenerezi acelasi lucru saptamana viitoare.

Doi colegi pregatesc prezentarea pentru expozitia clasei. Unul cere unui chatbot textul de sala si il copiaza asa cum a venit: sunt acolo doua date istorice gresite si un nume de critic care nu exista. Celalalt cere zece idei de titlu, alege una, o rescrie cu vorbele lui si verifica fiecare data in doua surse. Acelasi instrument, doua rezultate care nu se compara.

Scoate rapid variante si schite de la care poti porni — util cand ai zece idei si trei ore.

Preia munca repetitiva: transcriere, subtitrari, curatarea zgomotului dintr-o inregistrare, redenumirea fisierelor.

Explica un termen sau o notiune oricand, fara sa ceara programare.

Sprijina elevii cu nevoi speciale: descrie o imagine cu voce tare, citeste un text, mareste contrastul.

Inventeaza convingator. Poate produce nume, ani si titluri de surse care nu exista, cu acelasi ton sigur ca informatiile reale.

Nu intelege. Calculeaza ce continuare este probabila, pe baza a ceea ce a vazut; nu are intentie si nu are experienta de spectator sau de interpret.

Repeta partinirile din date. Daca datele au fost inguste, rezultatul va fi ingust in acelasi fel.

Nu poarta raspundere. Nu poate fi chemat sa dea explicatii; semnatura de pe lucrare ramane a ta.

Nu iti da stilul tau. Iti da media stilurilor pe care le-a vazut. Diferenta dintre cele doua este exact motivul pentru care ai ales o scoala de arte.

Costa energie si resurse. Fiecare cerere are un pret platit in alta parte.