Ministrul Cercetării, Inovării şi Digitalizării, Bogdan-Gruia Ivan, a anunțat că Legea Deepfake o să fie supusă votului, iar proiectul de lege prevede ca persoanele ce generează un astfel de conținut, fără să scrie explicit pe cel puțin 15% din suprafața clipului video sau a fotografiei că materialul a fost realizat cu ajutorul inteligenței artificiale sau a realității virtuale, riscă inclusiv închisoare până la doi ani.
Și oamenii ce distribuie astfel de materiale realizate prin intermediul inteligenței artificiale sau a realității virtuale vor răspunde în fața legii, riscând amenzi cu sume ce variază între 600 și 90.000 de lei. Ministrul Cercetării a declarat că în ultima perioadă, numărul imaginilor și a videoclipurilor realizate prin inteligență artificială și realitate virtuală a crescut într-un ritm greu de imaginat, pe care nu îl pot micșora nici cele mai mari platforme mondiale.
Legea Deepfake își dorește să prevină apariția în mediul online a imaginilor, videoclipurilor sau fișierelor audio înșelătoare, ce pot duce la răspândirea informațiilor false, realizate prin intermediul inteligenței artificiale.
Cu toate acestea, având în vedere natura complexă și în evoluție a tehnologiei deepfake, s-ar putea să fie necesară o legislație mai specifică și actualizată pentru a aborda în mod cuprinzător această problemă. Este posibil ca în viitor să se adopte legi mai riguroase sau să se facă actualizări la legile existente pentru a ține pasul cu progresele tehnologice și cu noile amenințări pe care le prezintă deepfake-urile.
Deepfake-urile sunt produse digitale, de obicei video sau audio, care prezintă conținut falsificat și sunt create folosind tehnici avansate de învățare automată, în special tehnici de inteligență artificială (IA) cunoscute sub numele de rețele neurale generative. Termenul „deepfake” este un amestec între „deep learning” (învățare profundă) și „fake” (fals).
Această tehnologie a fost inițial utilizată în scopuri de divertisment sau pentru efecte speciale în filme și videoclipuri, dar a devenit o preocupare majoră datorită utilizării sale în manipularea informațiilor și producerea de conținut falsificat cu scopuri dăunătoare. Iată câteva aspecte cheie despre deepfake-uri:
- Deepfake-urile sunt create folosind tehnici de învățare automată, care implică antrenarea unui algoritm de rețea neuronală pentru a învăța și a reproduce modele complexe de date, cum ar fi fețele oamenilor sau voci umane. Acest lucru permite algoritmului să genereze conținut falsificat care poate să pară autentic.
- Deepfake-urile au fost folosite pentru diverse scopuri, inclusiv manipularea înregistrărilor video pentru a crea aparența că o persoană spune sau face ceva ce nu a făcut în realitate. Ele au fost, de asemenea, utilizate în conținut pornografic falsificat cu scopuri de răzbunare sau șantaj. În plus, deepfake-urile pot fi folosite în campanii de dezinformare sau pentru manipularea opiniei publice în contexte politice sau sociale.
- Deepfake-urile ridică numeroase probleme etice, sociale și de securitate. Ele pot afecta încrederea publicului, pot duce la dezinformare și confuzie în rândul oamenilor și pot fi folosite pentru a prejudicia reputațiile persoanelor sau pentru a manipula procesele democrate.
Oamenii de știință și companiile de tehnologie au început să dezvolte metode pentru detectarea și contracararea deepfake-urilor. Aceste metode includ tehnici de analiză a conținutului, cum ar fi verificarea autenticității detaliilor într-un videoclip sau analiza modelelor de manipulare a feței. În plus, unele țări au început să reglementeze deepfake-urile și să impună sancțiuni pentru utilizarea lor în moduri dăunătoare sau ilegale.
În concluzie, deepfake-urile sunt o tehnică avansată de falsificare a conținutului media care ridică provocări semnificative pentru societatea modernă.
