Spanja ka urdhëruar prokurorët të hetojnë platformat e mediave sociale X, Meta dhe TikTok për përhapjen e dyshuar të materialeve me abuzim seksual të fëmijëve të krijuara me inteligjencë artificiale, ndërsa rregullatorët evropianë po shtojnë presionin ndaj kompanive të mëdha teknologjike për përmbajtje të dëmshme dhe të paligjshme.
Njoftimi nga kryeministri Pedro Sánchez vjen në kuadër të një goditjeje më të gjerë ndaj platformave online, me rregullatorët që i akuzojnë ato për praktika që variojnë nga sjellje anti-konkurruese në reklamimin dixhital deri te dizajnimi i qëllimshëm i veçorive që krijojnë varësi.
Tri kompanitë e përmendura nga Sánchez nuk iu përgjigjën menjëherë kërkesave për koment të dërguara me email.
Kjo masë – e para nga një paketë rregullash për mediat sociale që Sánchez prezantoi në një samit qeveritar në Dubai më herët këtë muaj – bazohet në një raport teknik nga tre ministri, thuhet në një deklaratë të zyrës së tij.
Zëdhënësja e qeverisë, Elma Saiz, u tha gazetarëve se autoritetet “nuk mund të lejojnë që algoritmet të përforcojnë ose të strehojnë” krime të tilla, duke shtuar se siguria, privatësia dhe dinjiteti i fëmijëve janë në rrezik.
Veçmas, të martën, Komisioni për Mbrojtjen e të Dhënave të Ireland njoftoi se kishte hapur një hetim zyrtar ndaj chatbot-it Grok të kompanisë xAI në platformën X, lidhur me përpunimin e të dhënave personale dhe potencialin për të gjeneruar imazhe dhe video të seksualizuara të dëmshme, përfshirë edhe të fëmijëve.
Një në pesë të rinj në Spanjë – kryesisht vajza – thonë se imazhe të rreme nudo të tyre janë krijuar nga AI dhe janë shpërndarë online kur ishin ende të mitur, sipas zyrës së Sánchez, duke cituar organizatën e të drejtave të fëmijëve Save the Children.
“Këto platforma po minojnë shëndetin mendor, dinjitetin dhe të drejtat e fëmijëve tanë,” shkroi Sánchez në X. “Shteti nuk mund ta lejojë këtë. Pandëshkueshmëria e këtyre gjigantëve duhet të marrë fund.”
Ai tha se Ministria e Drejtësisë do t’u kërkojë prokurorëve të “hetojnë krimet që X, Meta dhe TikTok mund të jenë duke kryer përmes krijimit dhe shpërndarjes së pornografisë me fëmijë duke përdorur inteligjencën artificiale”.
Spanja nuk është i vetmi vend që po ndërmerr masa ndaj platformave të mediave sociale. Qeveri të tjera kanë hapur hetime, kanë vendosur ndalime dhe kanë kërkuar masa mbrojtëse në një përpjekje globale në zgjerim për të frenuar materialet e paligjshme online.