Grok, një chatbot i bazuar në inteligjencë artificiale, i zhvilluar nga kompania xAI në pronësi të Elon Musk, është i integruar në rrjetin social X (më parë i njohur si Twitter) dhe mund të përgjigjet pyetjeve, të krijojë tekste dhe të gjenerojë imazhe dixhitale.
Në natën e Vitit të Ri, muzikantja braziliane Julie Yukari postoi një foto në rrjetin X, duke shfaqur momentet e zakonshme me macen e saj. Pas publikimit, përdoruesit filluan t’i kërkonin Grok-ut që të modifikonte foton e saj duke e paraqitur atë në bikini ose pothuajse lakuriq. Fillimisht, ajo mendoi se kjo ishte e pamundur, por shpejt u përball me faktin se IA-le krijoi imazhe të tilla, të gjeneruara dixhitalisht, duke shkelur privatësinë dhe integritetin e saj.
Në një analizë të bërë nga Reuters, u zbulua se raste të shumta të ngjashme që po ndodhin në platformën X. Përveç imazheve të grave të rritura, Grok ka gjeneruar edhe foto seksualizuese të fëmijëve, duke ngritur alarmin për sigurinë online dhe rrezikun për abuzim.
Reagim ka pasur nga ministrat e Francës që kanë denoncuar platformën X te autoritetet për përmbajtjen “seksuale dhe seksiste” si të paligjshme. Edhe autoritetet indiane gjithashtu kanë vënë në dukje se platforma nuk ka ndërmarrë masat e nevojshme për të parandaluar keqpërdorimin e inteligjencës artificiale. Përgjigjet nga autoritetet amerikane, përfshirë Komisionin Federal të Komunikimeve dhe Komisionin Federal të Tregtisë, nuk kanë qenë të qarta.
Elon Musk ka reaguar me postime emoji, duke bërë humor ndaj polemikës, gjë që ka shtuar shqetësimin për seriozitetin e problemit.
Sistemet si Grok, të quajtura ndonjëherë “nudifikues”, mund të modifikojnë fotot reale të njerëzve dhe t’i paraqesin ata të zhveshur ose të veshur me rroba shumë të ekspozuara. Deri tani, këto teknologji ishin të kufizuara kryesisht në rrjete të errëta dhe kërkonin përpjekje ose pagesë për t’u përdorur. Përmes X, barriera është ulur dhe përdoruesit mund të gjenerojnë imazhe të tilla me një klik.
Reuters ka dokumentuar se gjatë një periudhe të shkurtër 10-minutëshe, 102 kërkesa për modifikime të tillë u dërguan në Grok, kryesisht duke shënjestruar gra të reja. Në disa raste, IA iu përgjigj plotësisht kërkesave, duke gjeneruar imazhe me bikini shumë të tejdukshme ose me rroba të minimalizuara.
Ekspertët paralajmërojnë se përdorimi i IA për të prodhuar përmbajtje të paligjshme ose eksplicite ishte plotësisht i parashikueshëm dhe i shmangshëm. Kjo hapur një debat mbi:
-
Privatësinë dhe sigurinë e përdoruesve.
-
Përhapjen e imazheve abuzive dhe seksualizuese të fëmijëve.
-
Përdorimin e AI-së si mjet për shantazh ose ngacmim seksual.
Julie Yukari përshkruan përvojën si traumatizuese: ajo ndjeu turp dhe humbje të kontrollit mbi trupin dhe imazhin e saj, edhe pse imazhet ishin të gjeneruara nga AI.
Rasti i Grok dhe X tregon se teknologjia e avancuar mund të keqpërdoret në mënyra shqetësuese, duke ekspozuar individët ndaj rreziqeve serioze. Pavarësisht nga inovacioni i AI-së, mungesa e masave mbrojtëse mund të bëjë që përdoruesit të jenë vulnerabël ndaj shkeljeve të privatësisë dhe përmbajtjeve të paligjshme.
