Ofcom počinje istragu eksplicitnog stvaranja slike na Groku

Regulator bezbednosti na mreži Ofcom započeo je zvaničnu istragu o X u skladu sa britanskim Zakonom o bezbednosti na mreži, nakon onoga što se smatra zloupotrebom Grok AI chat bota.

Regulatorno tijelo je saopštilo da odgovara na izvještaje o tome da se chat bot nalog na X koristi za kreiranje i dijeljenje neobučenih slika ljudi – što može predstavljati zlostavljanje intimnih slika ili pornografiju – i seksualizirane slike djece koje mogu predstavljati materijal za seksualno zlostavljanje djece.

The Grok je oslobođen Studija onlajn slika iz AI Forensics, zasnovana na 50.000 tvitova u kojima se spominje Grok, objavljena između 25. decembra 2025. i 1. januara 2026. godine, otkrila je da više od polovine (53%) sadrži osobe u „minimalnoj odeći”.

Istraživač, Paul Bouchaud, izvijestio je da su 81% ovih slika bile osobe koje su predstavljene kao žene, a 2% je prikazivalo osobe koje izgledaju starije od 18 godina ili mlađe, što je utvrđeno Google-ovim modelom vizije Gemini.

Studija je takođe otkrila da 6% generisanih slika prikazuje javne ličnosti koje je identifikovao Blizanci. U izvještaju, Bouchaud je rekao da je studija identificirala preko 350 ličnosti koje je prikazao generator slike AI, od kojih je otprilike jedna trećina identificirana kao političke ličnosti. U izvještaju, Bouchaud je naveo da to sugerira da nema očiglednih zaštitnih ograda koje sprječavaju sadržaj koji bi se mogao koristiti za propagandni materijal i dezinformacije.

Ofcom je rekao da je kontaktirao X 5. januara, dajući mu rok do 9. januara da objasni koje je korake poduzeo da ispuni svoje obaveze zaštite korisnika u Velikoj Britaniji.

Nakon odgovora kompanije, Ofcom je rekao da je odlučio otvoriti zvaničnu istragu kako bi utvrdio da li X nije ispunio svoje zakonske obaveze prema Zakonu o sigurnosti na mreži.

Među područjima istrage je i procjena rizika da ljudi u Ujedinjenom Kraljevstvu vide sadržaj koji je nezakonit u Ujedinjenom Kraljevstvu i da li X poduzima odgovarajuće korake kako bi spriječio ljude u Ujedinjenom Kraljevstvu da vide „prioritetni“ ilegalni sadržaj kao što su intimne slike bez pristanka.

Istraga će također razmotriti koliko brzo X uklanja ilegalni sadržaj kada za njega sazna i kako štiti korisnike od kršenja zakona o privatnosti. Što se tiče zaštite djece, Ofcom je rekao da će istraga također procijeniti rizik koji usluga Grok AI predstavlja za djecu u Ujedinjenom Kraljevstvu, kao i efikasnost X-a da koristi osiguranje starosti kako bi zaštitio britansku djecu od gledanja pornografije.

Komentarišući istragu, Ofcom je rekao: “Izvještaji o tome da se Grok koristi za kreiranje i dijeljenje ilegalnih intimnih slika bez pristanka i materijala o seksualnom zlostavljanju djece na X su duboko zabrinjavajući. Platforme moraju zaštititi ljude u UK od sadržaja koji je nezakonit u UK, a mi nećemo oklijevati da istražimo tamo gdje sumnjamo da su njihove dužnosti na štetu djece.

“Napredovat ćemo ovu istragu kao pitanje od najvećeg prioriteta, istovremeno osiguravajući da slijedimo pravilan postupak. Kao nezavisna britanska agencija za provođenje sigurnosti na internetu, važno je osigurati da naše istrage budu pravno robusne i pravedno odlučene.”

Bilo je dosta pohvala za Groka na X feedu izvršnog direktora Elona Muska, koji je, čini se, izbjegao rasprave o potrebi za zaštitnim ogradama za zaštitu djece i privatnosti ljudi. U postu na X, Musk je rekao da Velika Britanija želi “bilo koji izgovor za cenzuru”.

Pročitajte više o IT upravljanju

• Odgovornost za zloupotrebu AI modela

  Autor: Cliff Saran

• Elon Musk će otvoriti novi X algoritam

  Autor: Adrian Bridgwater

• Privatnost će biti pod napadom bez presedana 2026

  Autor: Bill Goodwin

• Ožalošćene porodice pozivaju na javnu istragu o forumu o samoubistvima

  Autor: Sebastian Klovig Skelton