Dva američka senatora predložila su zakon koji bi zahtijevao od kompanija za čatbotove od umjetne inteligencije da provjere starost ljudi koji koriste svoje chat botove, u pokušaju da ograniče njihov štetni učinak na djecu
By
- Adele Zeynep Walton
Objavljeno: 30 Okt 2025 13:15
Zakonodavstvo uvedeno u Kongres SAD-a moglo bi zahtijevati od operatera četbotova umjetne inteligencije (AI) da uspostave procese provjere starosti i prestanu da koriste njihove usluge mlađim od 18 godina, nakon niza samoubistava tinejdžera.
Dvostranačke smjernice za provjeru starosne dobi korisnika i zakon o odgovornom dijalogu (čuvar), koje su predstavili republikanski senator Josh Hawley i demokratski senator Richard Blumenthal, ima za cilj zaštitu djece u njihovoj interakciji s chatbotovima i generativnom umjetnom inteligencijom (GenAI).
Ovaj potez uslijedio je nakon brojnih samoubistava tinejdžera visokog profila koja su roditelji povezivali s korištenjem četbotova sa umjetnom inteligencijom.
Hawley je rekao da bi zakon mogao predstavljati presedan za osporavanje moći i političke dominacije Big Tech-a, navodeći da “treba postojati znak izvan senatskog doma koji kaže da “kupio i platio Big Tech, jer istina je da gotovo ništa protiv čega se protive ne prelazi taj pod u Senatu”.
U izjavi, Blumenthal je kritizirao ulogu tehnoloških kompanija u podsticanju štete djeci, navodeći da “AI kompanije guraju podmukle chat botove na djecu i gledaju u stranu kada njihovi proizvodi uzrokuju seksualno zlostavljanje, ili ih prisiljavaju na samopovređivanje ili samoubistvo… Big Tech je iznevjerio svaku tvrdnju da trebamo vjerovati kompanijama da rade pravu stvar na vlastitoj sigurnosti kada je njihova sigurnost na prvom mjestu”.
Prijedlog zakona dolazi mjesec dana nakon što su ožalošćene porodice svjedočile u Kongresu pred Senatskim pravosudnim komitetom o štetnosti AI chatbota.
Senator Hawley je također pokrenuo istragu o Meta-inim politikama umjetne inteligencije u augustu, nakon objavljivanja internog dokumenta Meta politike koji je otkrio da je kompanija dozvolila chatbotovima da “uključuju dijete u romantične ili senzualne razgovore”.
U septembru je senat saslušao Megan Garciu, majku 14-godišnjeg Sewella Setzera, koji je koristio Character.AI, redovno razgovarajući sa chatbotom pod nadimkom Daenerys Targaryen, i koji se upucao u februaru 2024.
Pred komisijom su svjedočili i roditelji 16-godišnjeg Adama Rainea. Adam je umro od samoubistva nakon što je koristio ChatGPT za podršku mentalnom zdravlju i druženje, a njegovi roditelji su u avgustu pokrenuli tužbu protiv OpenAI-a zbog nezakonite smrti, koja je prva globalna.
Zakonom bi se zahtijevalo da AI chatbotovi podsjećaju korisnike da nisu ljudi u intervalima od 30 minuta, kao i da se uvedu mjere koje će ih spriječiti da tvrde da su ljudi i da otkriju da ne pružaju “medicinske, pravne, finansijske ili psihološke usluge”.
Najava zakona dolazi iste sedmice kada je OpenAI objavio podatke koji otkrivaju da je više od milion korisnika sedmično prikazano sa sadržajem “samoubilačke namjere” kada je koristio ChatGPT, dok je preko pola miliona pokazalo moguće znakove hitnih slučajeva mentalnog zdravlja.
Krivična odgovornost je također u okviru zakona, što znači da će kompanije sa umjetnom inteligencijom koje dizajniraju ili razvijaju AI pratioce koji izazivaju seksualno eksplicitno ponašanje maloljetnika ili podstiču samoubistvo, suočiti se sa krivičnim kaznama i kaznama do 100.000 dolara.
Zakon o Guard-u definira AI pratioce kao svaki AI chatbot koji „pruža prilagodljive, ljudske odgovore na korisničke inpute“ i „koji je dizajniran da ohrabri ili olakša simulaciju međuljudske ili emocionalne interakcije, prijateljstva, druženja ili terapeutske komunikacije“.
Ovogodišnje istraživanje Harvard Business Review-a pokazalo je da je broj jedan slučaj upotrebe GenAI-a sada terapija i druženje, nadmašivanje lične organizacije, generiranje ideja i specifična pretraga.
RoditeljiSOS izjava
U izjavi ParentsSOS-a, koalicija od 20 porodica koje su preživjele pogođene internetskim štetama pozdravila je taj čin, ali je istakla da ga treba ojačati. „Ovaj zakon treba da se pozabavi osnovnim dizajnerskim praksama velikih tehnoloških kompanija i zabrani platformama veštačke inteligencije da koriste funkcije koje maksimiziraju angažman na štetu bezbednosti i dobrobiti mladih“, rekli su.
Istorijski gledano, AI kompanije su tvrdile da govor chatbotova treba biti zaštićen Prvim amandmanom i pravom na slobodu izražavanja.
U maju ove godine, američki sudac presudio je protiv Character.AI, ističući da sadržaj generiran umjetnom inteligencijom ne može biti zaštićen prema Prvom amandmanu ako rezultira predvidljivom štetom. Drugi dvostranački napori da regulišu tehnološke kompanije, uključujući Zakon o sigurnosti djece na mreži, nisu uspjeli postati zakon zbog argumenata oko slobode govora i člana 230 Zakona o pristojnosti u komunikaciji.
Trenutno, ChatGPT, Google Gemini, Meta AI i xAI’s Grok dozvoljavaju djeci od 13 godina da koriste njihove usluge. Ranije ovog mjeseca, guverner Kalifornije Gavin Newsom predstavio je prvi zakon u zemlji koji reguliše AI chatbotove, Senatski zakon 243, koji će stupiti na snagu 2026. godine.
Dan nakon što je objavljen Zakon o čuvanju, Character.AI je najavio da će zabraniti mlađima od 18 godina korištenje svojih chatbotova od 25. novembra. Odluka je uslijedila nakon istrage koja je otkrila da četbote kompanije koriste tinejdžeri i pružaju štetan i neprikladan sadržaj, uključujući botove po uzoru na osobe kao što su Jeffrey Epstein, Tommy Robinson, Anne Frank i Madeleine McCann.
Pročitajte više o Tehnološkim startupima
-
Upravljanje povjerenjem u doba utjecaja umjetne inteligencije
Autor: Olivia Wisbey
-
Illinois je prva američka država koja je zabranila AI u zaštiti mentalnog zdravlja
Autor: Anuja Vaidya
-
Obuka AI, naslovna pitanja o autorskim pravima Saslušanje u Senatu SAD-a
Autor: Makenzie Holland
-
Kako se tužbe gomilaju, Odjeljak 230 štiti digitalne platforme
Autor: Makenzie Holland