Kako generativni AI proizvodi sve uvjerljiviji tekst, holandski istraživači istražuju kako jezičke znakove, pristranost modela i transparentnosti mogu pomoći u otkrivanju lažnih vijesti.
Od
- Kim Loohuis
Objavljeno: 18. juna 2025. 11:30
“EN-US” podaci-kontrast=”auto”>”No Spacing”> Ovo pitanje je bilo centralno na nedavni simpozijum u Amsterdamu na dezinformacijama i LLMS-u, koje su domaćin CWI-e, “Hyperlink”> The“Hyperlink”> Istraživački institut za matematiku i računarske nauke u Holandiji“No Spacing”> i co- Organizovano Sa Univerzitetom Utrecht i Univerziteta u Groningenu. International Istraživači su se okupili da istražuju kako se dezinformacija razvija i koji su novi alati i pristupi potrebni za njegovo suzbijanje.
“EN-US” podaci-kontrast=”auto”>”No Spacing”> Među Organizatori Je li CWI istraživač “Hyperlink”> Davide Cjelolin“No Spacing”>, čiji se rad fokusira na kvalitetu informacija, pristranosti u AI modelima i objašnjenja automatiziranih procjena. Znakovi upozorenja koji su jednom pomogli identifikovati Desinformacije – gramatičke greške, nespretno fraziranje I jezičke nedosljednosti – brzo postaju zastarjele jer se sadržaj generirani Ai ne razlikuje od ljudskog pisanja.
“EN-US” podaci-kontrast=”auto”>”No Spacing”> Ova evolucija predstavlja Više od tehničkog izazova. Svjetski ekonomski forum ima “Hyperlink”> Identificirane dezinformacije kao najznačajnije Kratkoročni rizik“No Spacing”> Globalno za drugu godinu zaredom, sa Holandijom rangiraju ga među svojih pet najboljih briga 2027. Sofisticiranost sadržaja generiranog AI-a ključni je faktor koji pokreće ovo pojačano zabrinutost, predstavljajući temeljni izazov za organizacije I pojedinci podjednako.
“EN-US” podaci-kontrast=”auto”>”No Spacing”> Godinama, CEOLIN-ov tim razvijen alati I metode za identifikovati lažne vijesti kroz jezičku I reputacija uzorci, otkrivajući znakove sadržaja u Teltale Karakterizirano Veliki dio rane dezinformacije.
“EN-US” podaci-kontrast=”auto”>”No Spacing”> Njihove metode koriste Prirodna obrada jezika (NLP) Sa kolegama sa Univerziteta VU Amsterdam; logično rezonovanje, sa kolegama sa Univerziteta u Milanu; i ljudsko računanje (gužve, sa kolegama sa Univerziteta Udine, Univerzitet u Queenslandu i Royal Melbourne Institute za tehnologiju) i pomoći u prepoznavanju sumnjivih dijelova teksta i provjeru Njihova Istinitost.
“{“201341983″:0,”335559739″:0,”335559740”:240}”> Mjenjač igre
“EN-US” podaci-kontrast=”auto”>”No Spacing”> Igra se temeljno promijenila. “LLMS počinju pisati više jezički ispravni tekstovi”, rekao je izvršni direktor. “Verodostojnost i faktitost nisu nužno usklađeni – to je pitanje.”
“EN-US” podaci-kontrast=”auto”>”No Spacing”> Tradicionalni markeri obmane nestaju jednako kao jačinu, sofisticiranost i Personalizacija Generirani sadržaj povećava se eksponencijalno.
“EN-US” podaci-kontrast=”auto”>”No Spacing”>“Hyperlink”> Tommy van Steen“No Spacing”>, univerzitetski predavač na cyber sigurnosti na Univerzitetu Leiden objasnio je širi izazov suočeni sa istraživačima. Na nedavnom interdisciplinarnom događaju Organizovano Univerzitet Leiden – The “Hyperlink”> Noć digitalne sigurnosti“No Spacing”>, koji je okupio stručnjake iz zakona, kriminologije, Tehnologija I javna uprava – napomenuo je: “Lažne vijesti kao tema ili reč zaista dolaze iz Trumpa oko izbora 2016. godine. Sve što se nije složio sa, Jednostavno je nazvao lažne vesti. “
“EN-US” podaci-kontrast=”auto”>”No Spacing”>“No Spacing”> Međutim, Van Steen je rekao da se problem proteže daleko izvan blatantnih izmišljenika. “Važno je razlikovati dezinformaciju i dezinformaciju”, rekao je on. “Obojica uključuju razmjenu informacija koje nisu tačne, ali s dezinformacijama, slučajno je; s dezinformacijama, to je namjerno.”
“EN-US” podaci-kontrast=”auto”>”No Spacing”> Izvan lingvističke analize
“EN-US” podaci-kontrast=”auto”>”No Spacing”>“No Spacing”> Za istraživače vole izvršni direktor, implikacije sadržaja generiranog AI proširuju se daleko izvan Jednostavan tekst Generacija. Nedavna istraživanja svog tima (u saradnji sa INRI-jamskom sestrinom Institutom u Francuskoj) – prihvaćena u nalazima vodećeg računarske lingvističke konferencije, ACL – otkriveno kako LLMS pokazuje različite političke pristranosti ovisno o jeziku Oni su zatraženo i nacionalnost Oni su Dodijeljeno. Kada je isti model odgovorio na identičnu političku kompasu pitanja na različitim jezicima ili uz utjelovljenje različitih nacionalnih lica, rezultati su značajno razlikovali.
“EN-US” podaci-kontrast=”auto”>”No Spacing”>“No Spacing”> Van Steen-ov rad ističe onu dezinformaciju nije Jednostavno binarno istinito prema lažnom sadržaju. Zapošljava okvir sa sedam kategorija u rasponu od satire i parodiranja do potpuno izrađenog sadržaja.
“EN-US” podaci-kontrast=”auto”>”No Spacing”> “Ne radi se samo o potpunoj gluposti ili potpunoj istini – zapravo postoji dosta između njih, a to može biti barem tako štetno, možda čak i mor Štetno “, rekao je.
“EN-US” podaci-kontrast=”auto”>”No Spacing”> Međutim, izvršni direktor tvrdio je da su samo tehnološka rješenja nedovoljna. “Mislim da je to dvostruki napor”, rekao je. “Korisnici bi trebali surađivati s mašinom i s drugim korisnicima za poticanje identifikacije dezinformacije.”
“EN-US” podaci-kontrast=”auto”>”No Spacing”>“No Spacing”> Pristup predstavlja Značajan pomak iz čisto automatiziranog otkrivanja na ono što je izvršni direktor nazvao “prozirnim” sistemima, koji korisnicima pružaju obrazloženje svojih procjena. Umjesto da algoritmi crnog kutija pružaju binarne presude, nova generacija alata ima za cilj obrazovanje i osnaživanje korisnika objašnjavanjem procesa donošenja odluka.
“EN-US” podaci-kontrast=”auto”>”No Spacing”> Sadržaj poljoprivrede i brige o mikro ciljanju
“EN-US” podaci-kontrast=”auto”>”No Spacing”>“No Spacing”> Simpozijum na CWI naglasio je tri nivoa eskalacije AI-a za dezinformacije AI: Sadržaj poljoprivrede, LLM ranjivosti i mikro cilja.
“EN-US” podaci-kontrast=”auto”>”No Spacing”> CEOLIN Identificirano Sadržaj poljoprivrede kao najviše zabrinjava. “Vrlo je lako generirati sadržaj, uključujući sadržaj s negativnim namjerama, ali ljudi je mnogo teže da otkriju lažni generirani sadržaj”, rekao je on.
“EN-US” podaci-kontrast=”auto”>”No Spacing”>“No Spacing”> Van Steen istaknuo je temeljnu asimetriju koja otkriva otkrivanje sve izazovnije. “Jedan od najvećih problema sa lažnim vijestima je ovaj prekid veze – koliko je jednostavno stvoriti nasuprot tome koliko je teško i dugotrajno provjeriti”, napomenuo je. “Nikad nećete lako uravnotežiti tu jednadžbu.”
“EN-US” podaci-kontrast=”auto”>”No Spacing”>“No Spacing”> Izazov se pojačava kada se sofisticirana generacija sadržaja kombinira s preciznim ciljanjem. “Ako je loš sadržaj generirani Ai učinkovito cilja na određenu grupu korisnika, još je teže uočiti i otkriti”, rekao je izvršni direktor.
“EN-US” podaci-kontrast=”auto”>”No Spacing”> Rješavanje ove nove generacije sofisticiranih dezinformacija zahtijeva temeljno preispitivanje metodologija otkrivanja. Zalaže se za objašnjenje AI sistema koji dati prioritet Transparentnost nad čistom metrics tačnosti. Na pitanje da opravda odabir 85% tačno Ali objašnjeni sustav preko 99% tačno Crna kutija, predstavlja ključno pitanje: “Možete li zaista vjerovati 99% crnoj kutiji modela 99% vremena?”
“EN-US” podaci-kontrast=”auto”>”No Spacing”> Netačnost 1% u crnoj kutiji Modeli mogu predstavljati sistematsku pristranost izvan slučajnih grešaka, a bez transparentnosti, organizacije ne može identifikovati Ili se bavite ovim slabostima. “U transparentnom modelu možete identificirati područja u kojima bi model mogla biti manjkavi i ciljani specifični aspekti za poboljšanje”, rekao je izvršni direktor.
“EN-US” podaci-kontrast=”auto”>”No Spacing”>“No Spacing”> Ova filozofija se proteže na širi izazov procjene AI pristranosti. “Sada gledamo da li možemo usporediti i mjeriti pristranost ovih modela kako bismo mogli pomoći korisnicima da razumiju kvalitetu informacija od njih”, rekao je.
“EN-US” podaci-kontrast=”auto”>”No Spacing”>“No Spacing”> Priprema za nesigurnu budućnost
“EN-US” podaci-kontrast=”auto”>”No Spacing”>“No Spacing”> Za organizacije Grappling s novim krajolikom, savjetom izvršnog direktora Naglašeno Osnove. “Ne bismo trebali zaboraviti da sva tehnologija koju smo do sada razvijali može još igrati veliku ulogu”, rekao je.
“EN-US” podaci-kontrast=”auto”>”No Spacing”> Čak i kao što LLMS postaju sofisticiraniji, tradicionalni pristupi za provjeru ostati relevantno.
“EN-US” podaci-kontrast=”auto”>”No Spacing”>“No Spacing”> “Ovi LLMS, u nekoliko slučajeva, takođe pokazuju izvore koji koriste za njihove odgovore”, rekao je izvršni direktor. “Trebali bismo da učite korisnike da gledaju izvan teksta koji dobijaju kao odgovor na ček da se oni zaista koriste izvori, a zatim provjeravaju reputaciju, pouzdanost i vjerodostojnost tih izvora.”
“EN-US” podaci-kontrast=”auto”>”No Spacing”>“No Spacing”> Budućnost zahtijeva ono što istraživač CWI opisuje kao “zajednički napor” koji uključuje kompanije, građane i institucije. “Mi kao istraživači ističumo pitanja i rizike i predlažemo rješenja”, rekao je.
“EN-US” podaci-kontrast=”auto”>”No Spacing”> “Bit će osnovno za nas da pomognemo građanima da shvate pogodnosti, ali i ograničenja ovih modela. Posljednja presuda trebala bi doći od korisnika – ali informiranih korisnika, podržane transparentnim alatima koji im pomažu da ne razumiju samo ono što čitati, ali zašto bi im to trebali vjerovati. “
Pročitajte više o umjetnoj inteligenciji, automatizaciji i robotici
-
Velika Britanija Online Režim bezbednosti Neefikasan po dezinformacijama, MPS kažu
Napisao: Sebastian Klovig Skelton
-
DeepfAkes generirani u AI-ja širi se u sukobu Izrael-Iran-američki
Napisao: Esther Shittu
-
Ko je vlasnik sadržaja generiranog AI-e?
Napisao: Reda Chouffani
-
Davos 2025: Dezinformacija i dezinformacija su najzgodniji rizici, kaže svjetski ekonomski forum
Napisao: Bill Goodwin