Istraživači kažu da AI ne opisuje složenosti holokausta

Nepouzdani fokus

Richardson-Walden naglasio je da GENEI sistemi nisu “mašine za znanje”, jer samo dodeljuju vjerojatno numeričku vrijednost riječima i nizovima riječi, a ne vrijednosti na osnovu njihovog povijesnog i kulturnog značaja. To dovodi do manjih poznatih činjenica i sahranjenih priča, jer će sistemi sklopiti reprodukciju samo najpoznatijih “kanonskih” izlaza koji se fokusiraju na najpoznatije priče.

“To vam daje glavnu odgovoru i metke”, rekla je, opisujući tipičan odgovor na upit napravljen za chatgpt. “Ova ideja rezimiranja zaista složenih historija je problematična. Ne možete sažeti nešto što se dogodilo više od šest godina u mnogim, mnogim zemljama i uticalo na čitav niz različitih ljudi i počinitelja.”

Istraživanje ne nastoji dati odgovore na ovo složeno pitanje. Umjesto toga, Richardson-Walden se nada da će pronaći alternative u raspravama sa svojim informatičkim i inženjerskim kolegama. “Kulturni označivači su teški za kodiranje, a potom ugraditi u podatke o obuci”, rekla je ona.

Richardson-Walden je također istaknuo potrebu da se “dobri podaci” u komercijalnim geneinskim modelima, posebno u odnosu na osjetljive teme istorije poput onih koji uključuju genocid, progon, sukob ili zločine.

“Dobri podaci dolaze od organizacije holokausta, ali prvo ih treba digitalizirati na strateški način, a metapodaci priloženi na njega treba biti tačan i standardizovan”, rekla je.

Drugi problem istaknut brifingom o laboratorijama je samocenzura koja se programira na većinu komercijalnih slika GENAI modela. Gotovo svaki put kada se zatraži sistem da proizvede slike holokausta, odbit će, a korisnik će biti ispunjen sa cenzurijskim smjernicama.

Ona vjeruje da su ti zaštitnici bolji od proizvodnje lažnih ili iskrivljenih podataka, oni također spriječe da su u svojim časovima u učenicima ovih modela, ali i nemojte i da zabrane informacije o holokaustu za buduće generacije koje se oslanjaju na digitalne medije.

“Način [middle ground] Dolazi je kroz dijalog “, rekao je Richardson-Walden.” Mora postojati prostor za veću raspravu sa Openaijem, Meta, Googleom, sjedeći sa mjesta poput UN-a, s nama u laboratoriji. ” Dodala je da Landecker nudi besplatno savjetovanje za raspravu o pristupima za tehničke kompanije koje se prvi put bave u memoriji holokausta.

“Čim se ujutro uhvati, [they] Shvaćajte da je ovo tako složeno i tako političko, a tu je i ovo novo novo područje o etici i digitalno o kojima nikada nisu razmišljali “, rekla je.

Saveznička web stranica Leaderker spominje da je najistaknutiji primjer digitalizacije memorije holokausta AI model poznat kao dimenzije u svjedočenju, razvio USC Shoah fondacija. To je primjer modela Genei-a specifične za domenu, opisan kao mali jezik modela, koji je “jako nadgledao” i oslanja se na “značajnu ljudsku intervenciju”. Korisnici i akademici mogu komunicirati s tim postavljanjem pitanja na koja model reagira sa svjedočanjima od preživjelih i odgovora stručnjaka koji su se hranili u nju.

Međutim, ostale laboratorije i memorijske centre možda nemaju isto što i finansiranje kao Lander Landecker. Stoga bi fokus trebao biti na masovnoj digitalizaciji imovine, koji se zatim može koristiti za odgovorno informiranje komercijalnih velikih jezičnih modela.