Vlada preimene AI sigurnosni institut i timovi sa antropskim

Peter Kyle, državni sekretar za nauku, inovacije i tehnologiju koristit će minhensku sigurnosnu konferenciju kao platformu za ponovno imenovanje Instituta za sigurnost AI-a u Velikoj Britaniji za Institut za sigurnost AI.

Prema izjavi Odjeljenja za nauku, inovacije i tehnologiju, novo ime “odražava se” [the AI Security Institute’s] Usredotočite se na ozbiljne AI rizike sa sigurnosnim implikacijama, poput načina na koji se tehnologija može koristiti za razvoj hemijskog i biološkog oružja, kako se može koristiti za obavljanje cyber napada i omogućiti zločine poput prevara i seksualnog zločina “.

Institut za sigurnost AI neće, saopćivat neće, usredotočiti se na pristranost ili slobodu govora, ali u unapređenju razumijevanja najozbiljnijih rizika koje predstavlja AI tehnologiju. Odjeljenje je navelo da čuva britansku nacionalnu sigurnost i zaštitu građana od kriminala postat će osnivača principa Velike Britanije uvršnom razvoju umjetne inteligencije.

Kyle će u Minhenu izbaciti svoju viziju za revitalizirani AI sigurnosni zavod u Minhenu, samo nekoliko dana nakon zaključenja AI Action Samita u Parizu, gdje su Velika Britanija i SAD odbili potpisati sporazum o inkluzivnoj i održivoj umjetnoj inteligenciji (AI). Također će, prema izjavi, biti “uzimanje obloga sa novim sporazumom” koji je pogođen između kompanije Velike Britanije i kompanije AI antropske.

Prema izjavi: “Ovo partnerstvo je rad nove suverene AI jedinice, te će obje strane usko surađivati ​​kako bi shvatile mogućnosti tehnologije, sa nastavljenim fokusom na odgovornom razvoju i raspoređivanju AI sistema.”

Velika Britanija će uspostaviti daljnje sporazume sa “vodećim AI kompanijama” kao ključni stup plana koji se fokusira na vladinu kuću za promjene.

Kyle je rekao: “Promjene koje danas najavljujem predstavljaju logičan sljedeći korak u tome kako se približavamo odgovornoj AI razvoju – pomažući nam da oslobodimo ekonomiju kao dio našeg plana za promjene.

“Rad Instituta za sigurnost AI neće se promeniti, ali ovaj obnovljeni fokus osigurat će naše građane – a oni naših saveznika – zaštićeni su od onih koji bi izgledali da koriste AI protiv naših institucija, demokratskih vrijednosti i načina života.

“Glavni posao bilo koje vlade osigurava da su njeni građani sigurni i zaštićeni, a uvjeren sam da će ekspertizer naš AI sigurnosni zavod biti u mogućnosti da u Velikoj Britaniji bude u jačim položaju nego što bi se uhvatilo za prijetnju onima koji bi mogli koristiti ovu tehnologiju protiv nas.”

Institut za sigurnost AI će raditi sa laboratorijama za odbranu i tehnologiju, nauku i tehnološkoj organizaciji Ministarstva odbrane, za procjenu rizika koje predstavljaju kakva se odjel zvao “Frontier Ai”. Radit će i sa laboratorijama za AI sigurnosnu istraživanje (LASR) i zajednicu nacionalne sigurnosti, uključujući izgradnju na stručnosti Nacionalnog cyber sigurnosnog centra.

Institut za sigurnost AI lansirat će novi tim krivičnog zloupotrebe koji će zajednički raditi s matičnim uredom za provođenje istraživanja o nizu kriminalnih i sigurnosnih pitanja. Jedno takvo područje fokusa bit će u rješavanju upotrebe AI-a da napravimo slike djeteta seksualnim zlostavljanjem, s tim novim tim istraživanjem metoda kako bi se spriječilo zločinje da čine zločin. To će prethodno najaviti posao koji je najavljen zbog kojih je ilegalno posjedovati AI alate koji su optimizirani za izradu slika dječijeg seksualnog zlostavljanja.

Predsjedavajući AI Instituta za sigurnost Ian Hogarth, rekao je: “Fokus Instituta sa početka bio je na sigurnosti i izgradili smo tim naučnika fokusiran na evaluaciju ozbiljnih rizika za javnost. Naš novi tim zločinačkog zloupotrebe i produbljivanje partnerstva sa zajednicom nacionalne sigurnosti obilježili su sljedeću fazu rješavanja tih rizika. “

Dario Amodei, generalni direktor i suosnivač antropskog, dodali su: “AI ima potencijal za transformaciju kako vlade služe svojim građanima. Radujemo se što ćemo istražiti kako Ai Ai Aint Claude može pomoći vladinim agencijama u Velikoj Britaniji da poboljšaju javne usluge, s ciljem otkrivanja novih načina da se vitalne informacije i usluge učinile efikasnije i dostupne u Velikoj Britaniji.

“I dalje ćemo usko sarađivati ​​s UK AI sigurnosnim zavodom za istraživanje i procjenu AI mogućnosti kako bismo osigurali sigurnu rasporedu.”

Pročitajte više o tome za vladin i javni sektor

• Vlada pokreće savjetovanje o planu za pojednostavljivanje poslovanja putem e-fakturiranja

  Napisao: Karl Flinders

• Top 10 podataka o podacima i etikama 2024

  Napisao: Sebastian Klovig Skelton

• Zakona o barumima planira tužiti Microsoft i Google preko AI podaci o obuci

  Napisao: Sebastian Klovig Skelton

• Partneri snježnih pahuljica s antropskim za poboljšanje razvoja AI-a

  Napisao: Eric Avidon