Međunarodni napor za usklađivanje AI rješava nepredvidivost

Velika Britanija AI Institut sarađuje sa nekoliko globalnih institucija na globalnoj inicijativi za osiguranje sistema umjetne inteligencije (AI) ponašaju se na predvidljiv način.

Projekt usklađivanja, podržan od 15 miliona funti za finansiranje vlade, uvrštava međunarodnu koaliciju, uključujući kanadski AI sigurnosni institut, Schmidt nauke, Amazon Web Services (AWS), Fondu za sigurnu AI, Istraživanje Velike Britanije i Aria) i Aria).

To odražava rastući globalni konsenzus u industriji, industriji, akademiji i filantropiju koji je usklađivanje jedan od najhitnijih tehničkih izazovnih društva suočena, te da je proširenje polja zajednička međunarodna odgovornost.

U januaru je vlada objavila svoje Međunarodni izvještaj o sigurnosti AI Prije vrhunskog samita AI, koji se odvijao u Parizu 10. i 11. februara. Izvještaj bilježi da su stručnjaci AI neodlučni na tome kada će se pojaviti glavni društveni rizici AI. Neki, prema autorima izveštaja, predviđaju da su decenijama daleko, dok drugi misle da bi AI općih ai mogao dovesti do štete za društvene razmjere u narednih nekoliko godina.

“Nedavni napredak u općim namjeni AI-a – posebno u testovima naučnog obrazloženja i programiranja – stvorili su nove dokaze za potencijalne rizike kao što su hakirajući i biološki napadi koji vode jednu veliku AI-u da bi povećala svoju procjenu biološkog rizika iz svog najboljeg modela iz” niskog “za”, “autori izvještaja”.

AI poravnanje je fokusirano na osiguravanje da se AI sustavi ponašaju u najboljem interesu čovječanstva. Peter Kyle, državni sekretar za nauku, inovacije i tehnologiju, rekao je da je u srcu rada, AI sigurnosni zavod za svaki dan uključuje zaštitu nacionalne sigurnosti u Velikoj Britaniji i osigurati da se britanska javnost zaštićena od najozbiljnijih rizika, ai može postaviti kao što tehnologija postane sve naprednija.

S obzirom na tempo AI napredovanja, Odjel za nauku, inovacije i tehnologiju (DSIT) primjećuju da će današnje metode za kontrolu AI vjerovatno biti nedovoljne za sutrašnje moguće sustave, jer se, nastavlja, zato je potreba za koordiniranim globalnim akcijama za osiguranje dugoročne sigurnosti građana.

Kyle je rekao: “Advanced AI sustavi već prelaze ljudske performanse u nekim oblastima, tako da je ključno vozimo naprijed istraživanje kako bismo osigurali da se ova transformativna tehnologija ponaša u našim interesima.”

Finansiranje uključuje donata do 1 milijuna do milion funti za istraživače preko disciplina iz računarskih nauka na kognitivne nauke. Također pruža posvećene resurse iz matura iz AWS-a i antropskog i pristupa ulaganju od privatnih sredstava za ubrzanje komercijalnog poravnanja.

Geoffrey Irving, glavni naučnik na Institutu za sigurnost AI, rekao je: “AI poravnanje jedan je od najhitnijih i nedovoljnih izazova našeg vremena. Napredak je važan, ali ne događa se dovoljno brzo u odnosu na brzi tempo razvoja AI-ja.

“Misaligned, visoko sposobni sustavi mogli bi postupiti na način naših sposobnosti kontrole, sa velikim globalnim implikacijama. Izrađujući sredstva i interdisciplinarnu suradnju na problem, nadamo se da ćemo povećati šansu da transformativni AI sustavi pouzdano služe čovječanstvu pouzdano, sigurno i na načine na koje možemo vjerovati.”

Pročitajte više o upravljanju IT rizikom

• Google, Openai ciljani državni zakoni u AI akcionom planu

  Napisao: Makenzie Holland

• Vlada preimene AI sigurnosni institut i timovi sa antropskim

  Napisao: Brian McKenna

• Summit AI Action: Pokrenuta su dvije glavne AI inicijative

  Napisao: Sebastian Klovig Skelton

• Najnovija lista AI u odlučivanju o odlučivanju

  Napisao: Cliff Saran