Feodora – stock.adobe.com
Ukupno, 27 miliona funti sada je dostupno za finansiranje rada Instituta za bezbednost veštačke inteligencije na saradnji na bezbednoj i bezbednoj veštačkoj inteligenciji
By
- Cliff Saran,Managing Editor
Objavljeno: 20 feb 2026 14:45
OpenAI i Microsoft su najnovije kompanije koje podržavaju britanski AI Security Institute (AISI).
Dve kompanije su obećale podršku projektu Alignment, međunarodnom nastojanju da se radi na naprednim sistemima veštačke inteligencije koji su sigurni, sigurni i deluju kako je predviđeno.
Tokom samita o AI Impact Summitu u Indiji, vlada Ujedinjenog Kraljevstva objavila je da je sada dostupno 27 miliona funti za istraživanje usklađivanja AI, uz podršku oko 60 projekata.
Projekat kombinuje bespovratna sredstva za istraživanje, pristup računarskoj infrastrukturi i kontinuirano akademsko mentorstvo vodećih naučnika AISI-ja u ovoj oblasti kako bi se pokrenuo napredak u istraživanju usklađivanja.
Bez kontinuiranog napretka u ovoj oblasti, sve snažniji AI modeli mogli bi djelovati na načine koje je teško predvidjeti ili kontrolirati, što bi moglo predstavljati izazove za globalnu sigurnost i upravljanje.
“AI nam nudi ogromne mogućnosti, ali uvijek ćemo biti jasni u pogledu potrebe da osiguramo sigurnost od samog početka,” rekao je potpredsjednik britanske vlade David Lammy.
„Izgradili smo jake sigurnosne temelje koje su nas dovele u poziciju u kojoj možemo početi da shvatamo prednosti ove tehnologije“, dodao je on. “Podrška OpenAI-a i Microsofta bit će od neprocjenjive važnosti u nastavku napretka u ovom naporu.”
Vlada vidi usklađivanje AI kao napor usmjeravanja naprednih AI sistema da djeluju kako je predviđeno, bez nenamjernog ili štetnog ponašanja. To uključuje razvoj metoda koje sprječavaju nesigurna ponašanja kako AI sistemi postaju sposobniji.
Odeljenje za nauku, inovacije i tehnologiju (DSIT) vidi napredak u usklađivanju kao nešto što će povećati poverenje i poverenje u veštačku inteligenciju, na kraju podržavajući usvajanje sistema koji povećavaju produktivnost.
Britanski ministar umjetne inteligencije, Kanishka Narayan, rekao je: “Možemo otključati punu moć umjetne inteligencije samo ako joj ljudi vjeruju – to je misija koja nas pokreće. Povjerenje je jedna od najvećih prepreka usvajanju umjetne inteligencije, a istraživanje usklađivanja direktno se bavi ovim.”
Hitan izazov
Sa porastom AI sistema koji mogu obavljati sve složenije zadatke, raste globalni konsenzus da je usklađivanje AI jedan od najhitnijih tehničkih izazova naše ere.
Mia Glaese, potpredsjednica istraživanja u OpenAI, rekla je: “Kako AI sistemi postaju sposobniji i autonomniji, usklađivanje mora ići u korak. Najteže probleme neće riješiti nijedna organizacija koja radi u izolaciji – potrebni su nam nezavisni timovi koji testiraju različite pretpostavke i pristupe.
“Naša podrška projektu usklađivanja UK Instituta za umjetnu inteligenciju dopunjuje naš interni rad na usklađivanju i pomaže u jačanju šireg istraživačkog ekosistema usmjerenog na održavanje pouzdanih i kontrolisanih naprednih sistema jer se koriste u otvorenijim okruženjima,” dodala je.
Osim OpenAI i Microsofta, AISI-jev projekat usklađivanja podržava međunarodna koalicija uključujući Kanadski institut za napredna istraživanja, Institut za AI sigurnost Australijskog odjela za industriju, nauku i resurse, Schmidt Sciences, Amazon Web Services, Anthropic, AI Safety Tactical Opportunities Fund, Hald the Ventures Safe Fund, Hald the Ventures Safe Fund. Renesansna filantropija, UK istraživanja i inovacije i Agencija za napredna istraživanja i pronalaske. Predvodi ga stručni savjetodavni odbor, uključujući Yoshua Bengio, Zico Kolter, Shafi Goldwasser i Andrea Lincoln.
DSIT je rekao da se projekat usklađivanja nadograđuje na međunarodnom vodstvu AISI-ja, osiguravajući da vodeći istraživači iz Ujedinjenog Kraljevstva i saradnički partneri mogu oblikovati smjer polja i pokrenuti napredak u sigurnoj AI koja se ponaša predvidljivo.
Pročitajte više o umjetnoj inteligenciji, automatizaciji i robotici
-
ENEC, TII i Aspire testiraju autonomne vazdušne sisteme za sigurnost kritične infrastrukture
Autor: Andrea Benito
-
Zaštita umjetne inteligencije se poboljšava, kaže tijelo koje podržava vlada Velike Britanije
Autor: Alex Scroxton
-
Napori međunarodnog usklađivanja umjetne inteligencije rješavaju nepredvidljivost
Autor: Cliff Saran
-
AI Action Summit: Globalni lideri osuđuju AI birokratiju
Autor: Sebastian Klovig Skelton