Openai sada nudi otvorene AI modele, ali cio treba procijeniti rizik

Openai, programer Chaggpt, objavio je dva velika jezična modela (LLMS) pod licencom Apache 2.0 otvorenog koda. Modeli, GPT-OSS-120B i GPT-OSS-20B su modeli jezika na otvorenom, koji je Openai tvrdio da pružaju snažne performanse u stvarnom svijetu po niskim troškovima.

Prema Openaiju, novi modeli nadmašuju slične otvorene modele na zadacima obrazloženja i optimizirani su za efikasno raspoređivanje na potrošački hardver.

Openai je rekao da je njegov GPT-OSS-120B model postiže gotovo paritet s O4-MI-MI-om na jezgrenim referentnim referentnim referentnim referentnim resursima, dok se radi efikasno na jednom 80 GB GB. Rečeno je da GPT-OSS-20B model pruža slične rezultate za Otvori O3-Mini na zajedničkim mjerilima i može se pokrenuti na ivičnim uređajima sa samo 16 GB memorije.

Grafički procesor (GPU) Proizvođač NVIDIA rekao je da su novi modeli Openaija obučeni za NVIDIA H100 GPU-a i mogu koristiti NVIDIA NIM mikroservice, koje je rečeno, nudi jednostavno raspoređivanje na bilo kojoj GPU-ubrzanoj infrastrukturi s fleksibilnošću, privatnošću podataka i zaštitom privatnosti podataka.

Nvidia je rekao da sa softverskim optimizacijama za Nvidia Blackwell platformu, modeli mogu postići 1,5 miliona tokena u sekundi kada se pokreću na NVIDIA GB200 NVL72 sistemima za podršku AI zaključku.

Amanda Brock, generalni direktor OpenUK, rekao je: “Ljepota otvorenog koda i otvorenost u AI-u je da je na svim stranama u softveru na globalnoj korekciji, ali u komercijalnoj susretu s otvorenim tekućima i promovira usvajanje – misle Meta otvoreni inovacijski model Llama. U svijetu geo-političke smjene, to Omogućuje globalni doseg i uticaj u AI. “

Glavna korist od otvorenog AI modela je da nije zatvorena, što znači da ga itko može provjeriti. Ovo bi trebalo pomoći poboljšanju njegove kvalitete i uklanjanja grešaka i otići na neki način za rješavanje pristranosti, kada izvorni podaci na koji se obučava model nije dovoljno raznovrstan. Otvoreni modeli nude poduzeća način da se precizno prilagodi LLM kako bi njihova organizacija pokreće. Međutim, CIO treba vagati prednosti korištenja otvorenog AI modela nad onim koji su vlasnici, posebno jer se suočavaju sa značajnim operativnim troškovima povezanim s raspoređivanjem bilo kojeg AI modela.

Haritha Khandabattu, viši direktor i analitičar u Gartneru, rekao je otvoreni modeli, popularizirani LLMS-om kao što su Meta’s Llama, uglavnom se koriste u reguliranim industrijama. “Ove industrije su sklone eksperimentiranju sa otvorenim modelima”, rekla je. “Ovisno o tome gdje i način na koji se implementirate otvorenim modelima, možda će također zahtijevati značajnu infrastrukturu.”

Khandabattu je rekao da su organizacije razloga eksperimentiše s otvorenim modelima je za zadržavanje kontrole. Međutim, iz IT-ova s kojima se razgovaralo, Khandabattu je rekao da je ukupni trošak raspoređivanja “vrlo visok”. Postoje značajni operativni troškovi i inženjerski troškovi koji su potrebni za prilagođavanje, pokretanje i održavanje otvorenog modela.

Dodala je da otvoreni modeli koji se koriste za AI aplikacije poput kodiranja na bazi AI, možda se ne podudaraju uvijek na performanse vlasničkih modela. Ona je rekla da to može dovesti do negativno pogođenih organizacija, poput nižeg nivoa cjelokupnog iskustva zaposlenika ili iskustva programera i sporijeg vremena rada.

Khandabattu je pozvao da lideri da razmotre prednosti i nedostatke otvorenih modela, što može ponuditi nivo preduzeća IT podrška potrebna od strane organizacije. “Like Enterprise Open Source Software, oni takođe dolaze sa vlastitim rizikom”, dodala je.

Pročitajte više o umjetnoj inteligenciji, automatizaciji i robotici

• Resetely, Openai izdaje 2 nove modele otvorene težine

  Napisao: Esther Shittu

• Stargate AI objasnio: šta je u projektu od 500 milijardi dolara

  Napisao: Madeleine ulice

• Nvidia, Openai Intro Alati za agentic AI, kreiranje slika

  Napisao: Esther Shittu

• Nvidia ima za cilj agente, fizički AI sa modelima obrazloženja

  Napisao: Esther Shittu