Intervju: Wayne Barlow, šef terminalnih proizvoda, Bloomberg

Eksplozija GenAI

Danas, Barlow svoju tehničku pozadinu primjenjuje na iskorištavanje generativne umjetne inteligencije (GenAI), koja je podigla potencijal AI za poslovanje na novi nivo.

Bloomberg je počeo koristiti mašinsko učenje prije otprilike 16 godina, prema Barlowu, kada je primijenio tehnologiju za obradu novinskih članaka kako bi korisnicima pružio ciljane informacije. Od tada, Bloomberg primjenjuje umjetnu inteligenciju na svoj softver, gdje vjeruje da može pružiti bolje iskustvo korisnicima.

Danas je GenAI “pojačao svoje mogućnosti”, kaže Barlow. “Stvari za koje smo ranije smatrali da nisu izvodljive sada su.”

• Pročitajte više o Bloombergovoj AI strategiji u ovom intervjuu sa Amandom Stent, Bloombergovom šeficom AI strategije i istraživanja.

Bilo je to prije otprilike tri godine kada je tim istraživača i glavnog tehnološkog direktora (CTO) u Bloombergu objavio rad nakon što su izgradili vlastiti model velikog jezika (LLM) “kako bi stekli duboku stručnost u tehnologiji”.

“To nam je omogućilo da razmislimo o tome kako ćemo se prijaviti [GenAI] na našu liniju proizvoda,” kaže Barlow.

Njegov prvi paket GenAI proizvoda bio je fokusiran na „jedinstvene dokumente“. Na primjer, u januaru 2024., kompanija je objavila svoj prvi GenAI proizvod za eksterno gledanje, alat za sumiranje transkripta poziva. Barlou kaže da je kasnije usledio niz naknadnih radnji, sve usredsređene na pojedinačne dokumente.

GenAI takođe sažima novinske članke. “Za sve duže od određenog broja riječi dajemo [users] kratak sažetak, a ako su zaista zainteresovani, mogu pročitati cijelu priču,” kaže on.

Bloomberg je istovremeno radio na načinima primjene GenAI na više dokumenata.

“Znamo da kupci imaju vrlo nisku toleranciju na greške, pa želimo biti sigurni da im možemo dati vrlo precizan sažetak u više dokumenata, a istražujemo različite načine da to uradimo, poput sistema gustih vektorskih pretraga,” kaže Barlow.

Ovi sistemi mogu koristiti statističke modele za razumijevanje srodnih riječi. Na primjer, ako tražite AI, također će shvatiti da treba tražiti reference na mašinsko učenje.

To je bilo stanje tehnike početkom 2024., kada su ljudi gledali ove baze podataka, kaže Barlow za Computer Weekly.

“Otišao sam na Virginia Tech očekujući da ću biti mašinski inženjer. Moj cimer je bio informatičar. Pomagao sam njemu i drugima u njihovim programskim zadacima na Fortranu i shvatio da je programiranje ono gde su moja sklonost i interesovanje. Umesto da studiram mašinstvo, dobio sam diplomu računarskog inženjera”

Wayne Barlow, Bloomberg

On kaže da je Bloomberg blisko sarađivao sa klijentima na projektima vezanim za višedokumentne mogućnosti. “Sa razvojem više dokumenata, radili smo u veoma bliskom partnerstvu sa našim klijentima. Izašli smo i dobili povratne informacije i uverili se da imamo performanse, ali ono što se dogodilo je ova zaista velika promena u agentskoj veštačkoj inteligenciji.”

Jedan projekat na kojem Barlow tim radi, koji je trenutno u kasnoj beta fazi, omogućit će korisnicima da postavljaju pitanja specifična za GenAI, umjesto jednostavnog semantičkog sistema pretraživanja ili sistema indeksa, sa sinonimima.

“To je agentski sistem koji će izaći i pokušati pronaći sve dokumente u svim ovim različitim zbirkama koji će najbolje odgovoriti na pitanje, a zatim dati sažetak”, kaže on.

Tempo promjene nije viđen od mobilnog

Barlow se ne može sjetiti vremena kada je tempo promjena bio tako brz u IT-u, iako kaže da su dolazak weba, pametnih telefona i svega što je dolazilo s njima bile slične eksplozije.

„Nisam siguran da li je išta bilo prilično tempo AI danas“, kaže on. “Ono što mislim da je ovo učinilo drugačijim je da postoji velika konkurencija između provajdera. Ima dovoljno konkurencije, ali ne previše, tako da vidite mnogo provajdera ovih LLM-a i oni će preskočiti jedni druge.”

Barlow kaže da ne postoje samo očekivanja oko softvera i samih LLM-ova, već i hardvera koji pokreće ovu sposobnost, uz napredak u čipovima i grafici.

Dodaje da se svi klade da će tehnologija pojeftiniti. “Kada kažem jeftinije, ne mislim nužno samo na iznose u dolarima – mislim i na potrošnju energije.”

Barlouova bi karijera mogla da se razvije drugačije da je imao drugog cimera sa univerziteta. “Otišao sam na Virginia Tech očekujući da ću biti mašinski inženjer. Moj cimer je bio informatičar. Pomagao sam njemu i drugima u njihovim programskim zadacima na Fortranu i shvatio da je programiranje ono što je moja sklonost i interesovanje. Umjesto da studiram mašinstvo, za to vrijeme sam stekao diplomu kompjuterskog inženjera”, kaže Barlow za Computer Weekly.

Barlow je takođe bio na stažiranju u Laboratoriji za mornarička istraživanja u Washingtonu dok je radio na Virginia Techu, gdje je radio na simulaciji infracrvenih projektila. Kaže da “zvuči zabavnije nego što je zapravo bilo”.