wutzkoh – stock.adobe.com
By
- Cliff Saran, Managing Editor
Slušajte ovaj podcast
Razgovaramo sa Ranilom Botejuom, glavnim službenikom za podatke i analitiku u Lloyds Banking Group o FinLLM-u i ‘AI kao sudiji’ banke
Postoji mnogo mogućnosti za korištenje generativne umjetne inteligencije (GenAI) za povećanje poslovne produktivnosti. Ali u regulisanim sektorima kao što su finansijske usluge, rezultat AI mora biti objašnjiv i bez grešaka. Lloyds Banking Group radi sa Aveni, kako bi joj pomogla da razvije FinLLM, model AI jezika posebno prilagođen za finansijske usluge. Tehnološki startup, koji je podržan od strane Edinburgh Innovations, službe za komercijalizaciju Univerziteta u Edinburghu, razvio je jezički model za sektor finansijskih usluga.
Umjesto da obučava modele o tekstu na Internetu bez obzira na kontekst, FinLLM je posebno podešen za jezik, regulativu i proizvode finansijskih usluga. To znači da kada analizira pristupačnost, razmatra poziv za ponašanje ili sastavlja pismo o prikladnosti, on se oslanja na model dizajniran da tumači nijanse finansijskih usluga, umjesto da nudi najbolju pretpostavku.
U ovom podcastu, Computer Weekly istražuje kako Lloyds Banking Group koristi GenAI i specijalizirane AI modele kao što je FinLLM da proširi pristup finansijskim savjetnicima na način koji se povećava.
Banka testira FinLLM u svom revizorskom timu gdje virtuelni asistent za revizijski chatbot razvijen od strane grupe za reviziju i vođenje istrage (GA&CI) u Lloyds Banking Group transformira način na koji revizori pristupaju i komuniciraju s revizorskim obavještajnim podacima. Chatbot integriše generativnu AI sa internim dokumentacionim sistemom grupe, Atlas, čineći pronalaženje informacija bržim, pametnijim i intuitivnijim.
Ranil Boteju, glavni službenik za podatke i analitiku u Lloyds Banking Group, kaže da je banka efikasno obučila chat bota koristeći FinLLM i svoje znanje o revizijama, na osnovu svih revizorskih podataka koje je prikupila.
Generativna AI može pogrešiti stvari, što je očigledno neprihvatljivo u svakom poslu. Prepoznajući da su mnogi od velikih jezičkih AI modela koje pružaju poput OpenAI i Google obično generalisti, banka je radila s Aveni na tome kako kombinirati širinu znanja o generativnim AI modelima obučenim na javnim internetskim podacima sa visoko nijansiranim informacijama o finansijskim uslugama kojima banka ima pristup.
Projekat je korišten da pokaže kako se GenAI i specijalizirani AI modeli kao što je FinLLM mogu primijeniti za podršku ključnim bankarskim procesima. Način na koji je dizajniran pokazuje kako bi banka mogla primijeniti GenAI za pokretanje chatbotova koji su okrenuti klijentima.
Da bi vodio razgovor koji klijent može imati sa bankom, chatbot mora razumjeti razgovor, prevodeći svoje razumijevanje upita klijenta u niz orkestriranih zadataka. Ovako izgleda agentska umjetna inteligencija – svaki od zadataka se prosljeđuje na specijalizirani AI sistem za rukovanje.
Joseph Twigg, izvršni direktor kompanije Aveni, kaže: “Pojava AI agenata koji poduzimaju direktne interakcije s kupcima u velikom obimu je neizbježna. To zahtijeva novu klasu sigurnosti koja će upravljati njihovim ponašanjem, osiguravajući da AI modeli daju prave savjete i odgovore.”
Pored orkestriranja specijalizovanih AI modela, takođe treba postojati način da se osigura da odgovori koje daju različiti uključeni AI sistemi imaju smisla i da su tačni.
Boteju opisuje pristup Lloyds Banking Group za smanjenje grešaka kao „agent kao sudija“. „Možda imate određeni model ili agenta koji dolazi sa određenim ishodom“, kaže on, „onda ćemo razviti različite modele i različite agente koji pregledaju te ishode i efikasno ih boduju.“ Banka blisko sarađuje sa Avenijem na razvoju pristupa korišćenja agenata AI kao sudija za procenu rezultata drugih AI modela.
Svaki ishod se nezavisno procjenjuje nizom različitih modela. Pregled rezultata AI modela omogućava Lloyds Banking Group da osigura da su usklađeni sa smjernicama regulatora, Financial Conduct Authority (FCA) i provjeri da li su usklađeni i sa internim propisima banke.
Kako Boteju ističe, provjera izlaza AI modela je zaista dobar način da se provjeri da li se kupcu ne daju loši savjeti. On kaže: “U procesu smo usavršavanja ovih i ovih zaštitnih ograda. Imperativ je da imamo [this process] na mjestu.”