Generative AI hjá DataLab: Stafrænir ráðgjafar og mælaborð sem spjalla

Generative AI – eða spunagreind – fer nú eins og eldur um sinu hvert sem litið er. Það heyrast spádómar um endalok Google og netsins eins og við þekkjum það. Tæknilausnir, vinnuferlar, heilar námsgreinar sem voru í góðu gildi fyrir nokkrum mánuðum verða úreltar innan skamms, er sagt. Fjárfestingar í sprotafyrirtækjum eru í uppnámi.

Teningunum hefur verið kastað – margt þarf að hugsa og hanna upp á nýtt. Það vita best þeir Bjarni Bragi Jónsson, Ágúst Heiðar Gunnarsson og Axel Örn Jansson, helstu sérfræðingar landsins á sviði gagnalausna og gervigreindar.

Þeir starfa hjá Datalab, mitt í hringiðunni, þar sem spunagreindin kemur sannarlega við sögu í nýjum, spennandi verkefnum.

GPT-4 breytir leiknum

Af hverju kemur spunagreindin fram núna með þessari sprengingu? Hvað hefur breyst svo snögglega að fáir sáu fyrir?

Bjarni:
Þessi mállíkön hafa verið til í nokkur ár. Hins vegar hafa þau verið nýlega þjálfuð með miklu meira af gögnum en áður og útkoman er sú sem við erum að sjá núna.

Með ChatGPT uppgötvar margfalt stærri hópur en áður hvernig er hægt að nýta sér tæknina, og sífellt fleiri þróunaraðilar fara að nýta spunagreind í sínar lausnir. Þetta verður snjóbolti sem fer af stað.

Axel:
Það er verið að skala þessi kerfi upp með svo svakalegu gagnamagni núna, sem var ekki hægt fyrir nokkrum árum síðan. Og með mikilli framþróun í skýjavinnslu, meiri vinnsluhraða og getu, verða þessar lausnir aðgengilegri en áður.

Spunagreindin er að hrista upp í ýmsum geirum – en hver eru tækifærin? Getur spunagreind nýst íslenskum fyrirtækjum?

Ágúst:
Tvímælalaust, og opinberum aðilum ekki síður. Það sem hefur verið að gerast undanfarin ár er að fyrirtæki og stofnanir hafa verið að stafvæða gríðar mikið af gögnum; alls kyns textaefni, skýrslur og reglubækur. Þessi gögn eru oft óaðgengileg þótt þau séu stafræn.

En spunagreindin getur hjálpað með að finna hratt upplýsingar í svona skjölum. Þetta gagnast til dæmis þeim sem eru mikið að skrifa skýrslur og greinargerðir sem byggja á tímafrekri heimildavinnu.

Bjarni:
Við munum byrja á lausnum ætlaðar starfsfólki fyrst og við erum nú þegar að vinna fyrir fyrirtæki að slíkum lausnum. Þegar viðskiptavinurinn treystir orðið tækninni þá er hægt að færa sig yfir í vel slípaðar lausnir sem snúa að neytendum.

AI Assistants: Stafrænir ráðgjafar margfalda afköstin

Hvaða lausnir er DataLab að smíða sem tengjast spunagreind?

Ágúst:
Já, við erum bara á kafi í þessu núna. Þessa dagana erum við að þróa svokallaða stafræna ráðgjafa eða “AI Assistants”, sem nýta GPT-4 tæknina. Þetta eru spjalllausnir sem geta veitt svör við fyrirspurnum líkt við þekkjum í ChatGPT og álíka lausnum.

Munurinn er að þarna erum við að nota gögn tiltekins fyrirtækis og þau eru til grundvallar. Fyrirspurnirnar varða þá tiltekin gagnasöfn sem hafa verið skilgreind fyrirfram og svörin takmarkast við þau.

Þarna er því talsvert minni hætta á óviðkomandi eða bullsvörum, eins og hættir til með ChatGPT. Það munar líka miklu að við erum að nota GPT-4, sem er margfalt öflugri en útgáfan á undan og talar einnig íslensku.

Bjarni:
Þessar lausnir munu spara mikinn tíma við að skanna yfir efni í leit að upplýsingum. En þetta virkar ekki eins og venjulegar leitarvélar, heldur færðu niðurstöður miðað við ákveðið samhengi, svörin eru fullmótaðar málsgreinar byggðar á fyrirspurninni með vísun í heimildir í innri skjölum fyrirtækisins.

Stafrænir ráðgjafar sem mataðir eru á gagnasöfnum eru miklu fljótari að finna réttu upplýsingarnar og setja í samhengi.

En þetta virkar ekki eins og venjulegar leitarvélar, heldur færðu niðurstöður miðað við ákveðið samhengi, svörin eru fullmótaðar málsgreinar byggðar á fyrirspurninni með vísun í heimildir í innri skjölum fyrirtækisins.

Ágúst:
Þessi tól sem við höfum verið að smíða geta líka nýst fyrir nýja starfsmenn; starfsmaðurinn getur þá spurt spurninga og fengið fullmótuð svör í stað þess að þurfa að fletta í gegnum starfsmannahandbók og skjöl fyrirtækisins.

Enn annað dæmi gæti verið í þjónustuveri. Starfsmaður þar gæti beðið slíkan „ráðgjafa“ að finna bestu upplýsingar um tiltekið efni og beðið ráðgjafann semja fyrir sig tölvupóst til að svara tiltekinni fyrirspurn frá viðskiptavini. Svörin sækir ráðgjafinn í gögn fyrirtækisins.

Það hlýtur þá að skipta miklu máli hvernig spurningar eru orðaðar – gæði svarsins veltur á gæði spurningarinnar, eða hvað? Hvað með íslenskuna, er hún ekki vandamál?

Bjarni:
Ja, GPT-3 var eiginlega ekki nothæft fyrir íslensku, en GPT-4 er allt annað . Það er mikill munur á þessum útgáfum. Við þurfum samt að fara ákveðnar krókaleiðir til að láta það virka fyrir það sem við erum að smíða. En ég held að íslenskugetan eigi bara eftir að aukast.

Axel:
Ráðgjafinn getur vísað í heimild á ensku þótt spurt sé á íslensku en þegar kemur að því að treysta heimildinni þá þarf að sérsmíða þá virkni. Við höfum lagt mikið upp úr því að vísa í heimildir svo notandi geti treyst svarinu og staðfest það hverju sinni.

Við erum helst að vinna með íslensk gögn og höfum tekið eftir því að þegar GPT-4 er nýtt í að þýða texta þá á hann til að vera enskuskotinn. Það mun þó lagast með frekari þróun á þessum mállíkönum.

Snjöll mælaborð bjóða góðan daginn

Axel:
Við erum líka að þróa aðra mjög spennandi lausn þar sem hægt er að spyrja út í töluleg gögn á mannamáli.

Við þróun lausnarinnar höfum við verið að vinna með opinber gögn um fjölda gesta á helstu ferðamannastöðum landsins. Þar er búnaður sem telur hvern einasta gest og gögnin eru aðgengileg öllum. Þessi gögn má svo tengja við gögn um veðurfar og upplýsingar um staðina sem fást á Wikipedia. Aðili í ferðaþjónustu með aðgang að slíkri lausn gæti þá sem dæmi spurt: “Hvað komu margir gestir til Þingvalla á síðustu þremur mánuðum og hver er þróunin frá síðasta ári?”

Lausnin gefur þá svör og myndræna framsetningu, ef um það er beðið. Notandinn gæti haldið áfram að yfirheyra gögnin og spurt um líklegan fjölda gesta í dag eða á morgun sem lausnin gæti svarað ef slík spá liggur fyrir í gögnunum. Hann gæti jafnvel spurt spurninga og fengið svör sem byggja á textagögnum Wikipedia sem gætu sett tölurnar í samhengi.

Slík lausn bætir til muna aðgengi að upplýsingum og gæti hreinlega verið lykilinn að því að gera fyrirtæki raunverulega gagnadrifin.

Hvernig sjáið þið þessa tækni þróast næstu árin? Eitthvað til að varast?

Axel:
Það er alveg ljóst að það er að verða bylting í því hvernig við eigum „samskipti“ við kerfi og gögn. Spunagreindin er að gera manninum kleift að „tala“ við kerfin á sínum forsendum, eins og maður við mann, ekki á forsendum kerfisins.

Og þessi tækni er að þróast hratt. Ég spái því að eftir 10 ár, jafnvel fyrr, verði helmingur af starfsemi smærri fyrirtækja og sprotafyrirtækja drifin áfram af bottum eða snjallmennum, sem mun gera þeim kleift að hafa smærri teymi með meiri afkastagetu.

Þannig að í staðinn fyrir að ráða starfsmann til að leysa tiltekin verkefni af hólmi verði sérsmíðuð forrit sem leysa verkefnið.

Bjarni:
En ég á ekki von á fjöldaatvinnuleysi, þetta verður miklu frekar eldsneyti fyrir mikla framleiðniaukningu og hagvöxt þar sem hægt verður að gera mikið meira fyrir minna. Og ég á líka von á því að það verði miklu skemmtilegra í vinnunni – vélarnar sjá um það sem er leiðinlegt, en maðurinn fæst við verkefni þar sem reynir á skapandi hugsun og samskipti.

Það er alveg ljóst að það er að verða bylting í því hvernig við eigum „samskipti“ við kerfi og gögn. Spunagreindin er að gera manninum kleift að „tala“ við kerfin á sínum forsendum, eins og maður við mann, ekki á forsendum kerfisins.

Það eru líklega fáir stjórnendur sem átta sig á því að það er hægt að virkja spunagreind nú þegar til að spara tíma og vinnu. Þeim fer þó fjölgandi með aukinni umræðu, við sjáum það á fjölgun fyrirspurna til okkar undanfarið.

Ágúst:
Ég held að það sé nokkuð ljóst að þeir sem verða fyrstir til að tileinka sér þessa tækni munu hafa ákveðið forskot.

Þetta gildir um einstaklinga jafnt sem fyrirtæki. Stóra spurningin í mínum huga er hver muni eiga tæknina sem verður undirliggjandi um allt. Mun hún færast á hendur fárra risa eins og Google eða Microsoft? Eða munu ‘open-source’ lausnir verða ofaná?

Með þessum orðum kveð ég þá Bjarna, Ágúst og Axel, enda er mikið að gera hjá þeim félögum um þessar mundir.

HJÞ.

Hjá DataLab starfa framúrskarandi sérfræðingar í hagnýtingu stafrænna gagna og gagnatækni sem hafa aðstoðað fjölmarga viðskiptavini að búa til verðmæti úr gögnum.

Það gera þeir ýmist með því að veita starfsfólki sínu og viðskiptavinum gagnadrifna innsýn eða innleiða lausnir sem sjálfvirknivæða sífellt flóknari verkefni í því skyni að bæta rekstur og þjónustu.

Hafðu samband ef þú hefur áhuga á að ræða nánar um tækifærin og hætturnar sem felast í hagnýtingu gervigreindar.

datalab@datalab.is