Verslanir hagnýta gagnadrifnar og snjallar lausnir

Með hverju árinu sem líður verður tæknin hagkvæmari, aðgengilegri, og áreiðanlegri. Gagnadrifnar lausnir sem hagnýta gervigreind ryðja sér til rúms í verslun og smásölu á ógnarhraða.

Nú er að hrökkva eða stökkva.

Netverslun sækir í sig veðrið

Netverslun nýtur sívaxandi vinsælda á kostnað hefðbundinnar verslunar. Þar hafa atriði eins og vöruúrval, auðveldur verðsamanburður, aðgengi að upplýsingum um vörur, sérsniðin upplifun og þægindi skipt miklu máli.

Covid-19 faraldurinn hefur virkað eins og sterasprauta á þessa þróun eins og við þekkjum flest á eigin skinni. Nú er meginþorri landsmanna farinn að nota netverslanir að staðaldri, m.a. til að kaupa í matinn, og við munum aldrei líta til baka.

Eftirspurnin hefur aldrei verið meiri og hafa íslenskar verslanir brugðist við með aukinni fjárfestingu í tækni og ferlum sem styðja við netverslanir.

Vegferðin hefst á smíði og innleiðingu stafrænna innviða og samþættingu kerfa. Gagnasöfnun er hafin og þá er tímabært að þróa og innleiða gagnadrifinnar og snjallar lausnir sem m.a. hagnýta gervigreind. Þessar lausnir styðja sjálfvirkni, t.d. í verðlagningu, birgðastjórnun og stjórnun viðskiptatengsla, og sérsníða upplifun að hverjum og einum notanda.

Stafrænir innviðir…Gagnasöfnun …Gervigreind og snjallar lausnir… Sjálfvirkni…Sérsniðin upplifun

Boltinn er farinn að rúlla í íslenskri netverslun og á næstu misserum mun samkeppnisforskotið í meira mæli byggja á hagnýtingu gagna í snjöllum lausnum.

Hefðbundnar verslanir bregðast við

Neytendur munu að sjálfsögðu áfram að nota hefðbundnar verslanir í miklum mæli en gera auknar kröfur um persónusniðna þjónustu eins og þeir eiga að venjast úr netviðskiptum. Og þeir ætlast líka til að fá heildræna upplifun frá fyrirtækjum sem selja bæði í gegnum vefi sína og í verslunum.

Gervigreindin hefur áhrif í gegnum alla virðiskeðju smásölu og mun skera úr um hvaða fyrirtæki koma á báðum fótum niður út úr hvirfilbyl kórónukófsins. Og það er einmitt með gervigreindinni sem hefðbundin verslun á möguleika á að verja sína stöðu og jafnvel styrkja.

Hér eru nokkur dæmi um notkunarmöguleika gervigreindar í smásölu og hvernig leiðandi fyrirtæki eru að nýta sér hana.

Dýnamísk verðlagning

Gervigreindarlíkön eru mjög hentug til dýnamískrar verðlagningar í rauntíma. Slík verðbestun, þar sem verð er stillt af sem nákvæmast eftir framboði og eftirspurn á hverjum tíma, er bæði seljanda og kaupanda í hag.

Allir vilja kaupa — og selja — á besta verðinu. Þegar lítil eftirspurn er eða umframframboð á markaði er skynsamlegt að lækka verð til að hreyfa vöruna, og öfugt.

Til viðbótar við sveiflur í framboði og eftirspurn getur gervigreindin notað breytur eins og veðurfar, verðbreytingar samkeppnisaðila, umfjöllun um vöruna í fjölmiðlum, og tímasetningu innan dags, viku, mánaðar eða árs til að stilla af verð með sjálfvirkum hætti og í rauntíma. Jafnframt er skynsamlegt að hreyfa við verðinu þegar styttast fer í síðasta söludag til að koma í veg fyrir sóun. Þar dugar ekkert annað en sjálfvirkni.

Veðurfar hefur áhrif á eftirspurn eftir matvælum

Heildarupplifun viðskiptavina og einstaklingsmiðuð þjónusta

McKinsey spáir því að 85% af allri sölu fari enn fram í hefðbundnum verslunum 2025. Kaup Amazon á Whole Foods sýnir að netrisar veðja á vöxt og þróun í hefðbundinni dagvörusölu. Margir neytendur kjósa að leita upplýsinga um vörur á netinu en ganga frá viðskiptum í verslununum sjálfum.

Aðrir kaupa vörurnar í netsölu en sækja þær í verslanirnar eða aðra afhendingarstaði. Þar eru tækifæri til kross- og viðbótarsölu, enda geta gervigreindarlausnir mælt með vörum sem byggja á samskiptagögnum viðskiptavinarins í gegnum stafræna miðla; netviðskipti, samfélagsmiðla, snjallmenni eða tölvupóst.

Svokölluð „omni channel“ nálgun er lykilatriði í þessu samhengi. „Omni channel“ nálgun eða heildarupplifun viðskiptavinar af tilteknu fyrirtæki eða vörumerki byggir á því að gögn um samskipti og viðskipti viðskiptavina séu samhæfð og uppfærð í rauntíma á milli kerfa. Þannig er haldið utan um öll gögn á einum stað sem verða til um hvern viðskiptavin.

Samkvæmt könnun McKinsey kjósa 83% neytenda persónulega upplifun í verslunarferðum sínum og rannsóknir fyrirtækisins benda til að árangursrík innleiðing slíkra lausna gæti aukið sölu verslana um 20–30%. Það er til mikils að vinna á markaði þar sem bitist er um hvert brot úr prósenti í markaðshlutdeild.

Tryggðakerfi er önnur leið til að halda viðskiptavinum og bjóða þeim persónuleg kjör og þjónustu sem byggja á sögulegum viðskiptum þeirra. Gervigreindin hefur sömuleiðis mikla möguleika á að hámarka not af slíkum kerfum og má gera ráð fyrir að t.d. íslenskar matvöruverslanir séu nú þegar með áætlanir um að kynna tryggðarkerfi til sögunnar nú þegar netverslun hefur rutt sér til rúms á þeim markaði með tilheyrandi gagnasöfnun, auðkenningu og sjálfvirkni. Aðrir geirar gætu fylgt í kjölfarið.

Snjallmenni og sjálfvirkni

Flestar íslenskar matvörukeðjur hafa á skömmum tíma innleitt sjálfsafgreiðslustöðvar í verslanir sínar, sem styttir biðraðir og sparar launakostnað. En leiðandi smásölukeðjur í heiminum, til dæmis Tesco, Walmart og Carrefour hafa tekið slíka tækni til þjónustu við viðskiptavini á allt annað stig.

Snjallmenni gera sig ekki aðeins heimakomin á vefsíðum netverslana; þau eru nú farin að sjást rúllandi um í hefðbundnum verslunum þar sem þau geta til dæmis tekið við pöntunum eða veitt upplýsingar. Þetta er sérstaklega gagnlegt utan venjulegs opnunartíma og sparar fyrirtækjum launakostnað á yfirvinnutíma.

Hvar finn ég lífrænan kúskús?

Íslensk máltækni tekur nú miklum framförum en slík tækni er forsenda þess að við getum átt eðlileg samskipti við snjallmennin. Ekki er erfitt að sjá fyrir sér þessa tækni birtast einn góðan verðurdag á göngum stórra íslenskra sérverslana þar sem starfsfólk er sífellt á þönum daginn inn og út að svara fyrirspurnum ráðvilltra og óþolinmóðra viðskiptavina. Byggingavöruverslanir koma upp í hugann.

Snjalltækni er einnig nýtt til að skynja birgðastöðu í hillum og til að stýra mátunarklefum í fataverslunum. Walmart hefur sett upp um vélmenni í um 1000 verslunum sínum sem keyra um ganga og skanna hillur til að skrá vöruvöntun og panta áfyllingu.

Þá hafa keðjur eins og Kroger í Bandaríkjunum innleitt snjallskynjara til að fylgjast með réttu hitastigi matvæla og tilkynna um frávik. Það lágmarkar tjón vegna skemmda og eykur líftíma viðkvæmra vara (íslenska tæknifyrirtækið Controlant notar svipaða tækni til að fylgjast með hitastigi bóluefnis Pfizer vegna Covid-19).

Kroger hefur einnig innleitt stafræn verðskilti í verslanir sínar sem gerir þeim kleift að breyta verðum í rauntíma, samanber umfjöllun að ofan, en einnig að koma á framfæri upplýsingum um vöruna.

Stafræn verðskilti hjá Kroger

En skiltin eru líka notuð til að birta auglýsingar, sem eru sérsniðnar að þeim sem standa við hilluna. Hvernig er það gert? Jú, örsmáar myndavélar taka vídeó af viðskiptavinum og myndgreiningartækni greinir kyn og aldur þeirra.

Birgðastýring

Spálíkön sem byggja á gervigreind munu áfram setja mark sitt á þróun birgðastýringarkerfa smærri og stærri verslana. Líkönin taka með í útreikninga sína sögulegar sveiflur í eftirspurn og breytur eins og veður og annað sem hefur áhrif á eftirspurn. Innkaupakerfi Walmart hefur til dæmis uppgötvað að steikur seljast betur þegar veður er vindasamt og skýjað, en hamborgara rjúka út þegar heitt er úti og heiður himinn.

Þessi fann snakkið sitt og kemur pottþétt aftur

Það er fátt sem veldur viðskiptavinum meiri gremju en vöruvöntun sem kallar á enn eina heimsóknina eða bíltúr í aðra verslun í hinum enda bæjarins. Margir neytendur þekkja það vel á eigin raun að þurfa að heimsækja 2–3 matvöruverslanir til að fá allt sem þarf til heimilisins þá vikuna.

Verslanir sem leysa vandann selja meira.

IoT tækni og nemar

Tæknirisar eins og Amazon með Amazon Fresh og Amazon Go verslunum sínum og Walmart með tilraunaverslun sinni „Intelligent Retail Lab“ (IRL) eru að prófa sig áfram með fjölbreytta snjallnema og háþróuðum myndavélum hlaðnar myndgreiningartækni.

Amazon leggur áherslu á stílfærða, stafræna upplifun þar sem skráning inn í verslunina fer fram í símaappi og viðskiptavinurinn gengur út án þess að þurfa að ganga frá greiðslu sjálfur (sjá myndbrot hér að neðan), en Walmart vill nýta tæknina til hámarksnýtingar á plássi og fólki; hafa hillur fullar á réttum tíma, minnka sóun á matvælum og bregðast strax við eitthvað fer úrskeiðis.https://cdn.embedly.com/widgets/media.html?src=https%3A%2F%2Fwww.youtube.com%2Fembed%2FmiCGDT8L17c%3Ffeature%3Doembed&display_name=YouTube&url=https%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3DmiCGDT8L17c&image=https%3A%2F%2Fi.ytimg.com%2Fvi%2FmiCGDT8L17c%2Fhqdefault.jpg&key=a19fcc184b9711e1b4764040d3dc5c07&type=text%2Fhtml&schema=youtubeVerslunarferð í Amazon Fresh veitir jafnframt innsýn í framtíðina

Tækniverslun Walmart er ekki eins stílhrein og Amazon Go, en gríðarlega öflug tækni er í prófun þar, bæði í versluninni sjálfri og í öflugustu netþjónum í bakvinnsluherbergjum sem vinnur úr gögnunum.

Árangur Walmart áhugaverður. Til dæmis hefur tekist að auka kjötsölu um 30% með aðstoð myndgreiningartækni, og 90% árangur í áfyllingum hefur skilað sér í stórminnkaðri rýrnun og aukinni sölu, en fullar hillur á annatíma getur aukið sölu um 20%.

Fullar hillur, meiri sala

Báðar keðjurnar nota myndgreiningartækni til að teikna upp hitakort af umferð um verslanir sínar til að bæta skipulag, flæði og upplifun viðskiptavina. Þessa tækni er einnig verið að þróa til að greina grunsamlega hegðun viðskiptavina og koma í veg fyrir þjófnað.

Keðjur eins og Kroger eru einnig komnar vel á veg með alsjálfvirkni birgðastýringu, og franska keðjan Carrefour gerði samning við SAS Vija, og er fyrst franskra dagvörukeðja til að ráðast í snjallvæðingu á sinni starfsemi.

Samantekt og staðan hér heima

Tækni í smásölu er í mjög hraðri þróun, þar sem meðal annars er verið er að útfæra „omni channel“ upplifun fyrir viðskiptavini, samþætta upplýsingar úr mörgum kerfum í eitt í rauntíma, til að bæta þjónustu og upplifun viðskiptavina. Gervigreindartækni er nú víða í prófun eða þegar í notkun í verslunum, þar sem snjallmenni aðstoða við þjónustu, upplýsingar og afgreiðslu, skynja birgðastöðu í hillum og panta.

Gervigreindin er notuð til að draga úr rýrnun, koma í veg fyrir þjófnað og til að gera upplifun kaupandans persónulegri. Ein mikilvæg notkun tækninnar er að stýra verðlagningu dýnamískt eftir sveiflum í ytri breytum eins og verði samkeppnisaðila, tímabundnum framboðsskorti, tíma vikunnar o.s.frv.

Það er mikil hreyfing nú á dagvörumarkaðnum, bæði hér og erlendis, og miklar tæknibreytingar framundan sem íslenskir neytendur munu örugglega kynnast innan skamms. Keðjur eins og Samkaup hafa kynnt samninga við danska samstarfaðila um innleiðingu tæknilausna, Krónan er nútímaleg í hugsun og mjög meðvituð um þarfir viðskiptavina sinna.

Nýlega voru kynntir tveir nýir stjórnendur til Haga sem augljóslega eru ráðnir til að ráðast í það spennandi verkefni að draga Hagkaup og Bónus inn í nútímann.

Það eru spennandi tímar framundan.

Þegar gervigreind stuðlar að betri og sanngjarnari ákvörðunum

Gervigreind getur mögulega hjálpað mönnum að taka sanngjarnar ákvarðanir, en aðeins ef við byggjum sanngirni inn í gervigreindina sjálfa. Þetta er mikilvægt viðfangsefni í dag þar sem gervigreind er þegar orðin fyrirferðarmikil í útbreiddum tæknilausnum og framtíðaráformum fyrirtækja og opinberra aðila. Við erum rétt að byrja.

Möguleikar tækninnar aukast stöðugt með aukinni vinnslugetu og kapphlaupi samkeppnisaðila á markaði, en hún getur haft alvarlegar afleiðingar fyrir viðkvæma hópa í samfélaginu eins og Cathy O’Neil fjallar vandlega um í bók sinni ‘Weapons of Math Destruction’ og vakið hefur athygli. Hér má sjá hana fjalla nánar um málið.

Tvö viðfangsefni eru til umfjöllunar hér:

Hið fyrra er nýting gervigreindar til að greina og lágmarka skekkjur (e. bias) í mannlegri ákvarðanatöku.

Hið seinna varðar hvernig við bætum gervigreindina sjálfa; hvernig hún nýtir gögn, hvernig snjallar lausnir eru hannaðar, innleiddar og nýttar þannig að þær viðhaldi ekki eða magni upp ósanngjarna mismunun sem fyrir er í samfélaginu, eða skapi jafnvel nýtt óréttlæti.

Til að leysa þessi viðfangsefni þarf að stefna saman þekkingu og nálgunum úr ólíkum greinum til að þróa áfram tækni, ferla og siðareglur.

Gervigreind getur minnkað skekkju í mannlegri hugsun og ákvarðanatöku en hún getur líka formfest hana og magnað upp

Það er vel þekkt hvernig mannleg ákvarðanataka er viðkvæm fyrir fyrirfram gefnum hugmyndum, ómeðvituðum fordómum og rökvillum. Rannsóknir hafa t.d. sýnt hvernig úrskurðir dómara eru litaðir af persónuleika þeirra og ráðningarstjórar eru líklegri til að velja í viðtöl einstaklinga sem bera nöfn sem hafa tengingu við tiltekna þjóðfélagshópa.

Mannlegar ákvarðanir er einnig erfitt að rekja og yfirfara; fólk segir ósatt um forsendur sínar eða hefur ekki innsýn í það hvaða þættir höfðu áhrif á þær, sem býður hættu heim á ómeðvitaðri skekkju.

Í mörgum tilfellum getur gervigreindin minnkað tilhneigingu til hlutdrægrar túlkunar á gögnum af því reiknirit (e. algorithm) vélnáms (e. machine learning) nota aðeins breytur sem spá best fyrir um óskaniðurstöðu — t.d. að ráða hæfustu manneskjuna í starfið eða gæta sanngirni í dómsúrskurðum. Ef eitthvað er til sem heitir „kalt mat‟ er það í boði reikniritanna. Sýnt þykir einnig að reiknirit geti bætt ákvarðanatöku þannig að hún verði sanngjarnari gagnvart minnihlutahópum.

Aðrar rannsóknir sýna að sjálfvirk samþykktarferli um fyrirgreiðslu hjá fjármálastofnunum gagnist betur einstaklingum sem eiga viðkvæma sögu.

Ólíkt ákvörðunum manna er hægt að opna, yfirfara og greina forsendur ákvarðana gervigreindar. Ef talið er að ósanngirni birtist í niðurstöðum þá er hægt að laga reikniritið.

Á hinn bóginn benda rannsóknir til þess að gervigreindarlausnir geti kerfisvætt og magnað mannlega skekkju. Nýlega hætti Amazon notkun á ráðningarreikniriti þegar í ljós kom að reikniritið, sem byggði á umsóknargögnum fyrri ráðninga, hafnaði frekar konum en körlum.

Undirliggjandi gögn eru oft rót skekkjunnar

Iðulega eru það þó gögnin sem eru rót skekkjunnar fremur en reikniritin sjálf þar sem þau eru gjarnan mötuð af gögnum sem byggja á mannlegum ákvörðunum. Skekkja getur einnig borist með gögnum ef gagnaöflunin er skekkt.

Reiknirit sem áætlar þörf fyrir aukna löggæslu með að því að nota gögn svæða eða hverfa þar sem eftirlit er mikið, vegna fordóma lögreglumanna, er líklegt til að leggja til enn meiri löggæslu á slíkum svæðum, sem aftur leiðir til fleiri skráninga afbrota á viðkomandi svæði. Spennan vex fyrir vikið og neikvæður spírall fer af stað.

Fleiri lögreglumenn, fleiri lögbrjótar?

Hvernig skilgreinum við og mælum sanngirni til að lágmarka skekkjur?

Umræðan um sanngirni reiknirita hefur annars vegar snúið að einstaklingsbundnum réttindum, sem sagt að sambærilegir einstaklingar fái sömu meðhöndlun, t.d. í dómskerfinu; hins vegar lýtur umræðan að sanngirni gagnvart hópum; að niðurstöður og forspár reiknirita gæti jafnvægis milli þjóðfélagshópa, sérstaklega hópa í viðkvæmri stöðu.

En er hægt að forrita sanngirni í kóða? Myndaleit fyrir “CEO” í dag birtir niðurstöður sem sýna hlutfall þar sem 11% eru konur og 89% karlar. Ættu niðurstöðurnar fremur að sýna raunverulega stöðu, sem er 17% konur og 83% karlar — eða hlutfallið sem flestir vildu helst stefna að og væri eðlilegast; 50% af hvoru kyni?

Ætti Facebook að stilla reiknirit sín þannig að fólki birtist ekki aðeins fréttir og skoðanir annarra sem herðir þeirra eigin heimsýn — sem getur verið órafjarri raunveruleikanum — heldur jafnari útgáfu af heiminum? Hver skilgreinir þá útgáfu?

Eiga reiknirit að bæta fyrir samfélagsskekkju sem þegar er fyrir hendi eða eiga þau að leggja fram óhlutdrægar, kaldar spár sem geta hins vegar ýkt og haldið við mismunun sem þegar er fyrir hendi?

Sérfræðingar eru ekki sammála um hvernig beri að stefna fram á við. Líklega verður erfitt að semja eina skilgreiningu eða mælikvarða á sanngirni sem dugar fyrir allar aðstæður, sem þýðir að notast þarf við mismunandi staðla og viðmið eftir aðstæðum hverju sinni.

Í bók sinni ‘Human Compatible’ fjallar Stuart Russell um þann galla á fyrirkomulagi gervigreindarlausna sem náð hafa útbreiðslu að það erum við sem skilgreinum markmið þeirra og að það bjóði hættunni heim. Ef þau eru ekki ‘human compatible’ getur illa farið eins og t.d. er fjallað um í kvikmyndinni The Social Dilemma þar sem vanhugsuð markmið reikniritanna sem ákvarða hvað við sjáum á samfélagsmiðlum hefur dregið dilk á eftir sér…

The consequences include the resurgence of fascism, the dissolution of the social contract that underpins democracies around the world, and potentially the end of the European Union and NATO.

Not bad for a few lines of code, even it it had a helping hand from some humans. Now imagine what a really intelligent algorithm would be able to do.

Tækniframfarir eru í farvatninu en mikið verk er framundan

Nokkrar leiðir hafa verið þróaðar til að byggja sanngirni inn í reiknirit gervigreindar.

Ein þeirra byggir á því að forvinna gögn þannig að þau innihaldi sem nákvæmastar upplýsingar en lágmarki um leið tengsl milli niðurstöðu og viðkvæmra eiginleika, svo sem kynferði eða kynþátt, eða birti mynd af gögnunum sem innihaldi ekki upplýsingar um viðkvæma eiginleika.

Önnur leið sem farin hefur verið er að breyta niðurstöðum og spám reiknilíkans eftir á, til að fullnægja fyrirfram skilgreindum viðmiðum um sanngirni.

Tæknin þarf að vinna með okkur

Þá er verið að þróa aðferðir til að rekja betur forsendur niðurstaðna reiknirita. Slíkur rekjanleiki getur verið mikilvægur til að skilja og leiðrétta slíkar forsendur sem notaðar eru í vinnsluferli sem skilar ósanngjörnum niðurstöðum.

Önnur lausn er að fara nýjar leiðir í setja reikniritunum markmið og fer áðurnefndur Stuart Russell þar fremstur í flokki.

Mannleg dómgreind er enn nauðsynleg til að tryggja sanngirni gervigreindar

Hægt er að nálgast sanngirni í vélrænum ákvörðunum með vönduðum skilgreiningum og mælikvörðum, en slíkar aðferðir geta ekki tekið með í reikninginn fjölmargar flóknar og viðkvæmar samfélagsbreytur sem þarf að hafa í huga. Þær taka heldur ekki afstöðu til þess hvernig gagnanna var aflað, sem er siðferðislegt viðfangsefni og varðar til dæmis persónuvernd. Nýlega úrskurðaði hollenskur dómstóll að hinu opinbera væri óheimilt að nýta gervigreindarlausnir í baráttu gegn bótasvikum þar sem gagnasöfnin sem lágu að baki lausnunum samrýmdust ekki lögum um persónuvernd.

Það er því mikilvægt að skilja hvar mannleg dómgreind kemur til skjalanna: Hver ákveður hvenær tiltekið reiknirit hefur lágmarkað nægilega hættu á skekkju til að það sé öruggt fyrir almenning? Við hvaða aðstæður er hægt að réttlæta alsjálfvirkt og vélrænt ákvarðanaferli? Ekkert reiknirit getur svarað slíkum spurningum.

Til þess þarf mannlega dómgreind og samtal þvert á fræðasvið, til dæmis lögfræði, félagsvísindi og siðfræði. Þessi vinna er rétt að hefjast.

Ýmis verkefni í þessa veru hafa litið dagsins ljós. Árlegar skýrslur AI Now Institute fjalla um siðferðisleg álitamál frá ýmsum sjónarhornum og þróunarverkefni Harvard, “Embedded EthiCS” sem snýr að eflingu siðfræðiþátta í tölvunarfræðinámi, eru dæmi um það.

Getum við einnig bætt mannlega ákvarðanatöku með hjálp gervigreindar?

Framfarir í greiningu á mismunun í niðurstöðum reiknirita opnar aðra möguleika; nefnilega að endurhugsa hvernig við skerum úr um hvenær mannlegar ákvarðanir eru sanngjarnar eða ekki. Nákvæmt mat á þeim forsendum sem manneskjur nota (ekki sem þær segjast nota) til að taka ákvarðanir er þó mikið flóknara en greining á reikniriti.

Oft notum við nokkurs konar „sanngirnisígildi‟ til að komast að réttri niðurstöðu. Við teljum til dæmis niðurstöðu sanngjarna ef ákvarðanaferlið er metið sanngjarnt. En er sanngjarnt ferli hið sama og sanngjörn niðurstaða?

Önnur sanngirnisleið er að tryggja að ólík sjónarmið fái að heyrast í þeim hópi sem er falið að taka ákvörðun. Leiðir sem þessar eru trúlega þær skástu sem við höfum haft aðgang að hingað til, en kannski gætum við þróað mat á sanngirni mannlegra ákvarðana með hliðsjón af aðferðum sem verið er að þróa í gervigreind?

Betri gögn, greining og gervigreindartækni gætu nýst sem öflug verkfæri til að skoða skekkjur í mannlegum ákvörðunum. Ein leið væri að keyra reiknirit samhliða ákvarðanaferli manna, bera svo saman niðurstöður og greina ástæður fyrir mismuni, ef einhver er.

Með sama hætti mætti hugsa sér að fyrirtæki eða stofnun sem uppgötvar að reiknirit, sem byggir á fyrri ákvörðunum starfsmanna, skilar ósanngjörnum niðurstöðum endurskoðaði mannlega þáttinn í stað þess að leggja af reikniritið, samanber dæmið frá Amazon hér að ofan.

Sex mögulegar leiðir áfram fyrir hönnuði gervigreindar, og leiðtoga í viðskiptalífi og opinberum stofnunum

Það er mikilvæg forsenda fyrir trausti almennings á gervigreindarlausnum að fyrirbyggja mismunun og skekkjur. Eigi gervigreindin að uppfylla væntingar um stóraukið hagræði, framleiðniaukningu og brýnar samfélagslegar lausnir, til dæmis í umhverfismálum og úthlutun opinberra fjármuna, er nauðsynlegt að horfast í augu við þetta verkefni.

#1: Auka skilning á kringumstæðum þar sem gervigreind getur minnkað mismunun í ákvarðanatöku sem og hinum þar sem gervigreind getur aukið slíka mismunun

Þegar gervigreindarlausnir eru innleiddar er nauðsynlegt að hafa ávallt í huga aðstæður þar sem hætta er á félagslegri mismunun, til dæmis þar sem fyrir er saga um mismunun eða kerfisbundna skekkju í gögnum. Það þarf að rannsaka markvisst og dreifa þekkingu á því hvernig gervigreindin getur stuðlað að sanngirni og hvernig hún hefur fallið á prófinu.

#2: Skilgreina vinnuferla til að prófa og fyrirbyggja skekkjur í gervigreindarlausnum

Það þarf margs konar tól og aðferðir til að takast á við ósanngjarnar skekkjur. Að ofan var minnst á nokkrar slíkar. Vinnuferla má bæta með vandaðra vali á gögnum til vinnslu, með aðstoð umbótateyma sem storka viðtekinni menningu og hugsun (e. red teams), eða annarra utanaðkomandi ráðgjafa sem hafa fersk sjónarmið. Hér er ágæt samantekt um leiðir til að auka sanngirni gervigreindarlausna.

Aukið gegnsæi um ferla og mælikvarða er einnig mikilvægt til að hjálpa hagsmunaaðilum að sannreyna þau skref sem hafa verið tekin til að auka sanngirni í gagnavinnslunni.

#3: Hefja upplýsta umræðu um mögulegar skekkjur í mannlegum ákvörðunum

Eftir því sem gervigreindin afhjúpar meira um mannlega ákvarðunartöku er hægt að taka til endurskoðunar „sanngirnisígildin‟ sem rætt var að ofan. Getur gervigreindin aðstoðað við að draga fram skekkjur í mannlegri ákvarðanatöku sem enginn kom auga á áður? Þegar reiknirit sem hafa verið þjálfuð með ákvörðunum manna skila ósanngjarnri niðurstöðu og jafnvel magna hana upp, er tækifæri til að endurskoða hin mannlegu ferli.

#4: Rannsaka að fullu hvernig menn og vélar vinna best saman

Þetta felur meðal annars í sér að greina aðstæður og skilyrði þar sem sjálfvirk ákvarðanaferli eru ásættanleg og hvar mannleg dómgreind þarf hins vegar ávallt að vera á verði. Sum kerfi í þróun nota sambland af mannlegum og vélrænum ákvörðunum til að lágmarka skekkjur.

Þá leggur reikniritið til meðmæli eða lausnir sem menn yfirfara eða velja úr. Í slíkum kerfum er gagnsæi um áreiðanleika meðmælanna mikilvægt til að menn geti metið vægi þeirra.

#5: Fjárfesta meira í rannsóknum á skekkjum og opna aðgang að gögnum sem fleiri geta nýtt til þverfaglegra rannsókna

Þótt töluverður árangur hafi náðst á undanförnum árum í þverfaglegum rannsóknum þarf að opna fyrir aðgang að gögnum fyrir rannsakendur og fræðimenn á þessu sviði, þó þannig að persónuvernd sé virt sem og viðkvæmar viðskiptaupplýsingar. Árangur áfram veginn veltur á þverfaglegum rannsóknum, svo sem siðfræðilegum og félagsfræðilegum, sem áður er getið.

Lykilviðfang rannsókna er að meta hlutverk gervigreindar í ákvörðunarferlum eftir því sem sviðið þróast og meiri reynsla fæst.

#6: Fjárfesta í þátttöku alls samfélagsins

Margir hafa bent á þá staðreynd að lykilleikendur í þróun gervigreindar endurspegli ekki fjölbreytileika samfélagsins, til dæmis hvað varðar kyn, stétt, kynstofn eða fötlun. Fjölbreytt samsetning þróunaraðila gervigreindar er líklegri til að hafa skilning og næmi fyrir mismunun og skekkjum sem tæknin getur haft í för með sér. Cathy O’Neil leggur til að þróunaraðilar temji sér nýtt vinnulag til að lágmarka mögulegar neikvæðar afleiðingar lausnanna.

Þetta þýðir fjárfestingu á mörgum sviðum en sérstaklega í menntunartækifærum og aðgengi ólíkra samfélagshópa að tækninni.

Samantekt

Hér hefur verið stiklað á stóru um ýmis álitaefni sem snúa að félagslegri mismunun og skekkjum sem gervigreind getur nýst til að lágmarka. Komið hefur þó í ljós að tæknin getur formfest og dreift kerfisbundið mannlegri skekkju, ef forsendur reikniritanna eru skakkar.

Verkefnið framundan er að rannsaka markvisst hvernig gervigreindin getur best stuðlað að félagslegu réttlæti fremur en magna það upp. Ein leið er að nýta afl reikniritanna til að bæta og yfirfara mannlegar ákvarðanir, með því að bera saman niðurstöður reiknirita og manna, og skýra mismun þar á.

Mikið er í húfi því tæknin verður sífellt útbreiddari og áhrif hennar á daglegt líf okkar allra umfangsmeiri. Sú þróun verður ekki stöðvuð og því afar mikilvægt að tæknin vinni með okkur öllum.

Ný tækni, ófyrirséðar afleiðingar

Eru gagnadrifnar lausnir í þínum áætlunum fyrir 2021?

Gagnadrifnar og sjálfvirkar lausnir eru sannarlega komnar á dagskrá um allan heim, bæði í einkageiranum og hjá opinberum aðilum, stórum sem smáum. Þær eru ekki lengur einkamál alþjóðlegra tæknifyrirtækja og ná nú fótfestu í öllum geirum.

Faraldurinn sem nú gengur yfir hefur þar að auki knúið flest fyrirtæki og stofnanir til að endurskoða kerfi og ferla með hagræðingu og betri ákvarðanir að leiðarljósi.

Á Íslandi hefur hið opinbera stigið ákveðin skref í þessa átt með hundruð milljóna fjárfestingu í stafrænum innviðum undir hatti verkefnastofunnar Stafrænt Ísland. Fyrirtækin eru líka að taka við sér og jarðvegurinn fyrir slíkar lausnir er frjór. Það er ekki síst vegna aukinnar samkeppni við erlenda aðila sem hafa nú þegar tileinkað sér gervigreind og snjallar gagnadrifnar lausnir með góðum árangri. En einnig skiptir miklu máli að tæknin er orðin mun aðgengilegri, áreiðanlegri og ódýrari en fyrir örfáum árum.

Eitt er víst: Þær skipulagsheildir sem ekki eru markvisst að undirbúa hagnýtingu gagnadrifinna lausna nú lenda í vandræðum í nánustu framtíð.

Er gert ráð fyrir slíkri vinnu í þínum áætlunum fyrir 2021?

Covid-19 flýtir fyrir tækniþróun

Gervigreindin er komin á fleygiferð. Bandarísk yfirvöld hafa til dæmis ákveðið að tvöfalda útgjöld til rannsókna og innleiðingar á gervigreind árið 2021. Á þeim bæ er mikill árangur Kínverja á þessu sviði farinn að valda hugarangri en fjárfestingin þar er á skala sem venjulegur Íslendingur á bágt með að skilja.

Samkvæmt rannsóknum Harvard Business Review telja 3 af hverjum 4 forstjórum að ef þeir hafa ekki innleitt gervigreind gegnumsneitt í starfsemi sinni á næstu fimm árum verði þeir undir í samkeppninni. Fjármálastjórar hafa því fullt umboð til að stökkva á vagninn og samþykkja verkefni sem nýta tæknina til að lækka kostnað og hagræða í rekstri. Þetta er mjög í deiglunni einmitt nú þarf sem margir leita logandi ljósi að leiðum til að lifa af covid-kreppu með endurskipulagningu reksturs á nýjum grunni á næstu 3–5 árum.

Mörg fyrirtæki og stofnanir hafa þegar náð góðum árangri með því að sjálfvirknivæða tímafreka en nauðsynlega vinnslu eins og innslátt upplýsinga og úrvinnslu skjala, ýmis konar eftirlit, ráðgjöf og meðmæli á vef og í appi og þjónustusamtöl við viðskiptavini með innleiðingu spjallmenna.

Árangursrík verkefni sem þessi ryðja oft veginn fyrir fleiri og þróaðri lausnir á snjallvegferð fyrirtækja. Þetta er langhlaup en ekki sprettur.

Meðal verkefna sem umræddir fjármálastjórar eru að skoða í dag eru leiðir til að sjálfvirknivæða bæta uppgjör í lok mánaðar, innheimtu krafna og gerð fjárhagsáætlana.

Ástæða þess að slík verkefni verða oft fyrir valinu í fyrstu er einföld: Hér er yfirleitt um að ræða einskiptiskostnað sem mun skila sér í árlegum, varanlegum sparnaði í rekstri.

Stærsti hluti vinnunnar við innleiðingu gagnadrifinna lausna fer fram í upphafi verkefnis, þegar tæknilegir innviðir og gögn eru undirbúin, líkan eða lausn er smíðuð og prófanir fara fram. Þegar lausnin er farin að gera sitt gagn og vinna með sjálfvirkum hætti birtist ávinningurinn fljótt og einungis þarf að sinna reglubundnu viðhaldi til að tryggja áframhaldandi góða virkni.

Hvernig á að byrja?

Þessi spurning er algeng þegar vangaveltur um gervigreindarlausnir ber á góma. Hvar og hvernig er best að byrja að spreyta sig á framandi tækni?

Hvert og eitt fyrirtæki og stofnun þarf að skilgreina fyrir sig og sína starfsemi hvar slíkar lausnir myndu koma að mestum notum. Það er best að gera með markvissu og upplýstu samtali við starfsmenn, mati á stöðu, stefnu og tæknilegri getu.

Skynsamlegt getur verið að velja afmarkað, einfalt svið til að byrja á og nota sem prufuverkefni fyrir önnur stærri úrlausnarefni.

Nauðsynlegt er þó að byrja á byrjuninni: Taka stöðuna, gera úttekt á þörfinni, leggja mat á gæði gagna og leggja niður drög að stefnumótun og aðgerðaráætlun vegna hagnýtingar gagnadrifinna lausna í starfseminni.

Tíminn til að byrja er núna!

Þroskasaga nýrrar tækni

Myndin sem meðmælakerfi Netflix beinir ákaft til mín um þessar mundir heitir ‘The Social Dilemma’.

‘#2 in Iceland today’

…svo það eru greinilega fleiri sem hafa áhuga á þessu efni.

“This documentary-drama hybrid explores the dangerous human impact of social networking, with tech experts sounding the alarm on their own creations”

Samfélagsmiðlar eru ekki eingöngu jákvætt afl í tilverunni.

Það er á flestra vitorði nú til dags.

Falsfréttir, bergmálsherbergi, upplýsingaóreiða og samfélagsmiðlafíkn eru vel þekkt nýyrði í íslenskri tungu og lýsa því neikvæða sem m.a. fer fram á samfélagsmiðlum.

Viðskiptamódel á villigötum?

Það er viðskiptamódel samfélagsmiðla sem er einkum að flækjast fyrir okkur. Segja má að leikreglurnar hafi verið illa útfærðar eða vanhugsaðar í upphafi og nú 10–20 árum síðar þurfum við að fást við afleiðingarnar, t.d. upplýsingaóreiðu og falsfréttir sem valda sundrungu í samfélaginu og faraldur kvíða og þunglyndis meðal ungs fólks.

Viðskiptamódel og þar með markmið samfélagsmiðilsins er skýrt: að selja auglýsingar og kostað efni. Því meira því betra. Eðlilega.

Viðskiptavinir samfélagsmiðla eru því auglýsendur og framleiðendur efnis, t.d. fyrirtæki, stjórnmálaöfl, stjórnvöld og hagsmunasamtök.

Notendurnir eru söluvaran.

Söluvaran er athygli okkar og þær hegðunarbreytingar sem eiga sér stað í kjölfar þess að við upplifum eitthvað á samfélagsmiðlum. Eins og einn viðmælandinn í myndinni lýsti samfélagsmiðlum “…a marketplace for human futures”.

Samfélagsmiðill hefur milligöngu um að hafa áhrif á hegðun notenda í samræmi við markmið auglýsenda. Markmiðin auglýsenda eru alls konar og engin leið að stjórna þeim. Allt frá bónda í Biskupstungum sem selur hrossasperðla beint frá býli til herra Pútíns í Kreml sem á sér þann draum að sjá Vesturlönd hnigna.

Facebook er áhrifamesti miðillinn og breytir hegðun fleiri notenda en nokkur annar á hagkvæman hátt á grundvelli gagnasöfnunar á skala sem ekki hefur þekkst áður og hagnýtingu gervigreindar. Þar er kominn fram mergur málsins og grundvallarmunur á samfélagsmiðlum og hefðbundum fjölmiðlum sem hafa stundað þá iðju að selja auglýsendum aðgang að okkur í a.m.k. 100 til 150 ár flestum til gagns og þónokkurs gamans.

Gögn Facebook geyma vísbendingar um vonir okkar, væntingar og þrár og gervigreindarlausnar eru nýttar til að draga þær fram og í kjölfarið tengja okkur við auglýsingar og efni sem snerta streng í okkur og eru því líklegri en ella til að framkalla hegðunarbreytingar. Og rúsínan í pylsuendanum er snjöll hagnýting þekkingar í sálfræði til að brjóta mögulegar varnir okkar á bak aftur eða sveigja fram hjá þeim. Sé þetta látið malla um nokkurn tíma fara að koma fram ófyrirséðar afleiðingar eins og t.d. útbreiðsla öfgafullra skoðana og skoðana sem eiga sér ekki stoð í raunveruleikanum.

Eftir því hefur verið tekið. Og glundroðinn eykst.

Þess vegna tala ýmsir um “manipulation machines” í þessu sambandi. Samfélagsmiðlarnir eru í krafti gagna, gervigreindar og sálfræði farnir að handleika okkur eins og strengjabrúður. Og hver stjórnar? Jú auglýsendur með alls kyns markmið, t.d. hrossabóndi í Biskupstungum og herra Pútín í Kreml.

Í myndinni kemur fram sú skoðun að við, notendurnir, getum ekki unnið þennan leik. Við eigum við ofurefli að etja í formi gervigreindar sem þekkir okkur betur en við sjálf. Og markmið hennar er ekki að auka lífsfyllingu okkar, þvert á móti. Hún gerir allt sem hún getur til að skapa miðlinum tekjur.

Og afleiðingarnar blasa við okkur. Íslensku nýyrðin sem listuð voru hér að ofan koma fyrst upp í hugann. En einnig mikil vanlíðan meðal stórs hóps ungra notenda.

Myndin er áhugaverð og hvet ég sem flesta til að horfa á hana og mynda sér skoðun.

Við þurfum að endurhugsa markmiðin

Stuart Russell skrifaði bókina ‘Human Compatible — AI and the Problem of Control’.

Þar fjallar hann um þann vanda sem gervigreindarlausnir geta komið okkur í og hvað er til ráða.

Þetta kvót hér að neðan er fulllangt en mér fannst það fanga alvarleika málsins mjög vel. Ef jafnvel ‘einföld’ eða ‘veik’ gervigreind samfélagsmiðla getur valdið slíkum usla á heimsvísu hvað gerist þá þegar við hleypum enn greindari lausnum út í þennan heim með markmið sem ekki eru ‘human compatible’…

“To get just an inkling of the fire we’re playing with, consider how content-selection algorithms function on social media. They aren’t particularly intelligent, but they are in a position to affect the entire world because they directly influence billions of people.

Typically, such algorithms are designed to maximize click-through, that is, the probability that the user clicks on presented items. The solution is simply to present items that the user likes to click on, right? Wrong.

The solution is to change the user’s preferences so that they become more predictable. A more predictable user can be fed items that they are likely to click on, thereby generating more revenue. People with more extreme political views tend to be more predictable in which items they will click on.

Like any rational entity, the algorithm learns how to modify the state of its environment — in this case, the user’s mind — in order to maximize it own reward.

The consequences include the resurgence of fascism, the dissolution of the social contract that underpins democracies around the world, and potentially the end of the European Union and NATO.

Not bad for a few lines of code, even it it had a helping hand from some humans. Now imagine what a really intelligent algorithm would be able to do.”

Þroskasaga nýrrar tækni

Og hver er þá niðurstaðan? Er hægt að kenna gervigreindinni um þetta? Er hún vondi kallinn?

Eða eru það illa hugsuð viðskiptamódel og markmið?

Eins og svo oft áður þá er varla skynsamlegt að kenna tólinu sjálfu um. Og viðskiptamódelið má kalla barn síns tíma. Því þyrfti að breyta.

Það mætti líklega líta á þetta sem kafla í þoskasögu nýrrar tækni.

Kafla sem við ætlum okkur að læra af.

Heimurinn er smám saman að átta sig á því að gervigreindartæknin er öflug og verður sífellt öflugri. Hún er komin til að vera og hafa áhrif á okkur öll. Þá er eins gott að við tryggjum að markmið hennar séu okkur hagstæð — ‘human compatible’ eins og Russel orðar það.

Það er verkefni næstu ára og krefst alþjóðlegrar samvinnu og aðkomu fólks með fjölbreyttan bakgrunn og skoðanir.

Þetta blogg birtist upphaflega á Linkedin

https://www.linkedin.com/pulse/%25C3%25BEroskasaga-n%25C3%25BDrrar-t%25C3%25A6kni-brynj%25C3%25B3lfur-borgar-j%25C3%25B3nsson/?trackingId=sq12Sr6VQcWA7iDfVb05IA%3D%3D

https://www.linkedin.com/pulse/%25C3%25BEroskasaga-n%25C3%25BDrrar-t%25C3%25A6kni-brynj%25C3%25B3lfur-borgar-j%25C3%25B3nsson/?trackingId=sq12Sr6VQcWA7iDfVb05IA%3D%3D