Þegar gervigreind stuðlar að betri og sanngjarnari ákvörðunum

Gervigreind getur mögulega hjálpað mönnum að taka sanngjarnar ákvarðanir, en aðeins ef við byggjum sanngirni inn í gervigreindina sjálfa. Þetta er mikilvægt viðfangsefni í dag þar sem gervigreind er þegar orðin fyrirferðarmikil í útbreiddum tæknilausnum og framtíðaráformum fyrirtækja og opinberra aðila. Við erum rétt að byrja.

Möguleikar tækninnar aukast stöðugt með aukinni vinnslugetu og kapphlaupi samkeppnisaðila á markaði, en hún getur haft alvarlegar afleiðingar fyrir viðkvæma hópa í samfélaginu eins og Cathy O’Neil fjallar vandlega um í bók sinni ‘Weapons of Math Destruction’ og vakið hefur athygli. Hér má sjá hana fjalla nánar um málið.

Tvö viðfangsefni eru til umfjöllunar hér:

Hið fyrra er nýting gervigreindar til að greina og lágmarka skekkjur (e. bias) í mannlegri ákvarðanatöku.

Hið seinna varðar hvernig við bætum gervigreindina sjálfa; hvernig hún nýtir gögn, hvernig snjallar lausnir eru hannaðar, innleiddar og nýttar þannig að þær viðhaldi ekki eða magni upp ósanngjarna mismunun sem fyrir er í samfélaginu, eða skapi jafnvel nýtt óréttlæti.

Til að leysa þessi viðfangsefni þarf að stefna saman þekkingu og nálgunum úr ólíkum greinum til að þróa áfram tækni, ferla og siðareglur.

Gervigreind getur minnkað skekkju í mannlegri hugsun og ákvarðanatöku en hún getur líka formfest hana og magnað upp

Það er vel þekkt hvernig mannleg ákvarðanataka er viðkvæm fyrir fyrirfram gefnum hugmyndum, ómeðvituðum fordómum og rökvillum. Rannsóknir hafa t.d. sýnt hvernig úrskurðir dómara eru litaðir af persónuleika þeirra og ráðningarstjórar eru líklegri til að velja í viðtöl einstaklinga sem bera nöfn sem hafa tengingu við tiltekna þjóðfélagshópa.

Mannlegar ákvarðanir er einnig erfitt að rekja og yfirfara; fólk segir ósatt um forsendur sínar eða hefur ekki innsýn í það hvaða þættir höfðu áhrif á þær, sem býður hættu heim á ómeðvitaðri skekkju.

Í mörgum tilfellum getur gervigreindin minnkað tilhneigingu til hlutdrægrar túlkunar á gögnum af því reiknirit (e. algorithm) vélnáms (e. machine learning) nota aðeins breytur sem spá best fyrir um óskaniðurstöðu — t.d. að ráða hæfustu manneskjuna í starfið eða gæta sanngirni í dómsúrskurðum. Ef eitthvað er til sem heitir „kalt mat‟ er það í boði reikniritanna. Sýnt þykir einnig að reiknirit geti bætt ákvarðanatöku þannig að hún verði sanngjarnari gagnvart minnihlutahópum.

Aðrar rannsóknir sýna að sjálfvirk samþykktarferli um fyrirgreiðslu hjá fjármálastofnunum gagnist betur einstaklingum sem eiga viðkvæma sögu.

Ólíkt ákvörðunum manna er hægt að opna, yfirfara og greina forsendur ákvarðana gervigreindar. Ef talið er að ósanngirni birtist í niðurstöðum þá er hægt að laga reikniritið.

Á hinn bóginn benda rannsóknir til þess að gervigreindarlausnir geti kerfisvætt og magnað mannlega skekkju. Nýlega hætti Amazon notkun á ráðningarreikniriti þegar í ljós kom að reikniritið, sem byggði á umsóknargögnum fyrri ráðninga, hafnaði frekar konum en körlum.

Undirliggjandi gögn eru oft rót skekkjunnar

Iðulega eru það þó gögnin sem eru rót skekkjunnar fremur en reikniritin sjálf þar sem þau eru gjarnan mötuð af gögnum sem byggja á mannlegum ákvörðunum. Skekkja getur einnig borist með gögnum ef gagnaöflunin er skekkt.

Reiknirit sem áætlar þörf fyrir aukna löggæslu með að því að nota gögn svæða eða hverfa þar sem eftirlit er mikið, vegna fordóma lögreglumanna, er líklegt til að leggja til enn meiri löggæslu á slíkum svæðum, sem aftur leiðir til fleiri skráninga afbrota á viðkomandi svæði. Spennan vex fyrir vikið og neikvæður spírall fer af stað.

Fleiri lögreglumenn, fleiri lögbrjótar?

Hvernig skilgreinum við og mælum sanngirni til að lágmarka skekkjur?

Umræðan um sanngirni reiknirita hefur annars vegar snúið að einstaklingsbundnum réttindum, sem sagt að sambærilegir einstaklingar fái sömu meðhöndlun, t.d. í dómskerfinu; hins vegar lýtur umræðan að sanngirni gagnvart hópum; að niðurstöður og forspár reiknirita gæti jafnvægis milli þjóðfélagshópa, sérstaklega hópa í viðkvæmri stöðu.

En er hægt að forrita sanngirni í kóða? Myndaleit fyrir “CEO” í dag birtir niðurstöður sem sýna hlutfall þar sem 11% eru konur og 89% karlar. Ættu niðurstöðurnar fremur að sýna raunverulega stöðu, sem er 17% konur og 83% karlar — eða hlutfallið sem flestir vildu helst stefna að og væri eðlilegast; 50% af hvoru kyni?

Ætti Facebook að stilla reiknirit sín þannig að fólki birtist ekki aðeins fréttir og skoðanir annarra sem herðir þeirra eigin heimsýn — sem getur verið órafjarri raunveruleikanum — heldur jafnari útgáfu af heiminum? Hver skilgreinir þá útgáfu?

Eiga reiknirit að bæta fyrir samfélagsskekkju sem þegar er fyrir hendi eða eiga þau að leggja fram óhlutdrægar, kaldar spár sem geta hins vegar ýkt og haldið við mismunun sem þegar er fyrir hendi?

Sérfræðingar eru ekki sammála um hvernig beri að stefna fram á við. Líklega verður erfitt að semja eina skilgreiningu eða mælikvarða á sanngirni sem dugar fyrir allar aðstæður, sem þýðir að notast þarf við mismunandi staðla og viðmið eftir aðstæðum hverju sinni.

Í bók sinni ‘Human Compatible’ fjallar Stuart Russell um þann galla á fyrirkomulagi gervigreindarlausna sem náð hafa útbreiðslu að það erum við sem skilgreinum markmið þeirra og að það bjóði hættunni heim. Ef þau eru ekki ‘human compatible’ getur illa farið eins og t.d. er fjallað um í kvikmyndinni The Social Dilemma þar sem vanhugsuð markmið reikniritanna sem ákvarða hvað við sjáum á samfélagsmiðlum hefur dregið dilk á eftir sér…

The consequences include the resurgence of fascism, the dissolution of the social contract that underpins democracies around the world, and potentially the end of the European Union and NATO.

Not bad for a few lines of code, even it it had a helping hand from some humans. Now imagine what a really intelligent algorithm would be able to do.

Tækniframfarir eru í farvatninu en mikið verk er framundan

Nokkrar leiðir hafa verið þróaðar til að byggja sanngirni inn í reiknirit gervigreindar.

Ein þeirra byggir á því að forvinna gögn þannig að þau innihaldi sem nákvæmastar upplýsingar en lágmarki um leið tengsl milli niðurstöðu og viðkvæmra eiginleika, svo sem kynferði eða kynþátt, eða birti mynd af gögnunum sem innihaldi ekki upplýsingar um viðkvæma eiginleika.

Önnur leið sem farin hefur verið er að breyta niðurstöðum og spám reiknilíkans eftir á, til að fullnægja fyrirfram skilgreindum viðmiðum um sanngirni.

Tæknin þarf að vinna með okkur

Þá er verið að þróa aðferðir til að rekja betur forsendur niðurstaðna reiknirita. Slíkur rekjanleiki getur verið mikilvægur til að skilja og leiðrétta slíkar forsendur sem notaðar eru í vinnsluferli sem skilar ósanngjörnum niðurstöðum.

Önnur lausn er að fara nýjar leiðir í setja reikniritunum markmið og fer áðurnefndur Stuart Russell þar fremstur í flokki.

Mannleg dómgreind er enn nauðsynleg til að tryggja sanngirni gervigreindar

Hægt er að nálgast sanngirni í vélrænum ákvörðunum með vönduðum skilgreiningum og mælikvörðum, en slíkar aðferðir geta ekki tekið með í reikninginn fjölmargar flóknar og viðkvæmar samfélagsbreytur sem þarf að hafa í huga. Þær taka heldur ekki afstöðu til þess hvernig gagnanna var aflað, sem er siðferðislegt viðfangsefni og varðar til dæmis persónuvernd. Nýlega úrskurðaði hollenskur dómstóll að hinu opinbera væri óheimilt að nýta gervigreindarlausnir í baráttu gegn bótasvikum þar sem gagnasöfnin sem lágu að baki lausnunum samrýmdust ekki lögum um persónuvernd.

Það er því mikilvægt að skilja hvar mannleg dómgreind kemur til skjalanna: Hver ákveður hvenær tiltekið reiknirit hefur lágmarkað nægilega hættu á skekkju til að það sé öruggt fyrir almenning? Við hvaða aðstæður er hægt að réttlæta alsjálfvirkt og vélrænt ákvarðanaferli? Ekkert reiknirit getur svarað slíkum spurningum.

Til þess þarf mannlega dómgreind og samtal þvert á fræðasvið, til dæmis lögfræði, félagsvísindi og siðfræði. Þessi vinna er rétt að hefjast.

Ýmis verkefni í þessa veru hafa litið dagsins ljós. Árlegar skýrslur AI Now Institute fjalla um siðferðisleg álitamál frá ýmsum sjónarhornum og þróunarverkefni Harvard, “Embedded EthiCS” sem snýr að eflingu siðfræðiþátta í tölvunarfræðinámi, eru dæmi um það.

Getum við einnig bætt mannlega ákvarðanatöku með hjálp gervigreindar?

Framfarir í greiningu á mismunun í niðurstöðum reiknirita opnar aðra möguleika; nefnilega að endurhugsa hvernig við skerum úr um hvenær mannlegar ákvarðanir eru sanngjarnar eða ekki. Nákvæmt mat á þeim forsendum sem manneskjur nota (ekki sem þær segjast nota) til að taka ákvarðanir er þó mikið flóknara en greining á reikniriti.

Oft notum við nokkurs konar „sanngirnisígildi‟ til að komast að réttri niðurstöðu. Við teljum til dæmis niðurstöðu sanngjarna ef ákvarðanaferlið er metið sanngjarnt. En er sanngjarnt ferli hið sama og sanngjörn niðurstaða?

Önnur sanngirnisleið er að tryggja að ólík sjónarmið fái að heyrast í þeim hópi sem er falið að taka ákvörðun. Leiðir sem þessar eru trúlega þær skástu sem við höfum haft aðgang að hingað til, en kannski gætum við þróað mat á sanngirni mannlegra ákvarðana með hliðsjón af aðferðum sem verið er að þróa í gervigreind?

Betri gögn, greining og gervigreindartækni gætu nýst sem öflug verkfæri til að skoða skekkjur í mannlegum ákvörðunum. Ein leið væri að keyra reiknirit samhliða ákvarðanaferli manna, bera svo saman niðurstöður og greina ástæður fyrir mismuni, ef einhver er.

Með sama hætti mætti hugsa sér að fyrirtæki eða stofnun sem uppgötvar að reiknirit, sem byggir á fyrri ákvörðunum starfsmanna, skilar ósanngjörnum niðurstöðum endurskoðaði mannlega þáttinn í stað þess að leggja af reikniritið, samanber dæmið frá Amazon hér að ofan.

Sex mögulegar leiðir áfram fyrir hönnuði gervigreindar, og leiðtoga í viðskiptalífi og opinberum stofnunum

Það er mikilvæg forsenda fyrir trausti almennings á gervigreindarlausnum að fyrirbyggja mismunun og skekkjur. Eigi gervigreindin að uppfylla væntingar um stóraukið hagræði, framleiðniaukningu og brýnar samfélagslegar lausnir, til dæmis í umhverfismálum og úthlutun opinberra fjármuna, er nauðsynlegt að horfast í augu við þetta verkefni.

#1: Auka skilning á kringumstæðum þar sem gervigreind getur minnkað mismunun í ákvarðanatöku sem og hinum þar sem gervigreind getur aukið slíka mismunun

Þegar gervigreindarlausnir eru innleiddar er nauðsynlegt að hafa ávallt í huga aðstæður þar sem hætta er á félagslegri mismunun, til dæmis þar sem fyrir er saga um mismunun eða kerfisbundna skekkju í gögnum. Það þarf að rannsaka markvisst og dreifa þekkingu á því hvernig gervigreindin getur stuðlað að sanngirni og hvernig hún hefur fallið á prófinu.

#2: Skilgreina vinnuferla til að prófa og fyrirbyggja skekkjur í gervigreindarlausnum

Það þarf margs konar tól og aðferðir til að takast á við ósanngjarnar skekkjur. Að ofan var minnst á nokkrar slíkar. Vinnuferla má bæta með vandaðra vali á gögnum til vinnslu, með aðstoð umbótateyma sem storka viðtekinni menningu og hugsun (e. red teams), eða annarra utanaðkomandi ráðgjafa sem hafa fersk sjónarmið. Hér er ágæt samantekt um leiðir til að auka sanngirni gervigreindarlausna.

Aukið gegnsæi um ferla og mælikvarða er einnig mikilvægt til að hjálpa hagsmunaaðilum að sannreyna þau skref sem hafa verið tekin til að auka sanngirni í gagnavinnslunni.

#3: Hefja upplýsta umræðu um mögulegar skekkjur í mannlegum ákvörðunum

Eftir því sem gervigreindin afhjúpar meira um mannlega ákvarðunartöku er hægt að taka til endurskoðunar „sanngirnisígildin‟ sem rætt var að ofan. Getur gervigreindin aðstoðað við að draga fram skekkjur í mannlegri ákvarðanatöku sem enginn kom auga á áður? Þegar reiknirit sem hafa verið þjálfuð með ákvörðunum manna skila ósanngjarnri niðurstöðu og jafnvel magna hana upp, er tækifæri til að endurskoða hin mannlegu ferli.

#4: Rannsaka að fullu hvernig menn og vélar vinna best saman

Þetta felur meðal annars í sér að greina aðstæður og skilyrði þar sem sjálfvirk ákvarðanaferli eru ásættanleg og hvar mannleg dómgreind þarf hins vegar ávallt að vera á verði. Sum kerfi í þróun nota sambland af mannlegum og vélrænum ákvörðunum til að lágmarka skekkjur.

Þá leggur reikniritið til meðmæli eða lausnir sem menn yfirfara eða velja úr. Í slíkum kerfum er gagnsæi um áreiðanleika meðmælanna mikilvægt til að menn geti metið vægi þeirra.

#5: Fjárfesta meira í rannsóknum á skekkjum og opna aðgang að gögnum sem fleiri geta nýtt til þverfaglegra rannsókna

Þótt töluverður árangur hafi náðst á undanförnum árum í þverfaglegum rannsóknum þarf að opna fyrir aðgang að gögnum fyrir rannsakendur og fræðimenn á þessu sviði, þó þannig að persónuvernd sé virt sem og viðkvæmar viðskiptaupplýsingar. Árangur áfram veginn veltur á þverfaglegum rannsóknum, svo sem siðfræðilegum og félagsfræðilegum, sem áður er getið.

Lykilviðfang rannsókna er að meta hlutverk gervigreindar í ákvörðunarferlum eftir því sem sviðið þróast og meiri reynsla fæst.

#6: Fjárfesta í þátttöku alls samfélagsins

Margir hafa bent á þá staðreynd að lykilleikendur í þróun gervigreindar endurspegli ekki fjölbreytileika samfélagsins, til dæmis hvað varðar kyn, stétt, kynstofn eða fötlun. Fjölbreytt samsetning þróunaraðila gervigreindar er líklegri til að hafa skilning og næmi fyrir mismunun og skekkjum sem tæknin getur haft í för með sér. Cathy O’Neil leggur til að þróunaraðilar temji sér nýtt vinnulag til að lágmarka mögulegar neikvæðar afleiðingar lausnanna.

Þetta þýðir fjárfestingu á mörgum sviðum en sérstaklega í menntunartækifærum og aðgengi ólíkra samfélagshópa að tækninni.

Samantekt

Hér hefur verið stiklað á stóru um ýmis álitaefni sem snúa að félagslegri mismunun og skekkjum sem gervigreind getur nýst til að lágmarka. Komið hefur þó í ljós að tæknin getur formfest og dreift kerfisbundið mannlegri skekkju, ef forsendur reikniritanna eru skakkar.

Verkefnið framundan er að rannsaka markvisst hvernig gervigreindin getur best stuðlað að félagslegu réttlæti fremur en magna það upp. Ein leið er að nýta afl reikniritanna til að bæta og yfirfara mannlegar ákvarðanir, með því að bera saman niðurstöður reiknirita og manna, og skýra mismun þar á.

Mikið er í húfi því tæknin verður sífellt útbreiddari og áhrif hennar á daglegt líf okkar allra umfangsmeiri. Sú þróun verður ekki stöðvuð og því afar mikilvægt að tæknin vinni með okkur öllum.

Ný tækni, ófyrirséðar afleiðingar

Eru gagnadrifnar lausnir í þínum áætlunum fyrir 2021?

Gagnadrifnar og sjálfvirkar lausnir eru sannarlega komnar á dagskrá um allan heim, bæði í einkageiranum og hjá opinberum aðilum, stórum sem smáum. Þær eru ekki lengur einkamál alþjóðlegra tæknifyrirtækja og ná nú fótfestu í öllum geirum.

Faraldurinn sem nú gengur yfir hefur þar að auki knúið flest fyrirtæki og stofnanir til að endurskoða kerfi og ferla með hagræðingu og betri ákvarðanir að leiðarljósi.

Á Íslandi hefur hið opinbera stigið ákveðin skref í þessa átt með hundruð milljóna fjárfestingu í stafrænum innviðum undir hatti verkefnastofunnar Stafrænt Ísland. Fyrirtækin eru líka að taka við sér og jarðvegurinn fyrir slíkar lausnir er frjór. Það er ekki síst vegna aukinnar samkeppni við erlenda aðila sem hafa nú þegar tileinkað sér gervigreind og snjallar gagnadrifnar lausnir með góðum árangri. En einnig skiptir miklu máli að tæknin er orðin mun aðgengilegri, áreiðanlegri og ódýrari en fyrir örfáum árum.

Eitt er víst: Þær skipulagsheildir sem ekki eru markvisst að undirbúa hagnýtingu gagnadrifinna lausna nú lenda í vandræðum í nánustu framtíð.

Er gert ráð fyrir slíkri vinnu í þínum áætlunum fyrir 2021?

Covid-19 flýtir fyrir tækniþróun

Gervigreindin er komin á fleygiferð. Bandarísk yfirvöld hafa til dæmis ákveðið að tvöfalda útgjöld til rannsókna og innleiðingar á gervigreind árið 2021. Á þeim bæ er mikill árangur Kínverja á þessu sviði farinn að valda hugarangri en fjárfestingin þar er á skala sem venjulegur Íslendingur á bágt með að skilja.

Samkvæmt rannsóknum Harvard Business Review telja 3 af hverjum 4 forstjórum að ef þeir hafa ekki innleitt gervigreind gegnumsneitt í starfsemi sinni á næstu fimm árum verði þeir undir í samkeppninni. Fjármálastjórar hafa því fullt umboð til að stökkva á vagninn og samþykkja verkefni sem nýta tæknina til að lækka kostnað og hagræða í rekstri. Þetta er mjög í deiglunni einmitt nú þarf sem margir leita logandi ljósi að leiðum til að lifa af covid-kreppu með endurskipulagningu reksturs á nýjum grunni á næstu 3–5 árum.

Mörg fyrirtæki og stofnanir hafa þegar náð góðum árangri með því að sjálfvirknivæða tímafreka en nauðsynlega vinnslu eins og innslátt upplýsinga og úrvinnslu skjala, ýmis konar eftirlit, ráðgjöf og meðmæli á vef og í appi og þjónustusamtöl við viðskiptavini með innleiðingu spjallmenna.

Árangursrík verkefni sem þessi ryðja oft veginn fyrir fleiri og þróaðri lausnir á snjallvegferð fyrirtækja. Þetta er langhlaup en ekki sprettur.

Meðal verkefna sem umræddir fjármálastjórar eru að skoða í dag eru leiðir til að sjálfvirknivæða bæta uppgjör í lok mánaðar, innheimtu krafna og gerð fjárhagsáætlana.

Ástæða þess að slík verkefni verða oft fyrir valinu í fyrstu er einföld: Hér er yfirleitt um að ræða einskiptiskostnað sem mun skila sér í árlegum, varanlegum sparnaði í rekstri.

Stærsti hluti vinnunnar við innleiðingu gagnadrifinna lausna fer fram í upphafi verkefnis, þegar tæknilegir innviðir og gögn eru undirbúin, líkan eða lausn er smíðuð og prófanir fara fram. Þegar lausnin er farin að gera sitt gagn og vinna með sjálfvirkum hætti birtist ávinningurinn fljótt og einungis þarf að sinna reglubundnu viðhaldi til að tryggja áframhaldandi góða virkni.

Hvernig á að byrja?

Þessi spurning er algeng þegar vangaveltur um gervigreindarlausnir ber á góma. Hvar og hvernig er best að byrja að spreyta sig á framandi tækni?

Hvert og eitt fyrirtæki og stofnun þarf að skilgreina fyrir sig og sína starfsemi hvar slíkar lausnir myndu koma að mestum notum. Það er best að gera með markvissu og upplýstu samtali við starfsmenn, mati á stöðu, stefnu og tæknilegri getu.

Skynsamlegt getur verið að velja afmarkað, einfalt svið til að byrja á og nota sem prufuverkefni fyrir önnur stærri úrlausnarefni.

Nauðsynlegt er þó að byrja á byrjuninni: Taka stöðuna, gera úttekt á þörfinni, leggja mat á gæði gagna og leggja niður drög að stefnumótun og aðgerðaráætlun vegna hagnýtingar gagnadrifinna lausna í starfseminni.

Tíminn til að byrja er núna!

Þroskasaga nýrrar tækni

Myndin sem meðmælakerfi Netflix beinir ákaft til mín um þessar mundir heitir ‘The Social Dilemma’.

‘#2 in Iceland today’

…svo það eru greinilega fleiri sem hafa áhuga á þessu efni.

“This documentary-drama hybrid explores the dangerous human impact of social networking, with tech experts sounding the alarm on their own creations”

Samfélagsmiðlar eru ekki eingöngu jákvætt afl í tilverunni.

Það er á flestra vitorði nú til dags.

Falsfréttir, bergmálsherbergi, upplýsingaóreiða og samfélagsmiðlafíkn eru vel þekkt nýyrði í íslenskri tungu og lýsa því neikvæða sem m.a. fer fram á samfélagsmiðlum.

Viðskiptamódel á villigötum?

Það er viðskiptamódel samfélagsmiðla sem er einkum að flækjast fyrir okkur. Segja má að leikreglurnar hafi verið illa útfærðar eða vanhugsaðar í upphafi og nú 10–20 árum síðar þurfum við að fást við afleiðingarnar, t.d. upplýsingaóreiðu og falsfréttir sem valda sundrungu í samfélaginu og faraldur kvíða og þunglyndis meðal ungs fólks.

Viðskiptamódel og þar með markmið samfélagsmiðilsins er skýrt: að selja auglýsingar og kostað efni. Því meira því betra. Eðlilega.

Viðskiptavinir samfélagsmiðla eru því auglýsendur og framleiðendur efnis, t.d. fyrirtæki, stjórnmálaöfl, stjórnvöld og hagsmunasamtök.

Notendurnir eru söluvaran.

Söluvaran er athygli okkar og þær hegðunarbreytingar sem eiga sér stað í kjölfar þess að við upplifum eitthvað á samfélagsmiðlum. Eins og einn viðmælandinn í myndinni lýsti samfélagsmiðlum “…a marketplace for human futures”.

Samfélagsmiðill hefur milligöngu um að hafa áhrif á hegðun notenda í samræmi við markmið auglýsenda. Markmiðin auglýsenda eru alls konar og engin leið að stjórna þeim. Allt frá bónda í Biskupstungum sem selur hrossasperðla beint frá býli til herra Pútíns í Kreml sem á sér þann draum að sjá Vesturlönd hnigna.

Facebook er áhrifamesti miðillinn og breytir hegðun fleiri notenda en nokkur annar á hagkvæman hátt á grundvelli gagnasöfnunar á skala sem ekki hefur þekkst áður og hagnýtingu gervigreindar. Þar er kominn fram mergur málsins og grundvallarmunur á samfélagsmiðlum og hefðbundum fjölmiðlum sem hafa stundað þá iðju að selja auglýsendum aðgang að okkur í a.m.k. 100 til 150 ár flestum til gagns og þónokkurs gamans.

Gögn Facebook geyma vísbendingar um vonir okkar, væntingar og þrár og gervigreindarlausnar eru nýttar til að draga þær fram og í kjölfarið tengja okkur við auglýsingar og efni sem snerta streng í okkur og eru því líklegri en ella til að framkalla hegðunarbreytingar. Og rúsínan í pylsuendanum er snjöll hagnýting þekkingar í sálfræði til að brjóta mögulegar varnir okkar á bak aftur eða sveigja fram hjá þeim. Sé þetta látið malla um nokkurn tíma fara að koma fram ófyrirséðar afleiðingar eins og t.d. útbreiðsla öfgafullra skoðana og skoðana sem eiga sér ekki stoð í raunveruleikanum.

Eftir því hefur verið tekið. Og glundroðinn eykst.

Þess vegna tala ýmsir um “manipulation machines” í þessu sambandi. Samfélagsmiðlarnir eru í krafti gagna, gervigreindar og sálfræði farnir að handleika okkur eins og strengjabrúður. Og hver stjórnar? Jú auglýsendur með alls kyns markmið, t.d. hrossabóndi í Biskupstungum og herra Pútín í Kreml.

Í myndinni kemur fram sú skoðun að við, notendurnir, getum ekki unnið þennan leik. Við eigum við ofurefli að etja í formi gervigreindar sem þekkir okkur betur en við sjálf. Og markmið hennar er ekki að auka lífsfyllingu okkar, þvert á móti. Hún gerir allt sem hún getur til að skapa miðlinum tekjur.

Og afleiðingarnar blasa við okkur. Íslensku nýyrðin sem listuð voru hér að ofan koma fyrst upp í hugann. En einnig mikil vanlíðan meðal stórs hóps ungra notenda.

Myndin er áhugaverð og hvet ég sem flesta til að horfa á hana og mynda sér skoðun.

Við þurfum að endurhugsa markmiðin

Stuart Russell skrifaði bókina ‘Human Compatible — AI and the Problem of Control’.

Þar fjallar hann um þann vanda sem gervigreindarlausnir geta komið okkur í og hvað er til ráða.

Þetta kvót hér að neðan er fulllangt en mér fannst það fanga alvarleika málsins mjög vel. Ef jafnvel ‘einföld’ eða ‘veik’ gervigreind samfélagsmiðla getur valdið slíkum usla á heimsvísu hvað gerist þá þegar við hleypum enn greindari lausnum út í þennan heim með markmið sem ekki eru ‘human compatible’…

“To get just an inkling of the fire we’re playing with, consider how content-selection algorithms function on social media. They aren’t particularly intelligent, but they are in a position to affect the entire world because they directly influence billions of people.

Typically, such algorithms are designed to maximize click-through, that is, the probability that the user clicks on presented items. The solution is simply to present items that the user likes to click on, right? Wrong.

The solution is to change the user’s preferences so that they become more predictable. A more predictable user can be fed items that they are likely to click on, thereby generating more revenue. People with more extreme political views tend to be more predictable in which items they will click on.

Like any rational entity, the algorithm learns how to modify the state of its environment — in this case, the user’s mind — in order to maximize it own reward.

The consequences include the resurgence of fascism, the dissolution of the social contract that underpins democracies around the world, and potentially the end of the European Union and NATO.

Not bad for a few lines of code, even it it had a helping hand from some humans. Now imagine what a really intelligent algorithm would be able to do.”

Þroskasaga nýrrar tækni

Og hver er þá niðurstaðan? Er hægt að kenna gervigreindinni um þetta? Er hún vondi kallinn?

Eða eru það illa hugsuð viðskiptamódel og markmið?

Eins og svo oft áður þá er varla skynsamlegt að kenna tólinu sjálfu um. Og viðskiptamódelið má kalla barn síns tíma. Því þyrfti að breyta.

Það mætti líklega líta á þetta sem kafla í þoskasögu nýrrar tækni.

Kafla sem við ætlum okkur að læra af.

Heimurinn er smám saman að átta sig á því að gervigreindartæknin er öflug og verður sífellt öflugri. Hún er komin til að vera og hafa áhrif á okkur öll. Þá er eins gott að við tryggjum að markmið hennar séu okkur hagstæð — ‘human compatible’ eins og Russel orðar það.

Það er verkefni næstu ára og krefst alþjóðlegrar samvinnu og aðkomu fólks með fjölbreyttan bakgrunn og skoðanir.

Þetta blogg birtist upphaflega á Linkedin

https://www.linkedin.com/pulse/%25C3%25BEroskasaga-n%25C3%25BDrrar-t%25C3%25A6kni-brynj%25C3%25B3lfur-borgar-j%25C3%25B3nsson/?trackingId=sq12Sr6VQcWA7iDfVb05IA%3D%3D

https://www.linkedin.com/pulse/%25C3%25BEroskasaga-n%25C3%25BDrrar-t%25C3%25A6kni-brynj%25C3%25B3lfur-borgar-j%25C3%25B3nsson/?trackingId=sq12Sr6VQcWA7iDfVb05IA%3D%3D