7 min read
Gervigreind getur mögulega hjálpað mönnum að taka sanngjarnar ákvarðanir, en aðeins ef við byggjum sanngirni inn í gervigreindina sjálfa. Þetta er mikilvægt viðfangsefni í dag þar sem gervigreind er þegar orðin fyrirferðarmikil í útbreiddum tæknilausnum og framtíðaráformum fyrirtækja og opinberra aðila. Við erum rétt að byrja.
Möguleikar tækninnar aukast stöðugt með aukinni vinnslugetu og kapphlaupi samkeppnisaðila á markaði, en hún getur haft alvarlegar afleiðingar fyrir viðkvæma hópa í samfélaginu eins og Cathy O’Neil fjallar vandlega um í bók sinni ‘Weapons of Math Destruction’ og vakið hefur athygli. Hér má sjá hana fjalla nánar um málið.
Tvö viðfangsefni eru til umfjöllunar hér:
Hið fyrra er nýting gervigreindar til að greina og lágmarka skekkjur (e. bias) í mannlegri ákvarðanatöku.
Hið seinna varðar hvernig við bætum gervigreindina sjálfa; hvernig hún nýtir gögn, hvernig snjallar lausnir eru hannaðar, innleiddar og nýttar þannig að þær viðhaldi ekki eða magni upp ósanngjarna mismunun sem fyrir er í samfélaginu, eða skapi jafnvel nýtt óréttlæti.
Til að leysa þessi viðfangsefni þarf að stefna saman þekkingu og nálgunum úr ólíkum greinum til að þróa áfram tækni, ferla og siðareglur.
Það er vel þekkt hvernig mannleg ákvarðanataka er viðkvæm fyrir fyrirfram gefnum hugmyndum, ómeðvituðum fordómum og rökvillum. Rannsóknir hafa t.d. sýnt hvernig úrskurðir dómara eru litaðir af persónuleika þeirra og ráðningarstjórar eru líklegri til að velja í viðtöl einstaklinga sem bera nöfn sem hafa tengingu við tiltekna þjóðfélagshópa.
Mannlegar ákvarðanir er einnig erfitt að rekja og yfirfara; fólk segir ósatt um forsendur sínar eða hefur ekki innsýn í það hvaða þættir höfðu áhrif á þær, sem býður hættu heim á ómeðvitaðri skekkju.
Í mörgum tilfellum getur gervigreindin minnkað tilhneigingu til hlutdrægrar túlkunar á gögnum af því reiknirit (e. algorithm) vélnáms (e. machine learning) nota aðeins breytur sem spá best fyrir um óskaniðurstöðu — t.d. að ráða hæfustu manneskjuna í starfið eða gæta sanngirni í dómsúrskurðum. Ef eitthvað er til sem heitir „kalt mat‟ er það í boði reikniritanna. Sýnt þykir einnig að reiknirit geti bætt ákvarðanatöku þannig að hún verði sanngjarnari gagnvart minnihlutahópum.
Aðrar rannsóknir sýna að sjálfvirk samþykktarferli um fyrirgreiðslu hjá fjármálastofnunum gagnist betur einstaklingum sem eiga viðkvæma sögu.
Ólíkt ákvörðunum manna er hægt að opna, yfirfara og greina forsendur ákvarðana gervigreindar. Ef talið er að ósanngirni birtist í niðurstöðum þá er hægt að laga reikniritið.
Á hinn bóginn benda rannsóknir til þess að gervigreindarlausnir geti kerfisvætt og magnað mannlega skekkju. Nýlega hætti Amazon notkun á ráðningarreikniriti þegar í ljós kom að reikniritið, sem byggði á umsóknargögnum fyrri ráðninga, hafnaði frekar konum en körlum.
Iðulega eru það þó gögnin sem eru rót skekkjunnar fremur en reikniritin sjálf þar sem þau eru gjarnan mötuð af gögnum sem byggja á mannlegum ákvörðunum. Skekkja getur einnig borist með gögnum ef gagnaöflunin er skekkt.
Reiknirit sem áætlar þörf fyrir aukna löggæslu með að því að nota gögn svæða eða hverfa þar sem eftirlit er mikið, vegna fordóma lögreglumanna, er líklegt til að leggja til enn meiri löggæslu á slíkum svæðum, sem aftur leiðir til fleiri skráninga afbrota á viðkomandi svæði. Spennan vex fyrir vikið og neikvæður spírall fer af stað.
Umræðan um sanngirni reiknirita hefur annars vegar snúið að einstaklingsbundnum réttindum, sem sagt að sambærilegir einstaklingar fái sömu meðhöndlun, t.d. í dómskerfinu; hins vegar lýtur umræðan að sanngirni gagnvart hópum; að niðurstöður og forspár reiknirita gæti jafnvægis milli þjóðfélagshópa, sérstaklega hópa í viðkvæmri stöðu.
En er hægt að forrita sanngirni í kóða? Myndaleit fyrir “CEO” í dag birtir niðurstöður sem sýna hlutfall þar sem 11% eru konur og 89% karlar. Ættu niðurstöðurnar fremur að sýna raunverulega stöðu, sem er 17% konur og 83% karlar — eða hlutfallið sem flestir vildu helst stefna að og væri eðlilegast; 50% af hvoru kyni?
Ætti Facebook að stilla reiknirit sín þannig að fólki birtist ekki aðeins fréttir og skoðanir annarra sem herðir þeirra eigin heimsýn — sem getur verið órafjarri raunveruleikanum — heldur jafnari útgáfu af heiminum? Hver skilgreinir þá útgáfu?
Eiga reiknirit að bæta fyrir samfélagsskekkju sem þegar er fyrir hendi eða eiga þau að leggja fram óhlutdrægar, kaldar spár sem geta hins vegar ýkt og haldið við mismunun sem þegar er fyrir hendi?
Sérfræðingar eru ekki sammála um hvernig beri að stefna fram á við. Líklega verður erfitt að semja eina skilgreiningu eða mælikvarða á sanngirni sem dugar fyrir allar aðstæður, sem þýðir að notast þarf við mismunandi staðla og viðmið eftir aðstæðum hverju sinni.
Í bók sinni ‘Human Compatible’ fjallar Stuart Russell um þann galla á fyrirkomulagi gervigreindarlausna sem náð hafa útbreiðslu að það erum við sem skilgreinum markmið þeirra og að það bjóði hættunni heim. Ef þau eru ekki ‘human compatible’ getur illa farið eins og t.d. er fjallað um í kvikmyndinni The Social Dilemma þar sem vanhugsuð markmið reikniritanna sem ákvarða hvað við sjáum á samfélagsmiðlum hefur dregið dilk á eftir sér…
The consequences include the resurgence of fascism, the dissolution of the social contract that underpins democracies around the world, and potentially the end of the European Union and NATO.
Not bad for a few lines of code, even it it had a helping hand from some humans. Now imagine what a really intelligent algorithm would be able to do.
Nokkrar leiðir hafa verið þróaðar til að byggja sanngirni inn í reiknirit gervigreindar.
Ein þeirra byggir á því að forvinna gögn þannig að þau innihaldi sem nákvæmastar upplýsingar en lágmarki um leið tengsl milli niðurstöðu og viðkvæmra eiginleika, svo sem kynferði eða kynþátt, eða birti mynd af gögnunum sem innihaldi ekki upplýsingar um viðkvæma eiginleika.
Önnur leið sem farin hefur verið er að breyta niðurstöðum og spám reiknilíkans eftir á, til að fullnægja fyrirfram skilgreindum viðmiðum um sanngirni.
Þá er verið að þróa aðferðir til að rekja betur forsendur niðurstaðna reiknirita. Slíkur rekjanleiki getur verið mikilvægur til að skilja og leiðrétta slíkar forsendur sem notaðar eru í vinnsluferli sem skilar ósanngjörnum niðurstöðum.
Önnur lausn er að fara nýjar leiðir í setja reikniritunum markmið og fer áðurnefndur Stuart Russell þar fremstur í flokki.
Hægt er að nálgast sanngirni í vélrænum ákvörðunum með vönduðum skilgreiningum og mælikvörðum, en slíkar aðferðir geta ekki tekið með í reikninginn fjölmargar flóknar og viðkvæmar samfélagsbreytur sem þarf að hafa í huga. Þær taka heldur ekki afstöðu til þess hvernig gagnanna var aflað, sem er siðferðislegt viðfangsefni og varðar til dæmis persónuvernd. Nýlega úrskurðaði hollenskur dómstóll að hinu opinbera væri óheimilt að nýta gervigreindarlausnir í baráttu gegn bótasvikum þar sem gagnasöfnin sem lágu að baki lausnunum samrýmdust ekki lögum um persónuvernd.
Það er því mikilvægt að skilja hvar mannleg dómgreind kemur til skjalanna: Hver ákveður hvenær tiltekið reiknirit hefur lágmarkað nægilega hættu á skekkju til að það sé öruggt fyrir almenning? Við hvaða aðstæður er hægt að réttlæta alsjálfvirkt og vélrænt ákvarðanaferli? Ekkert reiknirit getur svarað slíkum spurningum.
Til þess þarf mannlega dómgreind og samtal þvert á fræðasvið, til dæmis lögfræði, félagsvísindi og siðfræði. Þessi vinna er rétt að hefjast.
Ýmis verkefni í þessa veru hafa litið dagsins ljós. Árlegar skýrslur AI Now Institute fjalla um siðferðisleg álitamál frá ýmsum sjónarhornum og þróunarverkefni Harvard, “Embedded EthiCS” sem snýr að eflingu siðfræðiþátta í tölvunarfræðinámi, eru dæmi um það.
Framfarir í greiningu á mismunun í niðurstöðum reiknirita opnar aðra möguleika; nefnilega að endurhugsa hvernig við skerum úr um hvenær mannlegar ákvarðanir eru sanngjarnar eða ekki. Nákvæmt mat á þeim forsendum sem manneskjur nota (ekki sem þær segjast nota) til að taka ákvarðanir er þó mikið flóknara en greining á reikniriti.
Oft notum við nokkurs konar „sanngirnisígildi‟ til að komast að réttri niðurstöðu. Við teljum til dæmis niðurstöðu sanngjarna ef ákvarðanaferlið er metið sanngjarnt. En er sanngjarnt ferli hið sama og sanngjörn niðurstaða?
Önnur sanngirnisleið er að tryggja að ólík sjónarmið fái að heyrast í þeim hópi sem er falið að taka ákvörðun. Leiðir sem þessar eru trúlega þær skástu sem við höfum haft aðgang að hingað til, en kannski gætum við þróað mat á sanngirni mannlegra ákvarðana með hliðsjón af aðferðum sem verið er að þróa í gervigreind?
Betri gögn, greining og gervigreindartækni gætu nýst sem öflug verkfæri til að skoða skekkjur í mannlegum ákvörðunum. Ein leið væri að keyra reiknirit samhliða ákvarðanaferli manna, bera svo saman niðurstöður og greina ástæður fyrir mismuni, ef einhver er.
Með sama hætti mætti hugsa sér að fyrirtæki eða stofnun sem uppgötvar að reiknirit, sem byggir á fyrri ákvörðunum starfsmanna, skilar ósanngjörnum niðurstöðum endurskoðaði mannlega þáttinn í stað þess að leggja af reikniritið, samanber dæmið frá Amazon hér að ofan.
Það er mikilvæg forsenda fyrir trausti almennings á gervigreindarlausnum að fyrirbyggja mismunun og skekkjur. Eigi gervigreindin að uppfylla væntingar um stóraukið hagræði, framleiðniaukningu og brýnar samfélagslegar lausnir, til dæmis í umhverfismálum og úthlutun opinberra fjármuna, er nauðsynlegt að horfast í augu við þetta verkefni.
Þegar gervigreindarlausnir eru innleiddar er nauðsynlegt að hafa ávallt í huga aðstæður þar sem hætta er á félagslegri mismunun, til dæmis þar sem fyrir er saga um mismunun eða kerfisbundna skekkju í gögnum. Það þarf að rannsaka markvisst og dreifa þekkingu á því hvernig gervigreindin getur stuðlað að sanngirni og hvernig hún hefur fallið á prófinu.
Það þarf margs konar tól og aðferðir til að takast á við ósanngjarnar skekkjur. Að ofan var minnst á nokkrar slíkar. Vinnuferla má bæta með vandaðra vali á gögnum til vinnslu, með aðstoð umbótateyma sem storka viðtekinni menningu og hugsun (e. red teams), eða annarra utanaðkomandi ráðgjafa sem hafa fersk sjónarmið. Hér er ágæt samantekt um leiðir til að auka sanngirni gervigreindarlausna.
Aukið gegnsæi um ferla og mælikvarða er einnig mikilvægt til að hjálpa hagsmunaaðilum að sannreyna þau skref sem hafa verið tekin til að auka sanngirni í gagnavinnslunni.
Eftir því sem gervigreindin afhjúpar meira um mannlega ákvarðunartöku er hægt að taka til endurskoðunar „sanngirnisígildin‟ sem rætt var að ofan. Getur gervigreindin aðstoðað við að draga fram skekkjur í mannlegri ákvarðanatöku sem enginn kom auga á áður? Þegar reiknirit sem hafa verið þjálfuð með ákvörðunum manna skila ósanngjarnri niðurstöðu og jafnvel magna hana upp, er tækifæri til að endurskoða hin mannlegu ferli.
Þetta felur meðal annars í sér að greina aðstæður og skilyrði þar sem sjálfvirk ákvarðanaferli eru ásættanleg og hvar mannleg dómgreind þarf hins vegar ávallt að vera á verði. Sum kerfi í þróun nota sambland af mannlegum og vélrænum ákvörðunum til að lágmarka skekkjur.
Þá leggur reikniritið til meðmæli eða lausnir sem menn yfirfara eða velja úr. Í slíkum kerfum er gagnsæi um áreiðanleika meðmælanna mikilvægt til að menn geti metið vægi þeirra.
Þótt töluverður árangur hafi náðst á undanförnum árum í þverfaglegum rannsóknum þarf að opna fyrir aðgang að gögnum fyrir rannsakendur og fræðimenn á þessu sviði, þó þannig að persónuvernd sé virt sem og viðkvæmar viðskiptaupplýsingar. Árangur áfram veginn veltur á þverfaglegum rannsóknum, svo sem siðfræðilegum og félagsfræðilegum, sem áður er getið.
Lykilviðfang rannsókna er að meta hlutverk gervigreindar í ákvörðunarferlum eftir því sem sviðið þróast og meiri reynsla fæst.
Margir hafa bent á þá staðreynd að lykilleikendur í þróun gervigreindar endurspegli ekki fjölbreytileika samfélagsins, til dæmis hvað varðar kyn, stétt, kynstofn eða fötlun. Fjölbreytt samsetning þróunaraðila gervigreindar er líklegri til að hafa skilning og næmi fyrir mismunun og skekkjum sem tæknin getur haft í för með sér. Cathy O’Neil leggur til að þróunaraðilar temji sér nýtt vinnulag til að lágmarka mögulegar neikvæðar afleiðingar lausnanna.
Þetta þýðir fjárfestingu á mörgum sviðum en sérstaklega í menntunartækifærum og aðgengi ólíkra samfélagshópa að tækninni.
Hér hefur verið stiklað á stóru um ýmis álitaefni sem snúa að félagslegri mismunun og skekkjum sem gervigreind getur nýst til að lágmarka. Komið hefur þó í ljós að tæknin getur formfest og dreift kerfisbundið mannlegri skekkju, ef forsendur reikniritanna eru skakkar.
Verkefnið framundan er að rannsaka markvisst hvernig gervigreindin getur best stuðlað að félagslegu réttlæti fremur en magna það upp. Ein leið er að nýta afl reikniritanna til að bæta og yfirfara mannlegar ákvarðanir, með því að bera saman niðurstöður reiknirita og manna, og skýra mismun þar á.
Mikið er í húfi því tæknin verður sífellt útbreiddari og áhrif hennar á daglegt líf okkar allra umfangsmeiri. Sú þróun verður ekki stöðvuð og því afar mikilvægt að tæknin vinni með okkur öllum.
5 min read
Binni Borgar : Nov 16, 2023
Ímyndið ykkur tækni sem þjappar allri þekkingu sem er aðgengileg á netinu í auðmeltanlega og sérsniðna mola. Þú spyrð um hvað sem er og færð svarið...
Síðan haustið 2020 höfum við, undirritaður og viðmælandi minn, Brynjólfur Borgar Jónsson, hist vikulega nær alla föstudagsmorgna stundvíslega kl....
1 min read
Ungt fólk er áberandi meðal þeirra sem leiða vagninn í þróun gervigreindar. Það er ekki skrýtið, enda er þar unnið á jaðrinum, með nýjustu þekkingu...
