DATALAB LEIÐIR ÍSLENSK FYRIRTÆKI OG STOFNANIR INN Í GAGNADRIFNA FRAMTÍÐ

LESA MEIRA

Þroskasaga nýrrar tækni

Myndin sem meðmælakerfi Netflix beinir ákaft til mín um þessar mundir heitir ‘The Social Dilemma’.

‘#2 in Iceland today’

…svo það eru greinilega fleiri sem hafa áhuga á þessu efni.

“This documentary-drama hybrid explores the dangerous human impact of social networking, with tech experts sounding the alarm on their own creations”

Samfélagsmiðlar eru ekki eingöngu jákvætt afl í tilverunni.

Það er á flestra vitorði nú til dags.

Falsfréttir, bergmálsherbergi, upplýsingaóreiða og samfélagsmiðlafíkn eru vel þekkt nýyrði í íslenskri tungu og lýsa því neikvæða sem m.a. fer fram á samfélagsmiðlum.

Viðskiptamódel á villigötum?

Það er viðskiptamódel samfélagsmiðla sem er einkum að flækjast fyrir okkur. Segja má að leikreglurnar hafi verið illa útfærðar eða vanhugsaðar í upphafi og nú 10–20 árum síðar þurfum við að fást við afleiðingarnar, t.d. upplýsingaóreiðu og falsfréttir sem valda sundrungu í samfélaginu og faraldur kvíða og þunglyndis meðal ungs fólks.

Viðskiptamódel og þar með markmið samfélagsmiðilsins er skýrt: að selja auglýsingar og kostað efni. Því meira því betra. Eðlilega.

Viðskiptavinir samfélagsmiðla eru því auglýsendur og framleiðendur efnis, t.d. fyrirtæki, stjórnmálaöfl, stjórnvöld og hagsmunasamtök.

Notendurnir eru söluvaran.

Söluvaran er athygli okkar og þær hegðunarbreytingar sem eiga sér stað í kjölfar þess að við upplifum eitthvað á samfélagsmiðlum. Eins og einn viðmælandinn í myndinni lýsti samfélagsmiðlum “…a marketplace for human futures”.

Samfélagsmiðill hefur milligöngu um að hafa áhrif á hegðun notenda í samræmi við markmið auglýsenda. Markmiðin auglýsenda eru alls konar og engin leið að stjórna þeim. Allt frá bónda í Biskupstungum sem selur hrossasperðla beint frá býli til herra Pútíns í Kreml sem á sér þann draum að sjá Vesturlönd hnigna.

Facebook er áhrifamesti miðillinn og breytir hegðun fleiri notenda en nokkur annar á hagkvæman hátt á grundvelli gagnasöfnunar á skala sem ekki hefur þekkst áður og hagnýtingu gervigreindar. Þar er kominn fram mergur málsins og grundvallarmunur á samfélagsmiðlum og hefðbundum fjölmiðlum sem hafa stundað þá iðju að selja auglýsendum aðgang að okkur í a.m.k. 100 til 150 ár flestum til gagns og þónokkurs gamans.

Gögn Facebook geyma vísbendingar um vonir okkar, væntingar og þrár og gervigreindarlausnar eru nýttar til að draga þær fram og í kjölfarið tengja okkur við auglýsingar og efni sem snerta streng í okkur og eru því líklegri en ella til að framkalla hegðunarbreytingar. Og rúsínan í pylsuendanum er snjöll hagnýting þekkingar í sálfræði til að brjóta mögulegar varnir okkar á bak aftur eða sveigja fram hjá þeim. Sé þetta látið malla um nokkurn tíma fara að koma fram ófyrirséðar afleiðingar eins og t.d. útbreiðsla öfgafullra skoðana og skoðana sem eiga sér ekki stoð í raunveruleikanum.

Eftir því hefur verið tekið. Og glundroðinn eykst.

Þess vegna tala ýmsir um “manipulation machines” í þessu sambandi. Samfélagsmiðlarnir eru í krafti gagna, gervigreindar og sálfræði farnir að handleika okkur eins og strengjabrúður. Og hver stjórnar? Jú auglýsendur með alls kyns markmið, t.d. hrossabóndi í Biskupstungum og herra Pútín í Kreml.

Í myndinni kemur fram sú skoðun að við, notendurnir, getum ekki unnið þennan leik. Við eigum við ofurefli að etja í formi gervigreindar sem þekkir okkur betur en við sjálf. Og markmið hennar er ekki að auka lífsfyllingu okkar, þvert á móti. Hún gerir allt sem hún getur til að skapa miðlinum tekjur.

Og afleiðingarnar blasa við okkur. Íslensku nýyrðin sem listuð voru hér að ofan koma fyrst upp í hugann. En einnig mikil vanlíðan meðal stórs hóps ungra notenda.

Myndin er áhugaverð og hvet ég sem flesta til að horfa á hana og mynda sér skoðun.

Við þurfum að endurhugsa markmiðin

Stuart Russell skrifaði bókina ‘Human Compatible — AI and the Problem of Control’.

Þar fjallar hann um þann vanda sem gervigreindarlausnir geta komið okkur í og hvað er til ráða.

Þetta kvót hér að neðan er fulllangt en mér fannst það fanga alvarleika málsins mjög vel. Ef jafnvel ‘einföld’ eða ‘veik’ gervigreind samfélagsmiðla getur valdið slíkum usla á heimsvísu hvað gerist þá þegar við hleypum enn greindari lausnum út í þennan heim með markmið sem ekki eru ‘human compatible’…

“To get just an inkling of the fire we’re playing with, consider how content-selection algorithms function on social media. They aren’t particularly intelligent, but they are in a position to affect the entire world because they directly influence billions of people.

Typically, such algorithms are designed to maximize click-through, that is, the probability that the user clicks on presented items. The solution is simply to present items that the user likes to click on, right? Wrong.

The solution is to change the user’s preferences so that they become more predictable. A more predictable user can be fed items that they are likely to click on, thereby generating more revenue. People with more extreme political views tend to be more predictable in which items they will click on.

Like any rational entity, the algorithm learns how to modify the state of its environment — in this case, the user’s mind — in order to maximize it own reward.

The consequences include the resurgence of fascism, the dissolution of the social contract that underpins democracies around the world, and potentially the end of the European Union and NATO.

Not bad for a few lines of code, even it it had a helping hand from some humans. Now imagine what a really intelligent algorithm would be able to do.”

Þroskasaga nýrrar tækni

Og hver er þá niðurstaðan? Er hægt að kenna gervigreindinni um þetta? Er hún vondi kallinn?

Eða eru það illa hugsuð viðskiptamódel og markmið?

Eins og svo oft áður þá er varla skynsamlegt að kenna tólinu sjálfu um. Og viðskiptamódelið má kalla barn síns tíma. Því þyrfti að breyta.

Það mætti líklega líta á þetta sem kafla í þoskasögu nýrrar tækni.

Kafla sem við ætlum okkur að læra af.

Heimurinn er smám saman að átta sig á því að gervigreindartæknin er öflug og verður sífellt öflugri. Hún er komin til að vera og hafa áhrif á okkur öll. Þá er eins gott að við tryggjum að markmið hennar séu okkur hagstæð — ‘human compatible’ eins og Russel orðar það.

Það er verkefni næstu ára og krefst alþjóðlegrar samvinnu og aðkomu fólks með fjölbreyttan bakgrunn og skoðanir.

Þetta blogg birtist upphaflega á Linkedin

https://www.linkedin.com/pulse/%25C3%25BEroskasaga-n%25C3%25BDrrar-t%25C3%25A6kni-brynj%25C3%25B3lfur-borgar-j%25C3%25B3nsson/?trackingId=sq12Sr6VQcWA7iDfVb05IA%3D%3D

https://www.linkedin.com/pulse/%25C3%25BEroskasaga-n%25C3%25BDrrar-t%25C3%25A6kni-brynj%25C3%25B3lfur-borgar-j%25C3%25B3nsson/?trackingId=sq12Sr6VQcWA7iDfVb05IA%3D%3D

No comment yet, add your voice below!


Add a Comment

Netfang þitt verður ekki birt. Nauðsynlegir reitir eru merktir *

Share on facebook
Share on twitter
Share on linkedin

Fleiri greinar

HAFA SAMBAND

datalab@datalab.is

+354 693 0100

Í samstarfi við DataLab Ísland innleiða fyrirtæki snjallar lausnir sem bæta samkeppnishæfni og undirbúa þau fyrir framtíðina.