Þolir lýð­ræðið á­lags­próf gervi­greindarinnar?

Að undanförnu hefur mikið verið rætt um gervigreind og áhrif hennar á samfélagið en lítið hefur verið rætt um möguleg áhrif gervigreindar á lýðræði. Í nýlegri skýrslu Europol er áætlað að gervigreind framleiði 90% alls efnis á internetinu árið 2026. Stórum spurningum er enn ósvarað um það hvernig við sem samfélag ætlum að takast á við þetta gríðarlega upplýsingaflóð og þá óreiðu sem hún mun skola á land. Þá eru ótaldar allar aðrar breytingar sem óhjákvæmilega munu fylgja í kjölfarið.

Erfitt er að spá fyrir um það hvernig gervigreindin eigi eftir að þróast á næstu árum. Líkja mætti gervigreind við spádóm um það hvað ungbarn á fyrsta æviskeiðinu muni taka sér fyrir hendur á fullorðinsárum. Þessar vangaveltur þegar í frumbernsku gervigreindar eru ástæða þess að á sama tíma og rætt er um stórfengleg tækifæri hennar er samhliða rætt um myrkustu dystópíur tengdar gervigreind.

Undirróður og upplýsingaóreiða er helsta ógnin

Falsfréttir, áróður og lygar hafa lengi fylgt mannkyninu. Ný tækni gerir það að verkum að aðferðirnar verða sífellt þróaðri. Nú eru nágrannaríki okkar í raun farin að líta á undirróðurs- og lygaherferðir frá erlendum stjórnvöldum og aðilum þeim tengdum sem eina af helstu þjóðaröryggisógnunum. ENISA, netöryggisstofnun Evrópusambandsins telur að upplýsingaóreiða sé ein af stærstu ógnunum sem netöryggi stendur frammi í álfunni. Almennt er talað um algjöra stefnubreytingu í þessum málaflokki.

Kerfisbundin upplýsingaóreiða er viðvarðandi um stríðið og ráðamenn í Úkraínu. Í Bandaríkjunum og Frakklandi hefur á undanförnum árum verið reynt að hafa áhrif á lýðræðislegar kosningar. Svíar og Finnar hafa þurft að þola linnulausan áróður, lygar og undirróður óvinveittra erlendra ríkja vegna NATO umsókna sinna. Markmið slíkra fjölþátta árása er að þagga niður í ákveðnum hópum í samfélaginu, spilla lýðræðislegri umræðu eða reyna að hafa áhrif á úrslit kosninga. Markmiðið getur jafnvel verið að þyrla upp ryki til að trufla lýðræðislega ákvarðanatöku í ákveðnum málum. Í Bandaríkjunum eru vangaveltur um það hvaða áhrif gervigreind og upplýsingaóreiða muni hafa í aðdraganda næstu forsetakosninga enda er svo auðvelt og ódýrt að framleiða efni með gervigreind að fyrr en varir verður það alls staðar.

Opin lýðræðisríki varnarlaus gegn áróðursherferðum erlendra ríkja

Vestræn samfélög hafa verið svo til varnarlaus gagnvart þeim aðferðum sem notaðar eru til að draga úr trausti og auka skautun í samfélaginu. Í vestrænum lýðræðisríkjum viljum við verja tjáningarfrelsi, skoðanafrelsi og frjálsa fjölmiðla. En á sama tíma er vel þekkt að óvinveitt ríki og tengdir aðilar reyna að misnota hin opnu lýðræðissamfélög Vesturlanda til að skapa ringulreið og draga úr trausti.

Netið og samfélagsmiðlar hafa skapað umhverfi þar sem raunveruleikinn birtist okkur með öðrum hætti en áður. Þannig beina algóritmar samfélagsmiðla og leitarvéla að okkur klæðskerasaumuðu efni, sem gerir það að verkum að við fáum öll ólíka mynd af samfélaginu sem við búum í. Fréttir og upplýsingar um málefni líðandi stundar eru sniðnar að okkar bergmálshelli. Auðveldara er koma því í kring að mikil athygli og umræða verði um einstök mál, t.d. með því að auka kerfisbundið útbreiðsluna með fölskum notendareikningum, bottum og klæðskerasniðnu efni fyrir hvern og einn. Þessi nýja umræðuhefð grefur síðan smám saman undan trausti og eykur skautun í samfélaginu.

Talað er um ákveðna normalíseringu samfélagsins á framangreindum aðferðum þar sem hagsmunaaðilar nota stundum sömu aðferðir og óvinveitt ríki til að hafa áhrif á skoðanir almennings. Hægt er að kaupa fylgjendur og læk til að auka dreifingu á upplýsingaóreiðu með sömu aðferðum og í markaðssetningu á vörum og þjónustu.

Gervigrasrót og gervigreindarlobbýismi

Nú þegar er auðvelt að búa til gervigrasrót (e. astroturfing) sem dulið getur slóð óvinveittra ríkja sem reyna að spilla samfélagsumræðu og hafa áhrif á lagasetningu. Vandinn er sá að dæmi eru um að stórfyrirtæki og hagsmunaaðilar noti sömu aðferðir til að dylja slóð sína. Þannig vöknuðu grunsemdir um að internetþjónustu fyrirtæki í Bandaríkjunum hafi reynt að hafa áhrif á nethlutleysislöggjöf sem var til umræðu á bandaríska þinginu með því að fjármagna gervigrasrótarherferð með 8,5 milljónum falskra athugasemda til bandarísku fjarskiptastofnunarinnar, FCC. Nöfn einstaklinga voru notuð án þeirra samþykkis til að senda inn umsagnir sem ætlað var að tryggja falskan stuðning við að fella úr gildi lög sem internetþjónustuaðilum var ekki að skapi. Með notkun gervigreindar er auðvelt að sérsníða hverja og eina umsögn og athugasemd. Erfitt getur verið að átta sig á herferðum gervigrasróta, sérstaklega í fjölmennari samfélögum.

Djúpfalsanir verða sífellt trúverðugri

Með tilkomu gervigreindar verður enn erfiðara fyrir almenning að átta sig á því hvort hljóð, myndir og myndbrot séu fölsuð. Hugsanleg framtíðarsviðsmynd eru svikasamtöl þar sem starfsmenn í fyrirtæki fá myndsímtöl frá sínum nánasta yfirmanni, nema það er ekki yfirmaðurinn heldur djúpfölsun á rauntíma sem netglæpamenn stjórna. Með sama hætti þarf ekki nema nokkrar sekúndna hljóðupptöku af mannsrödd til að búa til trúverðuga djúpfölsun á hljóði sem hægt er nota í margvíslegum tilgangi.

Djúpfölsun myndbanda af stjórnmálamönnum í aðdraganda kosninga er svört framtíðarsviðsmynd sem gæti haft veruleg áhrif á niðurstöður kosninga. Haustið 2019 fór djúpfalsað myndband af ítalska stjórnmálamanninum Matteo Renzi í umferð á samfélagsmiðlum á Ítalíu. Myndbandið sýndi Salvini tala illa um hina ýmsu nafntoguðu stjórnmálamenn á Ítalíu. Myndbandið var sýnt í sjónvarpsþætti og birtist fljótt á samfélagsmiðlum án upprunalegs samhengis. Þegar myndbandið fór í dreifingu áttuðu margir notendur sig ekki á því að um háð (paródíu) væri að ræða. Ekki þarf að spyrja að leikslokum ef illur ásetningur hefði legið að baki slíkri birtingu rétt fyrir kjördag í lýðræðisríki.

Eins er ljóst að líkur eru á að gervigreind verði á næstu árum ein stærsta áskorun dómstóla sem leggja þurfa mat á réttmæti og sannleiksgildi mynda, hljóð- og myndbrota við sönnunarfærslu fyrir dómi.

Sannfæringarkraftur gervigreindarinnar

Í rannsókn á vegum Stanford háskóla var markmiðið að kanna hvernig gervigreindinni tækist til við að sannfæra fólk og fá það til að skipta um skoðun í nokkrum pólitískum hitamálum. Í ljós kom að gervigreindin stóð sig vel, reyndar svo vel að henni tókst að sannfæra lesendur til jafns við röksemdafærslu sem skrifuð var af mönnum. Ýmist var lesinn texti sem gervigreind bjó til eða texti sem menn skrifuðu. Lesendur voru spurðir út í afstöðu sína til málefnisins bæði fyrir og eftir að búið var að lesa röksemdarfærsluna. Þannig gátu rannsakendur séð hversu vel röksemdafærsla gervigreindar og manna virkuðu á lesendur og hvers vegna.

Niðurstaða rannsóknarinnar var sú að röksemdir gervigreindarinnar væru sannfærandi fyrir lesendur og þrátt fyrir að áhrifamátturinn væri almennt ekki mikill gætu slíkar röksemdir haft áhrif í umdeildum málum og á kjósendur í aðdraganda kosninga. Þá kom fram að lesendur töldu röksemdafærslu gervigreindarinnar rökréttari og byggja frekar á staðreyndum en texti sem menn skrifuðu. Jafnframt töldu lesendur texta gervigreindarinnar sýna minni reiði og hann þótti síður byggja á sögusögnum og ýmsum þekktum aðferðum til að að sannfæra lesendur.

Vitum við hvað er rétt og satt?

Í því felst meiri háttar áskorun þegar almenningur á erfitt með að staðreyna hvað sé satt og rétt og hverju má trúa. Það er líka umhugsunarvert að gervigreind geti haft jafnmikil áhrif á skoðanir almennings í umdeildum málum og athugasemdir raunverulegs fólks, eins og rannsóknir hafa sýnt fram á. Ekki síst þar sem efni sem gervigreind framleiðir verður líklega mikill meirihluti efnis á internetinu innan tíðar. Í slíku umhverfi verður erfitt að viðhalda trausti, en traust er einn af hornsteinum lýðræðis. Raunar er traust manna í millum talið vera svo mikið á Norðurlöndunum að talað er um „hið norræna gull“ sem hægt er að meta til fjár enda lækkar það verulega viðskiptakostnað í norrænum samfélögum. Það verður því sérstök áskorun fyrir Norðurlöndin að viðhalda trausti og koma í veg fyrir skautun sem óhjákvæmilega fylgir þessum samfélagsbreytingum.

Í dag fjallar Ian MacMullen, prófessor við Háskólann í Pennsylvaníu, um falsfréttir og stöðu stjórnmála í lýðræðisríkjum á málþingi sem nefnist „Falsfréttir og stjórnmál eftirsannleikans“. Meðal annars mun hann fjalla um tæknimiðað upplýsingakerfi nútímaríkja og að oft sé litið fram hjá þeim möguleika að fólk geti meðvitað kosið að trúa falsfréttum og boðskap þeirra. Málþingið er haldið í Þjóðminjasafninu kl. 13.00 – 14.30 á vegum Alþjóðamálastofnunar Háskóla Íslands, bandaríska sendiráðsins og Fjölmiðlanefndar og er öllum opið.

Höfundur er framkvæmdastjóri Fjölmiðlanefndar.