Kunstig intelligens forsterker motsetninger. Dette er en av professor Morten Goodwins største bekymringer med den nye teknologien.

TEMA KUNSTIG INTELLIGENS: Tre eksperter om sine fem største bekymringer knyttet til kunstig intelligens.
I dag: Morten Goodwin

LES OGSÅ: (+) De som bruker AI, vinner kampen om jobbene i framtida – ALTSÅ

Professor i kunstig intelligens ved Universitetet i Agder og nestleder for Centre for Artificial Intelligence Research, Morten Goodwin, mener vi må skjerpe vår kritiske sans fremover. Kunstig intelligente systemer (KI), som ChatGPT, blir primært trent på data fra USA, og algoritmene som mater oss med tilrettelagt innhold kommer med en pris. Vår evne til kritisk tenkning blir en desto viktigere egenskap for fremtiden, understreker han.

Her er hans fem største bekymringer knyttet til kunstig intelligens:

1. De som kontrollerer teknologien

Er det en ting vi skal bekymre oss for, er det hvem som står bak og kontrollerer teknologien vi bruker, mener Goodwin. Han forteller at ChatGPT, en kunstig intelligent teknologi som kan lage tekst basert på vår etterspørsel, hovedsakelig er trent på data fra Vesten og USA.

– Skal vi bruke teknologi som ChatGPT som forfattere eller journalister, så er det den amerikanske kulturen som strømmer gjennom. 

Teknologien som raskt blir en større del av vår hverdag, inneholder dermed verdier og en kultur som ikke samsvarer med vår egen. Goodwin forteller at ettersom ChatGPT er styrt med regler fra USA, så vil det sette en begrensing for hva vi kan spørre den om. Stiller vi for eksempel ChatGPT spørsmål om politiske temaer som er betente i USA, som for eksempel rasisme, vil vi få opp advarsler, og svarene vil være preget av hvordan temaet oppfattes i det amerikanske samfunnet, sier han.

– Og spør vi ChatGPT om middagstips, vil vi hovedsakelig få opp amerikanske middager.

Hvorfor er det en bekymring at én kultur ligger til grunn?

– Når én kultur strømmer gjennom, kan det bety tap av kulturmangfold og en homogenisering av en global kultur hvor unike kulturelle trekk blir utvannet eller forsvinner. Kultur, språk, og normer er tett knyttet sammen, og når én kultur dominerer, kan lokale verdier og normer bli erstattet av de som er fremtredende i den dominerende kulturen.

2. Gammel kjønnsstereotypi i ny teknologi

Goodwin sin andre bekymring er diskrimineringen som skjer med kunstig intelligente verktøy. Teknologien kan videreføre sosiale skjevheter, som for eksempel historiske holdninger til kjønn eller etnisiteter. Han forteller at dette er det lett å finne eksempler på, blant annet med ChatGPT.

– Jeg kan spørre ChatGPT om å skrive en historie om mellomleder og en sykepleier på date, så kan du banne på at mellomlederen er en mann og sykepleieren er en kvinne. Ikke fordi det bør være sånn, men fordi dataene den er trent med er sånn.

Ettersom kunstig intelligente systemer trenes på data fra samfunnet vårt, vil den plukke opp at det historisk sett har vært flest mannlige ledere og flest kvinnelige sykepleiere.

– Det er veldig vanskelig for ChatGPT eller annen kunstig intelligens å forstå at dette er en historisk norm som ikke bør være sånn i fremtiden. 

3. Autonome våpen i høyteknologisk krigføring

Kunstig intelligens er ikke bare en banebrytende teknologi vi bruker i hverdagen vår, men har også blitt prominent i utviklingen av nye våpen. Goodwin er bekymret over investeringen han ser i våpenteknologien, blant annet av land som Kina og Iran. 

– De lager autonome droner som er helt selvstyrte og kan skyte mennesker uten at noen kontrollerer dem. Det betyr at alle terrorister med et mål i sikte, kan lage en drone som et våpen på hjemmekontoret.

– At våpen blir autonomt, at vi som mennesker ikke lenger bestemmer hvem vi skal drepe, men at en robot bestemmer hvem vi skal drepe, er veldig bekymringsverdig.

Terskelen for et menneske å skyte et annet, er ganske høy selv i krig, mener Goodwin. Han er bekymret for hvordan de etiske dilemmaene som mennesker står overfor vil forsvinne i høyteknologisk krigføring.

4. Latskap og mangel på kritisk tenkning

Som professor erfarer Goodwin at studenter bruker kunstig intelligens som ChatGPT i studiene sine. Det er også mange eksempler på dette på grunnskolenivå. Goodwin er ikke bekymret over bruken av kunstig intelligens i skolen, men han er urolig for hvordan den brukes og hva dette gjør med utviklingen av kritisk tenkning. 

– Min bekymring her er at vi ikke bruker det riktig som undervisningsmateriell, men at vi bruker det som en hvilepute. 

Når man ber kunstig intelligens som ChatGPT lage tekster til innleveringer eller til eksamen, er det evnen til kritisk tenkning Goodwin er bekymret for skal forsvinne. 

– Det er veldig enkelt å koble vekk tankeprosessen. Som journalist kan du bare be ChatGPT skrive en artikkel, så får du en ok tekst. Det er mye læring i det å være med på tankeprosessen og skjønne hva som skal skrives – jeg er bekymret for at vi blir late, rett og slett.

I en tid der det florerer av falskt innhold og informasjon i digitale medier, vil kritisk tenkning bli en desto viktigere egenskap for fremtiden. Og å sørge for at vi blir sannferdig informert vil kreve mer av enkeltindividet, understreker Goodwin. Å utvikle vår evne til kritisk tenkning blir derfor en viktigere del av skolegangen.

5. Algoritmer som forsterker det ekstreme

Goodwin er bekymret for algoritmenes påvirkningskraft i en tid der vi konsumerer enorme mengder tilrettelagt innhold, blant annet i sosiale medier. Gjennom algoritmer kan man dyttes i ulike retninger, basert på innholdet man presenteres med.

Er det risiko for at kunstig intelligens er med på å forsterke ekstreme meninger?

– Helt åpenbart. Hvis vi ser på videoer som bekrefter holdninger vi allerede har, og det finnes masse av disse videoene, så blir du mer og mer ekstrem. Jeg vil si at du da kan dyttes til det ekstreme på venstre eller høyre side, eller i hvilken som helst retning, fordi det skaper engasjement i deg.

Med engasjement mener Goodwin det som vekker sterke følelser i oss. Målet til YouTube, TikTok og Instagram er at du skal bli værende der. Det som vekker sterke følelser i oss, gjør at vi engasjerer oss mer. Algoritmene i sosiale medier er derfor styrt av engasjement – kommentarer som vekker sterkest engasjement vil derfor ligge øverst under innlegg i sosiale medier.

– Det kan bety at du får opp hvem som er mest motstandere av utspillet, for eksempel. Og det er jo derfor klimaskeptikere som maser mye i sosiale medier blir synlige, for det skaper litt mer engasjement å være klimaskeptiker enn en som er enig i klimautfordringene.

Så når sånne som Andrew Tate publiserer ekstreme meninger, kan det da potensielt få veldig stor rekkevidde fordi det vekker sterke følelser?

– Ja, siden det vekker sterke følelser så ser folk på det. Når han eller andre presenterer noe ekstremt, så skaper det engasjement, og kunstig intelligens er med på å få det til å blomstre opp. Så aldri i livet om Andrew Tate hadde fått den oppmerksomheten han har i dag for tyve år siden, før sosiale medier og før kunstig intelligens.