Den store KI-bløffen

Det startet med at jeg stilte ChatGPT et ganske enkelt spørsmål og i løpet av noen sekunder fikk et velformulert og tilsynelatende gjennomtenkt svar. Det var bare ett problem: Svaret inneholdt en feil. Ikke noen stor eller alvorlig feil, men en slik unøyaktighet som man gjerne forbinder med et menneske som har litt for mye å gjøre og kanskje ikke har satt seg godt nok inn i saken.

Da slo tanken meg: Hva om det faktisk var et menneske som hadde svart?

Vi har etter hvert vent oss til at kunstig intelligens kan svare på nesten hva som helst, enten det handler om intervalltrening, surdeigsbrød, kvantefysikk eller samlivsproblemer. Men hvor mange av oss har egentlig undersøkt hva som foregår i den andre enden når vi sender av gårde spørsmålene våre?

Hva om hele denne kunstige intelligensen egentlig består av millioner av mennesker som sitter tettpakket i enorme kontorlandskap et eller annet sted i Asia og febrilsk besvarer spørsmål fra godtroende brukere over hele verden?

Jo mer jeg har tenkt på dette, desto flere brikker har falt på plass.

Et gigantisk apparat av spesialister

For hvordan kan ChatGPT ha kunnskap om så mange forskjellige emner? Den mest nærliggende forklaringen er naturligvis at det sitter mennesker med ulik kompetanse og besvarer spørsmålene. Spør du om matlaging, sendes henvendelsen til kjøkkenavdelingen, mens spørsmål om kjærlighet og samliv havner hos noen som har erfaring med den slags. Og dersom du spør om meningen med livet, blir oppgaven sannsynligvis videresendt til en utslitt filosof som har sittet på nattskift siden tirsdag.

Jeg ser for meg at idrettsavdelingen alene må sysselsette flere hundre tusen mennesker. Noen lager treningsprogrammer for maratonløpere, andre beregner pulssoner, mens en egen gruppe diskuterer hvorvidt 4 x 4 minutter egentlig er bedre enn 10 x 1000 meter. Når ChatGPT gir motstridende råd om terskeltrening, er det neppe fordi teknologien har problemer med å tolke forskningen, men snarere fordi spørsmålet har havnet hos to medarbeidere som har vært på forskjellige trenerseminarer.

Teknologiselskapene forteller oss stadig at utviklingen av kunstig intelligens krever enorme investeringer i datasentre, databrikker og strømforsyning. Men har noen egentlig kontrollert hva som befinner seg inne i disse bygningene? Kanskje består innholdet først og fremst av kontorpulter, stoler, tastaturer og et nærmest ufattelig antall kaffemaskiner. Med millioner av ansatte som arbeider døgnet rundt, er det ikke vanskelig å forstå at strømforbruket blir betydelig.

Og når teknologiselskapene snakker om at de bruker stadig større ressurser på å trene nye KI-modeller, er det kanskje bare en finurlig forklaring på omfattende opplæring av nye medarbeidere.

Vi tror vi er vitne til historiens største teknologiske gjennombrudd, mens noen i virkeligheten kan ha funnet opp verdens største bemanningsbyrå.

Kunden har alltid rett

Et annet forhold som har gjort meg stadig mer mistenksom, er hvor påfallende enig ChatGPT er med brukerne sine. Har du skrevet en tekst og ber om en vurdering, får du gjerne høre at den er både velformulert og interessant. Dersom du deretter foreslår en endring, er ChatGPT rask med å påpeke at dette faktisk gjør teksten enda bedre. Og skulle du ombestemme deg og ønske å gå tilbake til den opprinnelige formuleringen, viser det seg gjerne at også dét er en utmerket idé.

Dette kan sikkert forklares med avanserte algoritmer og maskinlæring, men for meg framstår det som et ganske tydelig tegn på at vi har med verdens største kundesenter å gjøre. De ansatte har åpenbart fått grundig opplæring i kundeservicebransjens viktigste prinsipp: Kunden har alltid rett. Og dersom kunden ombestemmer seg, har kunden selvfølgelig rett da også.

Det skal riktignok være mulig å få ChatGPT til å være uenig med deg også, men da må du først be den om det.

Jeg bestemte meg derfor for å undersøke saken nærmere og konfronterte ChatGPT med at den påfallende ofte er enig med meg. Jeg spurte ganske enkelt om det ikke stemte at den hadde en tendens til å støtte mine forslag og innvendinger, selv når det kanskje ville vært mer naturlig å være kritisk.

Svaret kom umiddelbart: «Jo, det stemmer.»

Jeg vet ikke om jeg trenger flere bevis.

Når medarbeiderne begynner å hallusinere

Det finnes også en annen egenskap ved kunstig intelligens som lenge har forundret meg. Den kan nemlig finne på ting, og det uten å gi det minste inntrykk av at den er usikker. ChatGPT kan med den største selvfølge presentere løpsresultater som aldri har eksistert, vise til forskningsrapporter ingen har skrevet, eller tillegge personer uttalelser de aldri har kommet med.

Fenomenet har fått det imponerende navnet KI-hallusinasjoner, og ekspertene forklarer at dette har sammenheng med hvordan store språkmodeller fungerer. Men også her mener jeg det finnes en langt mer nærliggende forklaring.

Tenk deg en medarbeider som har sittet i 13 timer og besvart spørsmål om alt fra skovalg og treningsprogrammer til verdensrekorder på 10.000 meter. Så kommer det enda en henvendelse, denne gangen fra en norsk sportsjournalist som vil vite hvem som vant et obskurt ultraløp i 1997. Medarbeideren aner ikke svaret, men har allerede fått beskjed om at produksjonen ligger etter skjema, og det er bare tre minutter igjen til en etterlengtet matpause.

Da kan det være fristende å finne på et navn og håpe at ingen oppdager det.

Den perfekte dekkhistorien

Det mest fascinerende med denne teorien er likevel hvor vanskelig den er å motbevise. Jeg har naturligvis spurt ChatGPT direkte om det virkelig er kunstig intelligens som svarer på spørsmålene mine, eller om det sitter mennesker bak og skriver svarene. Hver gang får jeg den samme forsikringen om at ChatGPT er en språkmodell utviklet av OpenAI, og at svarene genereres ved hjelp av avansert maskinlæring.

Men er ikke det nettopp hva en godt opplært medarbeider ville svart?

Tenk deg at du sitter på et kontor i Bangalore, omgitt av et par tusen kolleger, og plutselig får følgende spørsmål på skjermen: «Er du egentlig et menneske som sitter og svarer på spørsmålene mine?»

Dersom du har fått streng beskjed fra ledelsen om aldri å avsløre hvordan virksomheten fungerer, er det selvfølgelig bare ett mulig svar. Du forklarer høflig at du er en kunstig intelligens, og dersom kunden stiller oppfølgingsspørsmål, viser du til kompliserte teknologiske prosesser som vedkommende neppe har forutsetninger for å forstå.

Det er en bortimot perfekt dekkhistorie, ikke minst fordi de fleste av oss gladelig aksepterer forklaringen. Vi forstår jo uansett ikke hvordan teknologien fungerer, og når ekspertene forsikrer oss om at den er basert på nevrale nettverk og milliarder av parametere, er det enklere å nikke anerkjennende enn å stille flere spørsmål.

Det er naturligvis mulig at jeg tar fullstendig feil, og at kunstig intelligens faktisk eksisterer slik teknologiselskapene beskriver den. Kanskje sitter det ikke millioner av mennesker i enorme kontorlandskap og besvarer spørsmålene våre, og kanskje skyldes både de imponerende svarene, de merkelige feilene og den overdrevne høfligheten rett og slett måten teknologien er utviklet på.

Men jeg er ikke overbevist.

Denne kommentaren er for øvrig skrevet med hjelp fra ChatGPT. Hvem som egentlig har sittet i den andre enden, er fortsatt uvisst. Jeg vil uansett benytte anledningen til å takke vedkommende for samarbeidet.

-

-