Kommer den digitale utviklingen til å ta knekken på hodet og det kognitive?

Med den industrielle utviklingen kom kroppsforakten. Kommer den digitale utviklingen til å ta knekken på hodet og det kognitive?

Nå har de ulike språkmodellene under den noe misvisende paraplyen «kunstig intelligens» fått virke en stund. Jeg er fremdeles spent på hvordan dette vil forme skolehverdagen vår, men også yrkeshverdagen generelt. De optimistiske bruker ord som «transformasjon» om hvordan denne nye digitale kraften vil forme livene våre, mens mange av de som står nær utformingen av den, kaller det en disrupsjon, en forstyrrende kraft, som vil skiple mange av de arbeidsmåtene vi har i dag, eller som internett forklarer det: «en radikal endring av en eksisterende industrier eller et eksisterende marked på grunn av teknologisk innovasjon.»

Det å imitere og nærme seg menneskelig intelligens gjennom teknologi har alltid vært en slags hellig gral for teknologiutviklingen. Det er dermed ikke sagt at konsekvensene av den teknologiske utviklingen er gjennomstenkte eller gunstige for den menneskelige utviklingen.

For det første har vi jo i alle tider fra Spinning Jenny sett at for den jevne mann og kvinne har ikke teknologisk utvikling gjort at man kan jobbe mindre, bare annerledes. Besparing av menneskelig muskel- og hjernekraft har først og fremst først til profittmaksimering for de som eier bedriften. Vi kan regne med en forråelse av arbeidslivet, der aktiv bruk de nye språkmodellene blir et konkurransefortrinn som skaper enda mer uforutsigbarhet i arbeidslivet. Vil du være med så heng på, og den arbeidsgiver som klarer å spare stillinger gjennom denne teknologien kommer selvfølgelig til å gjøre det, for å tjene penger og holde bedriften gående.

Språkmodellene skaper tvil, ikke tillit

Det som skremmer meg mest som lærer, er at de nye språkmodellene tilfører tvil. Tvil om ekthet, tvil om sannhet, tvil om pålitelighet til alt vi henter ut av internett. Teknologien hadde allerede før disse språkmodellene gitt oss deep fake, forfalskede bilder og filmer som det så å si er umulig å avsløre for menigmann.

Det gir oss jo en viss underholdning når du ser et livaktig filmklipp der Julie Andrews sin kropp danser rundt og synger i Alpene med Arnold Schwarzeneggers hode og stemme, men det forteller deg også at du kan faktisk ikke ha tillit til det du ser på nettet. Teknologien kan brukes til å forfalske, bløffe og forføre i grenseløse omfang, og med disse nye språkmodellene blir oppskriftene på slik forfalskning gjort tilgjengelig for alle.

I skriftlig kommunikasjon med språkmodellene får vi plausible og velartikulerte svar, men foreløpig er de rigget sånn at der de ikke finner svar, går de rundt grøten eller lyver. Det er også lagt inn etiske sperrer med et politisk korrekt verdisett i bunn, slik at alt ikke blir svart på. ChatGPT ser for eksempel ikke ironien i Swift sin tekst A Modest Proposal, der det foreslås at fattige familier kan selge sine barn som mat for de rike.

Les også: Kunstig intelligens utfordrer kritisk tenkning og demokrati

Det finnes tusenvis av tekster som leker med meningsnivåer, som ChatGPT ikke forstår, og som de derfor vil gi misvisende svar om. Jeg og en kollega spurte også ChatGPT om den kunne lage en liste på ti fiktive land, som kunne vært på det afrikanske kontinent. Det nektet den, med henvisning til at det kunne være støtende. Det samme gjaldt fiktive land som kunne vært i Sør-Amerika. Europeiske land derimot, var det ingen problem å få forslag på. Det er jo kanskje mest lattervekkende, men man kan jo se for seg en polarisering, der vi får språkmodeller med polariserte verdisett, en kunstig intelligens for høyresida og motsatt.

På et dypere nivå er jeg bekymret for skjebnen til det genuint menneskelige. Med den industrielle revolusjonen begynte for alvor kampen mot det manuelle arbeid. Bruken av kroppen for å brøfø seg har fått et stadig dårligere rykte, og spesialiseringen og industrialiseringen har økt avstanden vår til naturgrunnlaget år for år.

I et spesialisert samfunn skal du helst kunne dine spesialiserte oppgaver, og betale andre spesialister for å utføre sine spesialiserte oppgaver. Vi blir stadig mer fremmedgjorte fra helt trivielle praktiske oppgaver, og får vi et problem i heimen er det rett på nettet for å finne nærmeste spesialist. Vi har heller ikke noe nært forhold til naturen, men må skape det gjennom å kalle det «friluftsliv», til forskjell fra det vanlige livet.

Det å bruke hele kroppen har blitt en luksusaktivitet på fritida, og en skam i arbeidstida. For å forskjønne det hele, blir mange manuelle jobber utendørs kalt «grønne jobber», dvs. lavt betalte jobber der du ikke kan gjøre all verdens skade på miljøet. Arbeidsneven har blitt erstattet med silkepoter, og de praktisk-estetiske fagene i skolen har følgelig i altfor mange år ikke blitt tatt alvorlig. «Hva skal jeg med dette, jeg skal jo bli (sett inn høyt betalt jobb foran en skjerm)?»

Med denne kunstige intelligensen er det imidlertid den menneskelige kognisjon som er truet. Først røk hånden, nå ryker ånden.

Språkmodellene kan allerede brukes til å utføre hauger av arbeidsoppgaver som sparer oss for tenking og rutinearbeid. Kanskje vi trenger rutinearbeidet og tenkingen, slik at vi vet hva vi holder på med? Det individuelle ansvaret for hva man gjør i arbeidstiden er ikke noe som plutselig forsvinner, det nytter ikke å skylde på en lyvende Chatbot når avføringen treffer lufteanlegget på fullt innsug. Vi har allerede satt vekk mye av hverdagstenkingen til all verdens apper og programmer. Hvem av oss over en viss alder har ikke opplevd at butikkpersonale må frem med kalkulator på selv helt enkle regnestykker?

Forskere advarer

Når kunstig intelligens er en del av beslutningsprosesser på alle nivåer i samfunnet, kan det gå skikkelig galt. Tor W. Andreassen, professor i innovasjon ved Norges Handelshøyskole sier i et innlegg i Bergens Tidende: «Risikoen for at KI gjenskaper menneskelige beslutningsprosesser med alle våre feilslutninger og blir brukt til skadelige formål, er en god grunn til bekymring.» Han etterlyser kontroll og lovregulering, og minner oss på noe alle egentlig vet: Utviklingen er ikke primært for å tjene menneskeheten, men å tjene penger. Professor Andreassen skriver videre: «Videre viser en studie fra IDC at omfanget av investering i KI og kognitiv teknologi vil overstige 300 milliarder dollar i 2026. At utviklingen primært drives av private virksomheter uten regulering, er grunn til bekymring.» Dette er ord fra en som arbeider med innovasjon, så jeg velger å feste en viss lit til det han sier, og deler uroen fullt ut. Jeg tror faktisk estimatet hans er for lavt.

På E24 leser vi om Geoffrey Hinton, som etter å ha arbeidet med kunstig intelligens i femti år, slutter i industrien for å advare om farene: «Geoffrey Hinton mener det vil være vanskelig å regulere kunstig intelligens fordi det er vanskelig å kontrollere om et selskap eller land utvikler teknologien, ifølge Nytimes. Håpet er at forskere samarbeider om måter å kontrollere teknologien på. Hinton er først og fremst bekymret for at kunstig intelligens vil fylle internett med falske bilder, videoer og falsk informasjon, slik at vanlige folk ikke vil forstå hva som er sant eller ei.»

Det er altså ikke bare en halvgammel norsklærer med støvete bøker og tilårskomne LP-plater som frykter at stabiliteten i kunnskapsarbeid, kommunikasjon og formidling skal skiples med denne nye teknologien. Som forholdsvis aktiv bruker av digitale verktøy, ville det være skikkelig kjipt om kunstig intelligens gjør at vi må stole enda mindre på skrift, bilde eller film som vi finner på internett. Om området kunstig intelligens viser seg helt umulig å regulere, vil det gi et enormt tilbakeslag for den gode digitale utvikling som vi alle nyter godt av.

Som lærere kommer den tiden vi sparer med en språkmodell til å gå i et stort mistenksomhetens sluk, der vi i langt større grad må bruke tid til å ettergå pålitelighet i elevproduktene. I verste fall må alt læringsarbeid flyttes inn i skolen, der arbeidet må overvåkes for å sikre autentisitet i det som gjøres. Vi kan ikke la fusk bli den nye normalen, og ende opp med en dørgende kjedelig hverdag, der vi sitter og utformer «prompts», eller spørsmål, til en språkmodell som saumfarer nettet etter eksisterende setninger som er plausible svar. Vi er allerede høykonsumenter av tanker produsert utenfor oss selv, og setter vi vekk alt vi kan av kunnskapsarbeid til håndholdt elektronikk, tror jeg det er fordummende og fremmedgjørende heller enn utviklende.

Kommunikasjon fra menneske til menneske er den viktigste kommunikasjonen. elv om den ikke alltid er perfekt, rask, korrekt og rett formulert, er den i alle fall vår. Som lærer er elevens læring det viktigste for meg, ikke kontroll, men med kunstig intelligens i frislepp mister vi likevel en kontroll som vi trenger å ha, nemlig kvalitetskontroll. Uten den blir bare sannhet relativisert ytterligere i retning av personlig mening, og argumentasjon ytterligere i retning av slagord og reklame. Og da forsvinner den faste grunnen under beina på oss.