Kan generativ kunstig intelligens opplyse og danne oss?

Fra teknologi til generativ kunstig intelligens

Teknologi er implementerte teknikker som løser konkrete problemer for oss. Først hadde vi verktøy, deretter fikk vi maskiner. Alle maskiner er verktøy, men ikke alt verktøy er maskiner. Uansett, både verktøy og maskiner er eksempler på teknologi. Etter hvert fikk vi implementert kunstig intelligens (KI) i maskinene våre. KI er også bare en form for teknologi, nærmere bestemt digitale datasystemer som løser komplekse problemer for oss, i all hovedsak ved hjelp av statistikk og kategorisering. Maskiner er mer selvstendige enn verktøy, og utviklingen av KI har de siste årene vist oss at de digitale datasystemene vi implementerer i maskinene våre blir mer og mer selvstendige i måten de løser problemene sine. De oppnår større og større grad av autonomi, som her betyr noe i retning av evnen til å holde på og finne ut av ting på egen hånd. Vi har gått fra verktøy til maskiner til kunstig intelligens. Teknologihistorien er en historie om mer og mer autonom teknologi.¹

Inntil nylig var KI et digitalt datasystems evne til å kategorisere allerede eksisterende data, og slik sett svare på spørsmål vi måtte ha – både kjappere og til tider bedre enn oss mennesker. For eksempel: Hvilke sjakktrekk bør jeg ta gitt spillets utvikling så langt? KI regner ut hvilke av de tilgjengelige trekkene mine som mest sannsynlig leder til en vinnerstrategi, alt basert på kategoriseringer av tidligere sjakkspill systemet har sett. Andre eksempler er å finne strukturer i store datamengder (for eksempel riktig person til riktig reklame, eller riktig kandidat til en jobb), for ikke å nevne bilde- og ansiktsgjenkjenning. Det handler i bunn og grunn om det samme, å statistisk sett kategorisere riktig ut ifra tidligere kategoriserte data.

De siste årene har vi sett utviklingen av såkalt generativ kunstig intelligens (GKI).² Kanskje mest kjent eksempel i skrivende stund er ChatGPT, som nådde offentligheten med et pang i 2022. I motsetning til KI som beskrevet ovenfor, som i all hovedsak kategoriserer allerede eksisterende data, så skaper GKI ny data, som ikke allerede eksisterer. Mens vi spør god gammeldags KI om et allerede eksisterende bilde er av meg eller ikke, ber vi nyere GKI om å lage et helt nytt bilde av meg, et bilde som ikke allerede finnes. Det er derfor det kalles generativ KI, fordi det genererer noe nytt som ikke allerede finnes.

GKI kan skape både tekst, bilder, filmer og lyd, men også etter hvert konkrete objekter ved hjelp av 3D-printing. Med andre ord, GKI kan i prinsippet lage stort sett alt vi mennesker lager (dog foreløpig ikke levende barn!³).

Hva gjør slik teknologi med oss mennesker på litt lengre sikt? Hvordan bør vi forholde oss til den? Dette er presserende spørsmål i vår tid, men jeg er her interessert i det mer spesifikke spørsmålet jeg innledet med: Kan generativ kunstig intelligens egentlig opplyse og danne oss?

Fra generativ kunstig intelligens til opplysning og dannelse?

Den beste forståelsen av opplysning, etter min mening, er fortsatt Immanuel Kants definisjon fra 1784: «Opplysning er menneskets uttreden fra dets selvforskyldte umyndighet» (Kant, 2021, s. 135). Å være umyndig handler som regel om å ikke være fullt og helt ansvarlig for sin egen oppførsel. Barn er umyndige på denne måten. De er ikke fullt ut ansvarlige for seg selv. Deler av ansvaret for deres oppførsel ligger hos deres verger. Det er derfor vi ikke straffer barn på lik linje med voksne. Noen voksne blir også umyndiggjort i form av at de får såkalte verger, nettopp fordi de ikke er i stand til å være fullt og helt ansvarlige for sin egen oppførsel. Men voksne som får opprettet en verge for seg, samt barn, er ikke selvforskyldt umyndige. De er bare ikke i stand til å være myndige.

Alle er vi derimot på mange områder selvforskyldt umyndige i form av at vi lar – mer eller mindre frivillig – andre bestemme og ta ansvar for oss. Personlig er jeg for eksempel selvforskyldt umyndig når det kommer til trafikkregler. Jeg har overlatt til andre å både utvikle og begrunne dem, og så prøver jeg bare å følge dem slik jeg blir bedt om uten å stille noen videre spørsmål. Det samme gjelder valg av gardiner hjemme. Jeg har aldri tatt ansvar for det, men latt andre ta det ansvaret på mine vegne. Alle kan lett finne mange forskjellige slike områder hvor de er mer eller mindre selvforskyldt umyndige.

Kants forståelse av opplysning er når vi nettopp trer ut av vår selvforskyldte umyndighet, som betyr at vi bestemmer oss for å selv ta mer eller mindre fullt ansvar for egen oppførsel, bredt forstått. Hvis jeg for eksempel aktivt tar ansvar for mine egne gardiner, blir jeg mer opplyst. Når noen for eksempel ikke lenger bare aksepterer det en ytre autoritet sier, men selv undersøker og kommer frem til hva en skal tro om saken, blir man opplyst. Merk at å være opplyst ikke nødvendigvis betyr at man blir uenig med enhver ytre autoritet, men at man selv tar ansvar for om man er enig eller uenig. For å si det på en annen måte: Hvis presten din sier at Gud finnes, er du ikke opplyst ved å bare akseptere det, men heller ikke opplyst ved å bare motsette deg det. Du er opplyst idet du selv tar ansvar for om du skal akseptere det eller ikke, og kan stå til rette for det du kommer frem til.

Det motsatte av opplysning – å være uopplyst – er selvfølgelig å forbli i ens selvforskyldte umyndighet, ved å for eksempel akseptere en ytre autoritet heller enn å ta ansvar selv. Vi er som sagt alle mer eller mindre uopplyste innenfor mange områder, men som regel, for de fleste av oss, kan vi ta ansvar hvis vi vil, og dermed bli mer opplyste.⁴

Opplysning henger sammen med dannelse. Å være opplyst medfører å være dannet. Begrepet om dannelse stammer fra det tyske begrepet Bildung, og handler om å danne i form av å skape seg selv i et bilde. Et dannet menneske har skapt seg selv i et ønskelig bilde. Men hva slags bilde er ønskelig å skape seg i? Det nærmeste vi kommer et engelsk uttrykk for dannelse, er cultivation. Det handler om å kultivere seg selv som menneske. Men kultivere seg selv i retning av hva?⁵

Det handler selvfølgelig om å perfeksjonere de gode og siviliserte sidene våre, men også, mener jeg, mer spesifikt om å skape seg en god forståelse av forholdet mellom det partikulære og det generelle.⁶ Se for eksempel for deg et dannet middagsselskap. Man spiser med kniv og gaffel, man snakker ikke med mat i munnen, man venter med å snakke til det er sin tur, man sitter til bords til alle er ferdige, og så videre. For å være en ordentlig dannet middagsperson er det ikke nok å bare gjøre alt det ovennevnte pluss litt til. Man må i tillegg forstå hvorfor man skal gjøre alt det. Man må begripe hva poenget med en felles middag er. Det er nemlig ikke bare å spise seg mett, for da kunne vi gjort det hvor som helst. Poenget med en felles middag innebærer også en god del sosiale aspekter, som å knytte bånd og bli bedre kjent. Når man skjønner det, skjønner man også at slike formål er bedre tjent hvis middagen foregår på bestemte siviliserte måter. En dannet person skjønner slik det generelle formålet med en middag, og skjønner gjennom det også poenget med at det skal skje i akkurat dette partikulære middagsmåltidet vi nå spiser. Hen skjønner med andre ord det partikulære ut ifra det generelle. Men ikke nok med det, en ordentlig dannet person låser seg ikke i en bestemt forståelse av det generelle, men evner å justere sin forståelse av det generelle i forhold til den partikulære situasjonen man er i. Hvis for eksempel barna har middagsbesøk, evner en dannet person å justere litt på konvensjoner og bordskikk i akkurat dette tilfellet, slik at middagen fortsatt forblir hyggelig og sosial – altså tjener sitt egentlige formål. Man justerer også sin generelle forståelse over tid, i takt med de generelle trekkene ved de partikulære situasjoner man anvender det på.

Middagsselskap er selvfølgelig bare et konkret eksempel. Dannelse handler slik sett mer generelt om å skape seg et godt forhold mellom partikulære situasjoner og generelle begreper. En dannet person forstår en partikulær situasjon ut ifra et generelt begrep, men justerer også ens generelle begreper etter de partikulære situasjoner. Men, som alltid, alt med måte. Går man for langt i en av retningene, mister man sin dannelse. Hvis man ikke bryr seg om den partikulære situasjonen, men bare forholder seg til det generelle, blir middagen fort uhyggelig. Og hvis man ikke bryr seg om det generelle, men bare forholder seg til det partikulære, blir middagen barbarisk. Ingen av delene tjener vår felles middag.

Dannelse handler med andre ord om evnen til å heve blikket litt, slik at vi igjen evner å fokusere og bedre forstå situasjonene vi er i.

Merk at når vi snakker om å foreta en dannelsesreise, er det akkurat det samme som foregår. For hvorfor drar vi på såkalte dannelsesreiser? Jo, nettopp for å evne å heve blikket slik at vi ser det generelle bedre, slik at vi kan forstå det partikulære bedre, som igjen gjør at vi kan forstå det generelle bedre. Det er derfor vi reiser verden rundt, ser verdenskunsten, leser verdenslitteraturen. Det er derfor vi leser historie. Det gjør at vi ser fellestrekk som gjør at vi bedre forstår partikulære situasjoner vi står i, som igjen gjør at vi bedre forstår fellestrekkene, som igjen gjør at vi bedre forstår de partikulære situasjonene vi står i, og så videre.

Merk at dannelse handler ikke bare om teoretisk overblikk, men like mye om praksis. Å bli et dannet mennesket handler om å heve blikket mot de generelle begrepene, men også om å praktisere det generelle man lærer på partikulære situasjoner. Tenk tilbake på middagsmåltidet vårt. Man blir ikke dannet bare av å lese om middagen som fenomen, man må i tillegg praktisere det man lærer. Øvelse gjør som kjent mester. Dette er blant annet noe Nietzsche (1872/2008) har understreket.

Slik danner vi oss som mennesker, både individuelt og kollektivt. For dannelse foregår ikke bare på et personlig plan, men også på et kollektivt (og til og med statlig) plan, for eksempel gjennom utdanningssystemet vårt. Poenget med utdanningssystemet vårt er å danne oss til bedre individer og samfunnsborgere som har en god forståelse av forholdet mellom det generelle og det partikulære, og evner å utøve det vi lærer i en vekselvirkning mellom de to forholdene. Vi skal med andre ord bli opplyste individer og samfunnsborgere som evner å tenke og ta ansvar selv. Det er et demokratisk ideal.

For akkurat som opplysning henger sammen med dannelse, så henger dannelse sammen med opplysning. Å være dannet medfører å være opplyst. Når du danner deg er du nemlig bedre i stand til å tre ut av din selvforskyldte umyndighet.⁷ Men hva skjer med det idealet når generativ kunstig intelligens (GKI) gjør sin inntreden?

Det å lese, skrive og snakke sammen er tre forskjellige måter å tenke på, som gjensidig styrker hverandre. Det vet alle som har lest litt, diskutert litt og skrevet litt om et tema. Når man skriver en tekst om det man har lest, tenker man helt annerledes om det man har lest etterpå enn om man bare skulle ha lest det. Det samme gjelder når man snakker sammen om noe man har lest. Det å lese, skrive og snakke er tre forskjellige måter å dra tanker ut av seg selv på. Det beste er selvfølgelig å både lese litt, snakke litt og skrive litt om ett og samme tema, hvis man virkelig ønsker å forstå det.

Men hva skjer når vi delegerer skrivingen til en GKI? Da sitter vi igjen med lesing og snakking. Hva skjer så når vi i tillegg delegerer lesingen til et system som skaper lyd fra tekst for oss slik at vi bare kan høre på tekster i stedet for å lese dem? Da sitter vi igjen med snakkingen alene. Dette er selvfølgelig en karikatur, men min hypotese er at jo mer vi bryter triangelet lese–skrive–snakke, jo mer svekker vi evnen vår til å tenke, nettopp fordi de er gjensidig styrkende. Jo mer GKI tar over for en av delene, jo mer svekker vi evnen vår til å tenke selv.

Jeg tipper det ikke er tilfeldig at dannelse og opplysning økte i befolkningen i takt med skrift- og lesekulturen. Spørsmålet fremover er om dannelsen og opplysningen vil opprettholdes, for ikke å si styrkes, når skrift- og lesekulturen svekkes med stadig mer effektiv og generativ KI-hjelp. Dette er et delvis empirisk spørsmål, men merk at i skrivende stund kom for eksempel årets Pisa-undersøkelse ut (for 2022) (Utdanningsdirektoratet, 2023). Den viser at norske tenåringers leseferdigheter (samt regneferdigheter) er på sitt laveste siden begynnelsen av 2000-tallet. Det er forskjell på korrelasjon og kausalitet, men jeg tipper det heller ikke er tilfeldig at leseferdighetene har falt i takt med innføring av digitale verktøy i utdanning, og livet mer generelt. Jo mindre vi må lese, jo mindre leser vi, og jo mindre vi leser, jo dårligere blir vi til å lese. Det samme gjelder skriving. Jo mindre vi må skrive, jo mindre skriver vi, og jo mindre vi skriver, jo dårligere blir vi til å skrive. Øvelse gjør som kjent mester, og uten lesing og skriving går vi som sagt glipp av viktige måter å tenke på.

Hvordan vil GKI bli brukt fremover?

Å spå fremtiden er alltid spekulativt, men vi kan lett se for oss to forskjellige måter GKI muligens blir brukt fremover. På den ene siden skriver vi en tekst som vi deretter ber en GKI om å korrigere eller kommentere på. På den annen side ber vi en GKI om å generere en tekst til oss som vi deretter legger en personlig touch på etterpå. Hvilken av de to måtene å bruke GKI på kommer til å bli mest vanlig? Spesielt i skole og utdanning: Hvilke av de to måtene kommer elever og studenter flest til å følge?

Den første måten innebærer at vi selv gjør et skriftlig arbeid som vi deretter får litt hjelp til, mens den andre måten innebærer at vi delegerer det skriftlige arbeidet til noen andre (i dette tilfellet en GKI) og deretter ser over resultatet. Den første innebærer mer skrivetrening enn den andre. Min hypotese er at jo tidligere vi lar elevene ta i bruk GKI i skolen, jo mer kommer de til å lene seg i retning av den andre måten å gjøre det på, som medfører mindre skrivetrening. For hvis vi ikke må skrive, skriver vi mindre.

Det som er bekymringsfullt med den andre måten å bruke GKI på er at jo mer avhengige vi blir av GKI for eksempel for å skrive en tekst, jo mer avhengige blir vi av en ytre «autoritet» for å skrive en tekst. Siden det å skrive også er en måte å tenke på, blir vi dermed mer avhengig av en ytre «autoritet» for å tenke på den måten. Det er, som vi har sett, det stikk motsatte av opplysning og dannelse! Opplysningskjernen, som vi så ovenfor, er å ikke bare ta en ytre autoritet for gitt (da er vi umyndige), men å ta ansvar selv for det vi mener og gjør (først da er vi myndige). Jo mer avhengige vi blir av GKI, jo mindre opplyst blir vi på akkurat det punktet vi trenger den til. Når det punktet er selve tenkningen, har vi rett og slett i stor grad forlatt opplysning og dannelsesidealene våre.

Det finnes selvfølgelig en slags gyllen middelvei her, hvor vi lærer å skrive (og generere annet materiale) i gjensidig samhandling med GKI, slik at vi styrker hverandre. Men hvor sannsynlig er det? Tenk på Google Maps. Det er ingen gjensidig samhandling der mellom brukeren og kartfunksjonen. Vi bruker Google Maps, og det forteller oss hvor vi skal gå eller kjøre. Det kan lære oss om kortere ruter og veier, men det blir bedre og bedre enn oss til å finne frem, og vi blir dermed mer og mer avhengig av det for å finne frem. Det føles plutselig veldig klønete å ikke bruke Google Maps.

Det er dypt problematisk både for opplysning og dannelsesidealene våre hvis GKI blir bedre og bedre enn oss til å for eksempel skrive. Hvis det er lett tilgjengelig, kommer vi da mest sannsynlig til å bruke det mer og mer, tidligere og tidligere, i vårt forsøk på opplysning og dannelse, og ikke minst i vår praktiske utdanning. Og da blir vi antakeligvis mer og mer avhengige av det for å i det hele tatt skrive noe som helst. Da hører vi bare i praksis på en ytre «autoritet», som er det motsatte av opplysning og dannelse.

For hvorfor skrive selv, spesielt i en travel hverdag, for ikke å nevne en travel skolehverdag med karakterpress, hvis noen andre, eller noe annet, gjør det for oss, helt gratis, både kjappere og bedre enn oss selv? Dette gjelder selvfølgelig ikke bare skriving, men all skapende virksomhet som GKI kan hjelpe oss med, inkludert tegning og musikk.

Spørsmålet om opplysning og dannelse har derfor kanskje aldri vært mer aktuelt enn i våre dager, spesielt i skole og utdanning. For ikke bare mangler det etter min mening krefter til å fremme sann opplysning og dannelse i skolen i dag, i den grad det er for teoritungt fremfor praktisk orientert, men det finnes nå, som vi har sett, også krefter som aktivt motarbeider det, i den grad GKI utfører praksisen for oss.

Hvor blir det av opplysningens og dannelsens praksis i alt GKI-mylderet?