Artikel

Undgå at menneskeliggøre AI, når du taler med elever

Af punktet ”sproglig opmærksomhed” i læreplanen for teknologiforståelsesfaget (2019-versionen) fremgår, at eleverne i løbet af teknologiforståelsesfaget skal bevæge sig fra hverdagssprog til it-fagsprog. Heri ligger der i selve den hverdagslige måde, vi alle sammen er tilbøjelige til at italesætte kunstig intelligens, en særlig udfordring.

Vi taler nemlig tit om chatbots på en måde, der menneskeliggør dem, og som dermed slører deres natur. Det modarbejder direkte kernesubstansen i teknologiforståelsesfaget: At være et almendannende it-fag, som giver forståelse og indsigt i design og programmering af digitale produkter, og som forbereder eleverne til at begå sig som reflekterende og kritiske unge digitale borgere i samfundet. Der er derfor en klar fagdidaktisk pointe i, at vi som lærere også vænner os selv til at italesætte teknologi og teknologiske processer på en måde, der støtter elevernes erkendelse.

Antropomorficering af teknologien

Hvis du for eksempel oplever en tilbøjelighed til at sige ”den tror […]”, ”den opdagede […]”, ”den misforstod […]” om din smartphone eller om ChatGPT, er du i færd med sprogligt at konstruere en antropomorficering (at give menneskelige egenskaber) af teknologien, som direkte modarbejder teknologiforståelsen.

Hvis vi omtaler kunstige intelligenser som var de ’som mennesker’, lykkes vi ikke med at anskueliggøre, hvordan kunstig intelligens er forskellig fra menneskelig intelligens, og hvor de har muligheder og begrænsninger, mennesker ikke har.

Hvis du oplever sådan en tilbøjelighed, er det i øvrigt meget forståeligt. Populærkulturen er fuld af fortællinger om cyborgs og kunstig bevidsthed, der skaber en fascinerende men misvisende forståelsesramme i hvilken, maskiner er som mennesker og omvendt. I den forståelsesramme er det ret ligetil at flytte en menneskehjerne (og med den alt, der gør det individ til en person) over i en robotkrop, fordi menneskehjerner og computere blot betragtes som biologiske og teknologiske sider af den samme sag.

Og det hjælper ikke på problemet med antropomorficering, at chatbots er designet til at imitere menneskers sprogadfærd, for at gøre interaktionen med dem mere intuitiv. Således referer ChatGPT til sig selv i 1. person, den henviser til sin programmering og sine begrænsninger, og den er designet til at undskylde i høflige vendinger, hvis man påpeger fejl i dens output.

Sproglige genveje

Desuden er det nærliggende at forestille sig, at vi rent sprogligt skyder belejlige genveje, når vi skal tale om fænomener, som er meget abstrakte eller som vi kun har en overfladisk forståelse af. Vi er tilbøjelige til at sige, at overvågningskameraer kan ”se” os, at Google Alexa ”lytter”, og at software ”ikke forstår, hvad vi vil have den til”. Det giver mening, fordi computere efterhånden i hvert fald på overfladen ligner bevidste, kognitive agenter. Det er simpelthen mindre besværligt at sige ”den tror” end ”den har beregnet, at det er sandsynligt” eller ”ifølge dens parametre”.

Men selvom den slags sproglige genveje er fristende, er de med til at mudre vandene. Kunstige intelligenser er ikke som mennesker. Alt deres output er baseret på probabilistiske beregninger og ikke på tro, vurdering, gæt osv, som er særskilt menneskelige kognitive strategier.

Den forskel er det værd at holde sig for øje i teknologiforståelsesdidaktikken, hvis målsætning er, at elever tilegner sig viden om it’s grundlæggende egenskaber, principper og betydning i samfundet, færdigheder i at identificere etiske problemstillinger i anvendelsen af digitale teknologier og kompetencer til at forholde sig til digitale teknologiers konsekvenser for individ, fællesskab og samfund.