Copy/Paste

I løbet af nogle måneder blev ChatGPT-brugerne mere og mere dovne efter hvert essay. De tyede ofte til ren copy/paste fra chatGPT. Undersøgelsen mere end antyder, at brugen af ​​LLM’er faktisk kan skade læring, især for yngre brugere.

Kognitiv gæld
Og så har folkene bag opfundet et godt nyt udtryk: “Kognitiv gæld”. Det er noget, der opbygges, når man bruger systemer som AI til at erstatte processer i hjernen, man selv har gjort før, som brugte man pludselig en protese, selvom det ikke er nødvendigt. Og når man gør det, ja så mister man faktisk noget af evnen til selvstændig tænkning, på samme måde som ens ben visner, hvis man sætter sig permanent i en kørestol uden at være handicappet: “When individuals fail to critically engage with a subject, their writing might become biased and superficial. This pattern reflects the accumulation of cognitive debt, a condition in which repeated reliance on external systems like LLMs replaces the effortful cognitive processes  required for independent thinking.”
Men det bliver faktisk værre endnu efterhånden som den kognitive gæld vokser: Når din evne til selvstændig tænkning falder, er du også nemmere at manipulere og mindre kreativ.

“Cognitive debt defers mental effort in the short term but results in long-term costs, such as diminished critical inquiry, increased vulnerability to manipulation, decreased creativity. When participants reproduce suggestions without evaluating their accuracy or relevance, they not only forfeit ownership of the ideas but also risk internalizing shallow or biased perspectives”.

Børnehave på AI?
Undersøgelsen er endnu ikke blevet fagfællebedømt, og dens stikprøvestørrelse er relativt lille. Men artiklens hovedforfatter, Nataliya Kosmyna, mente, at det var vigtigt at offentliggøre resultaterne fordi hun er bekymret for et samfund, der i stigende grad er afhængig af LLM’er for umiddelbar bekvemmelighed og hvor børn og unges langsigtede hjerneudvikling bliver ofret undervejs.
“Jeg er bekymret for, at en eller anden politiker i løbet af det næste halve år bestemmer sig til, at ‘vi skal lave chatGPT-børnehaver’. Det ville være virkelig slemt og skadeligt! Hjerner der udvikler sig, løber de største risici ved brug af AI”, sagde Nataliya Kosmyna til Time.Og så er der det etiske: