Indlæg

AI skader vore hjerner: Stop op og tænk?

Et stort forskerhold fra MIT har undersøgt en gruppe elevers hjerner mens de skrev en stil. En gruppe brugte en LLM, Large Lanquage Model=en AI fra chatGPT, en anden måtte søge på Google og de sidste skrev uden hjælp. 

Undersøgelsen delte 54 forsøgspersoner – 18 til 39-årige fra Boston-området – op i tre grupper og bad dem om at skrive adskillige ‘SAT-essay’s, det der svarer til en dansk stil i gymnasiet.

Forskerne brugte en EEG(hjernescanner) til at registrere forfatternes hjerneaktivitet og de fandt ud af, at af de tre grupper havde ChatGPT-brugere den laveste hjerneaktivitet og “konsekvent underpræsterede på neurale, sproglige og adfærdsmæssige niveauer.” 

Copy/Paste

I løbet af nogle måneder blev ChatGPT-brugerne mere og mere dovne efter hvert essay. De tyede ofte til ren copy/paste fra chatGPT. Undersøgelsen mere end antyder, at brugen af ​​LLM’er faktisk kan skade læring, især for yngre brugere.
Screenshot fra undersøgelse af AIs effekt på børn og unge.

Kognitiv gæld
Og så har folkene bag opfundet et godt nyt udtryk: “Kognitiv gæld”. Det er noget, der opbygges, når man bruger systemer som AI til at erstatte processer i hjernen, man selv har gjort før, som brugte man pludselig en protese, selvom det ikke er nødvendigt. Og når man gør det, ja så mister man faktisk noget af evnen til selvstændig tænkning, på samme måde som ens ben visner, hvis man sætter sig permanent i en kørestol uden at være handicappet: “When individuals fail to critically engage with a subject, their writing might become biased and superficial. This pattern reflects the accumulation of cognitive debt, a condition in which repeated reliance on external systems like LLMs replaces the effortful cognitive processes  required for independent thinking.”
Men det bliver faktisk værre endnu efterhånden som den kognitive gæld vokser: Når din evne til selvstændig tænkning falder, er du også nemmere at manipulere og mindre kreativ.

“Cognitive debt defers mental effort in the short term but results in long-term costs, such as diminished critical inquiry, increased vulnerability to manipulation, decreased creativity. When participants reproduce suggestions without evaluating their accuracy or relevance, they not only forfeit ownership of the ideas but also risk internalizing shallow or biased perspectives”.

Børnehave på AI?
Undersøgelsen er endnu ikke blevet fagfællebedømt, og dens stikprøvestørrelse er relativt lille. Men artiklens hovedforfatter, Nataliya Kosmyna, mente, at det var vigtigt at offentliggøre resultaterne fordi hun er bekymret for et samfund, der i stigende grad er afhængig af LLM’er for umiddelbar bekvemmelighed og hvor børn og unges langsigtede hjerneudvikling bliver ofret undervejs.
“Jeg er bekymret for, at en eller anden politiker i løbet af det næste halve år bestemmer sig til, at ‘vi skal lave chatGPT-børnehaver’. Det ville være virkelig slemt og skadeligt! Hjerner der udvikler sig, løber de største risici ved brug af AI”, sagde Nataliya Kosmyna til Time.Og så er der det etiske:

‘Regarding ethical considerations, participants who were in the Brain-only group reported higher satisfaction and demonstrated higher brain connectivity, compared to other groups. Essays written with the help of LLM carried a lesser significance or value to the participants, as they spent less time on writing, and mostly failed to provide a quote from theis essays.
Human teachers “closed the loop” by detecting the LLM-generated essays, as they recognized the conventional structure and homogeneity of the delivered points for each essay within the topic and group.
We believe that the longitudinal studies are needed in order to understand the long-term impact of the LLMs on the human brain, before LLMs are recognized as something that is net positive for the humans’

Link til undersøgelsen: https://arxiv.org/pdf/2506.08872v1

AF-LÆRING: GENERATIV AI DEGENERERER DANNELSEN

“Using AI is not about communicating. It’s about avoiding communicating. It’s about not reading, not writing, not drawing, not seeing. It’s about ceding our powers of expression and comprehension to digital apps that will cushion us from fully participating in our own lives.

Generative AI use is degenerative to literacy”

Sådan skriver Miriam Reynoldson i sit essay: “Against AI literacy: have we actually found a way to reverse learning?”
Styrelsen er fuldkommen enige. AIs essens er menneskefjendsk og handler om få os til at holde op med at gøre menneskelige ting som at læse, skrive, tegne og se.

SÅ: Gå ud i verden og gør nogen menneskelige ting, start for eksempel med at sende os en tegning af en computer, tegn hvordan du ser en kunstig intelligens eller noget andet digitalt, så vi kan få analogiseret denne diffuse del af verden og få sat den på plads.

Læs hele essayet her: https://themindfile.substack.com/p/against-ai-literacy-have-we-actually?trk=feed_main-feed-card_feed-article-content

CHAPLIN: Vi har mere brug for menneskelighed end maskiner

Charlie Chaplins sidste ord i hans ikoniske film fra 1940, ‘Den store diktator’, klinger anderledes dybt, ja, desperat og nødvendigt, i dag. Klik på billedet for at høre ham tale.

Greed has poisoned men’s souls, has barricaded the world with hate, has goose-stepped us into misery and bloodshed. We have developed speed, but we have shut ourselves in. Machinery that gives abundance has left us in want. Our knowledge has made us cynical. Our cleverness, hard and unkind.

We think too much and feel too little.

More than machinery we need humanity.

More than cleverness we need kindness and gentleness.

Without these qualities, life will be violent and all will be lost…”

Fat det nu: Vi er mennesker – ikke computere!

Psykolog Robert Epstein har skrevet et fremragende essay om, hvorfor det er en fatal fejl at blive ved med at sammenligne mennesker med computere. Læs det!

We are organisms, not computers. Get over it. Let’s get on with the business of trying to understand ourselves, but without being encumbered by unnecessary intellectual baggage. The IP metaphor has had a half-century run, producing few, if any, insights along the way. The time has come to hit the DELETE key.

LINK: https://aeon.co/essays/your-brain-does-not-process-information-and-it-is-not-a-computer

GUIDE: Kreativ og træt af lusket AI, der stjæler dine ting? Gå til modstand!

Det er almindeligt anerkendt, at kunstig intelligens i dag på kriminel vis er trænet på rigtige kunstneres billeder, tekster og musik, og at firmaerne bag tilsyneladende er fuldkomment ligeglade med copyright, ‘Droit Moral’ og almindelig anstændighed – de gider ikke engang spørge først før en computer med en large language model kopierer indholdet og forvansker det med en algoritme, så det kan sendes ud til andre, uden at ligne originalen alt for meget.

Resultatet er, at mennesker, der normalt ikke ejer talent til at skabe musik, tekst eller billeder, nu ved hjælp af en computer kan lave noget, der ligner rigtig kunst, men som ikke er det, fordi der ikke ligger nogen kunnen, erfaring, søgen eller talent bag til andet end at taste en ‘prompt’ ind i en chatbot, en færdighed, der i sværhedsgrad og intellektuel kunnen svarer til at kunne starte opvaskemaskinen eller tænde for sit fjernsyn.

Demokratisering eller protese?
Tilhængere af AI mener det er et fremskridt, en demokratisering af kunsten. Analogiseringsstyrelsen ser det som en hån og en forbrydelse mod den menneskelige skabelse, baseret på groft tyveri fra mennesker, der selv har gjort en indsats. Kunstnere, illustratorer, journalister, musikere og radioværter oplever allerede i dag, at det, de kunne, og som har været deres passion og levebrød, nu i princippet kan gøres af kopierende maskiner, trænet på deres arbejde. Formålet med det hele synes at være en blanding af flad fryd – en ‘det kan da ikke være så svært-det kan jeg da også gøre’ kombineret med simpel, benhård kapitalisme: Når der eksisterer et nærmest gratis alternativ til det, der før kostede timeløn til mennesker, ja så er det jo nemt at vælge hvad man foretrækker, hvis man går efter mere profit?

Resultatet af disse bevægelser udi det kunstige som det nye naturlige er en forfladigelse, en gennemsnitliggørelse af vores verden, der som bekendt er bestemt til at være skøn, men end ikke det kan det digitales ypperstepræster unde os.

Studie i gemenhed
En af de mest kendte modstandere af AI til ‘skabelse’ er japanske Studio Ghibli og tegneren Hayao Miyazaki, der har sagt dette om AI: ‘Jeg vil aldrig bruge det i mit arbejde. Jeg føler meget stærkt, at det er en fornæmelse mod selve livet‘. Ordene falder i en dokumentarfilm, hvor Hayao Miyazaki præsenteres for et AI-skabt monster. Han spørger skaberne hvad de dog vil med det og svaret lyder: Vi vil lave en maskine, der kan tegne ligeså godt som mennesker. Hayao Miyazaki svarer kun: Nå! Nu har OpenAI, dem med chatGPT, simpelthen trænet deres software på hans værker, uden at spørge om lov, så man kan bede om en tegning efter eget ønske i ‘ghibli-style’, noget der allerede nu oversvømmer sociale medier i udlandet – og i Danmark.

Når du møder en af dem, der i ramme alvor siger: Jamen jeg kan jo ikke selv tegne noget, så jeg er nød til at bruge AI, så giv vedkommende tre små råd: 1. Prøv at tegne noget uanset. 2. Lær nogen at kende, der kan og spørg om de vil hjælpe 3. Betal en professionel? Analogiseringsstyrelsen minder om, at de, der bruger en AI til illustrationer, ikke er et hak bedre end de, der stjal Hayao Miyazakis værker. De fortjener udskamning og at blive ignoreret.

Slå igen!
Men man kan faktisk gøre lidt. Man kan beskytte sine værker ved at gøre dem GIFTIGE for AI – og her er lidt værktøjer til at gøre netop det:

Metoden i alle understående links er stort set den samme, man ‘forgifter’ et billede eller et stykke musik med usynlige data, som kun AI kan se. Disse data er ubrugelige eller får en AI til at ‘se’ noget andet, end det er, hvilket ødelægger eller i hvertfald forstyrrer modellen. Hvad angår hele websites kan man sende en AI-robot på en formålsløs rundtur i en labyrint, den ikke kan finde ud af igen…

NB: Vi har endnu ikke testet disse værktøjer til bunds – men det virker lovende og analogiseringsstyrelsen kører selv med NightShade på nogle af vores billeder, så en AI får dem galt i halsen, ligesom vi er igang med at indføre en AI-robot labyrint, til de plagsomme og tyvagtige maskiner, der kravler rundt på internettet dag og nat.
SÅ: Hermed en ADVARSEL: check hvad du gør og læs forklaringerne grundigt før du går igang!

MUSIK: https://mosis.eecs.utk.edu/harmonycloak.html
WEBSITEShttps://www.altusintel.com/public-yycp65/  tricket er, at få en AI-robot til at løbe i cirkler og ikke få nogen data – her er programmet: https://zadzmo.org/code/nepenthes/ 
BILLEDER: https://nightshade.cs.uchicago.edu/whatis.html | https://tzovar.as/algorithmic-sabotage-ii/
VIDEO: Digital Tar Pits – How to Fight Back Against A.I.
MANIFESTER: Manifesto on “Algorithmic Sabotage”
ANDRE SAMLINGER: https://codeberg.org/wimvanderbauwhede/low-carbon-computing/src/branch/master/anti-AI-tools.md

Her er en video med en musiker, der fortæller hvad man er oppe imod – og hvad man kan gøre med Harmonycloak! (klik på billedet)

Vi hører meget gerne om flere værktøjer og om dine erfaringer med at holde kunstig intelligens ude af dit liv og istedet beskæftige dig med IA, Intelligent Analogisering.

Analoge undervisningsformer er fremtiden

Klasseledelsesforsker Dorthe Aagaard skriver om hangen til at afskaffe alt, der er gammelt i folkeskolen, i Skolemonitor:

‘Det gennemgående argument er, at skolen skal forberede eleverne på en verden, hvor GenAI eksisterer: Både undervisning og eksamen skal ligge tæt op ad virkeligheden uden for skolen, og derfor skal GenAI bruges i skolen.

Heraf følger så, at analoge former er gammeldags og overflødige. »Det er meningsløst at prøve at gøre gymnasierne analoge«, som man kan læse i Uddannnelsesmonitor.

Lad det være sagt med det samme: Selvfølgelig skal gymnasiet lære eleverne at håndtere og forholde sig til mulighederne i GenAI.

Men analoge læremidler, arbejdsformer og prøveformer er ikke meningsløse anakronismer. Det er nødvendige måder at lære på, der fortsat skal bruges både i grundskolen og i gymnasiet sideløbende med de digitale former’

 

Læs hele indlægget her: https://uddannelsesmonitor.dk/nyheder/debat/article18022696.ece

 

 

VI SAGDE DET JO: AI GØR OS DUMMERE

Et nyt studie fra ‘Center for Strategic Corporate Foresight and Sustainability’ i Schweiz siger det, vi alle sammen godt havde på fornemmelsen: Brug af Kunstig Intelligens gør os dummere – og værre endnu: Svækker vores evne til kritisk tænkning. Vi har også skabt et system, der er af afhængigt af, og vokser på vores data  – og vores energi, som en anden vampyr.

The findings revealed a significant negative correlation between frequent AI tool usage and critical thinking abilities, mediated by increased cognitive offloading. Younger participants exhibited higher dependence on AI tools and lower critical thinking scores compared to older participants. Furthermore, higher educational attainment was associated with better critical thinking skills, regardless of AI usage. These results highlight the potential cognitive costs of AI tool reliance, emphasising the need for educational strategies that promote critical engagement with AI technologies. This study contributes to the growing discourse on AI’s cognitive implications, offering practical recommendations for mitigating its adverse effects on critical thinking. The findings underscore the importance of fostering critical thinking in an AI-driven world, making this research essential reading for educators, policymakers, and technologists.

Styrelsen ønsker at benytte lejligheden til at gøre opmærksom på det mest indlysende: At hvis du bruger digitale proteser, du egentlig ikke har brug for, så forsvinder din evne til at gøre det, du nu gør med protesen, uden. Forfatterne bag studiet, mener at problemet kan løses ved at indføre mere ‘kritisk tænkning’, mens man bruger AI.

“These results highlight the potential cognitive costs of AI tool reliance, emphasizing the need for educational strategies that promote critical engagement with AI technologies”, skriver de.

Læs hele studiet her: https://www.mdpi.com/2075-4698/15/1/6
Artikel om studiet her: https://tech.co/news/study-ai-making-us-dumber

Godt nytår!

Tak for alle jeres mails, breve, kommentarer og gode ideer! Vi ser frem til at give analogiseringen et ekstra nøk i 2025!


(billedet set her https://mastodon.social/@CryptoJones@infosec.exchange/113735540603668224)

Forskere: Drop AI – det er en stor klimagevinst

Analogisering er den grønne omstillings mest lavthængende frugt og nu kræver to danske forskere, at nogen plukker dem!

“Drawing on critical AI studies, this article argues that universities should also consider the huge planetary costs that (gen)AI poses as well as the full range of AI’s exploitative business models and practices. Universities should integrate these considerations into both their decision-making on (not) using certain technologies and their policies and guidelines for research and teaching, just as sustainability is already a criterion in their travel or investment policies today.”
Sådan skriver Olivier Driessens og Magda Pischetola fra Københavns Universitet i deres paper fra august – læs det her: https://tidsskrift.dk/mediekultur/article/view/143595