Kejseren af Kina på sit dødsleje – med en ødelagt kunstfugl ved sin side

Danmark er stolte af H.C.Andersen. Hans eventyr og moraler er alment kendt og brugt, og vi husker alle sammen ‘Kejserens Nye Klæder’, med den lille dreng, der siger: ‘Han har jo ikke noget tøj på!’.
I disse moderne tider, er det imidlertid et andet eventyr, vi skal have støvet af: Nattergalen.
For de, der ikke kender den historie, så handler den om kejseren af Kina, der først forelsker sig i en rigtig nattergals sang, men senere får en gave, som han holder endnu mere af: En kunstig nattergal, der synger næsten ligeså smukt, og så er den samtidig helt og aldeles forudsigelig, og man kan synge med.

Vise den menneskelige tænkning?
“Thi ser De, mine herskaber, kejseren fremfor alle! hos den virkelige nattergal kan man aldrig beregne, hvad der vil komme, men hos kunstfuglen er alt bestemt! således bliver det og ikke anderledes! man kan gøre rede for det, man kan sprætte den op og vise den menneskelige tænkning, hvorledes valserne ligger, hvorledes de går, og hvordan det ene følger af det andet –!“, siger spilmesteren(og nej, det er ikke fra Dungeons and Dragons), og snart gider kejseren kun høre på den kunstige nattergal, og den virkelige fugl, der længe har måttet finde sig i indspærring, benytter sig af lejligheden og stikker af, og det er folk ligeglade med, kunstfuglen synger jo smukt. Lige indtil den går itu.
Det sker samtidig med, at Kejseren er alvorligt syg, og ved at dø.

‘Men fuglen stod stille, der var ingen til at trække den op, og ellers sang den ikke; men Døden blev ved at se på kejseren med sine store, tomme øjenhuler, og der var så stille, så skrækkeligt stille.”

Danmark er som nation midt i denne stilhed, især når det handler om digitalisering og kunstig intelligens, denne mekaniske fugl, hvis sang, vore ledere så åbenbart foretrækker fremfor medmenneskets tilfældige og uforudsigelige tale og handling.

Simulationer
Analogiseringsstyrelsen ser som bekendt med rædsel på vores embedsværks hastværk med at erstatte menneskelig arbejdskraft med elendigt simulerende maskiner. Opfordringer til login med nemid, apps til mobiltelefoner, chatbots og kunstig intelligens bruges som undskyldning til at afskedige mennesker og forringe services, mens det fyger med påstande om fremskridt og potentialer i beta-udgaver af ny teknologi, som ingen har bedt om, og som de, der promoverer den, ikke kan se valsernes svaghed i. Det er afgørende, at de samfund, vi bebor, er solide og til at stole på, og i disse år bygges der mest glitrende luftkasteller uden fundamenter. Vi må, som ansvarlig styrelse, insistere på, at der, når der indføres ny teknologi, som minimum formuleres et klart mål for gladere og bedre betjente borgere, noget administrationen kan styre efter, da embedsværket tilsyneladende kun har været drevet af ønsket om, at spare penge og personale med det formål at fravriste os menneskelig kontakt og tvinge vores blik, det uendelige, ned i skærmen mikroskopiske troldspejl.

Men der er håb forude. Det er som om forvirringen og den støjende, ukritiske begejstrings råb er ved at dø ud, og i stedet erstattes af sund nynnende skepsis.

Elementært?
Og nogen gange kommer skepsissen sågar fra nogen af teknologiens egne frontløbere.
IBM har netop, i relativ stilhed, droppet dele af deres kunstig intelligens vidunder ‘Watson”s arbejdsområder: Udvikling af ny medicin for medicinalfirmaer. Forestillingen fra IBM var næsten ligeså naiv som de, vore politikere gør sig i: Hvis bare man proppede en masse data ind i Watson, og lod den læse al videnskabelig litteratur og alle nye opdagelser, så ville den helt automatisk, ved sine tekno-magiske kræfter, finde på løsninger og ny medicin…det gjorde den naturligvis ikke, og al respekt for IBM, der selv, delvist, har trukket stikket på det program. For i de tilfælde digitale teknologier skaber fremskridt, er de brugt af folk med super-høj faglighed med gode uddannelser og masser af erfaring, som det de er: Værktøjer.

Kunstig intelligens kører stadig derudaf som den store tekniske åbenbaring, den kirke, politikerne beder i hver morgen, mens de ser bekymret mod, sjovt nok, Kejseren af Kina. Her er der gang i den med kunstig intelligens, for hele befolkningen er datasubjekter og under streng kontrol. Herhjemme bilder vi os ind, vi kan behandle data mere ‘etisk’, samtidig med, at politikerne forestiller sig at AI skal hjælpe folk i arbejde, det skal gøre os konkurrencedygtige, det skal afsløre snyd med sociale ydelser, det skal køre alle biler og træffe komplicerede juridiske afgørelser og så skal det selvfølgelig kurere alle sygdomme. Det sidste er bestemt en mulighed, altså at Watson eller andre kunstige intelligenser kommer til at hjælpe med at gøre det, engang. Men de kommer ikke til at gøre det alene, selvom det er det eventyr, der konstant læses op for os, mens vi kæmper med søvnen og drømmer ‘Terminatorer’ frem, terminatorer som i terminal, sluttet, færdig arbejde, så kan vi alle sammen gå hjem og vugge, mens maskinerne klarer det hele.

En kopi
Det springende punkt, når vi taler om intelligens er dette: Kunstig Intelligens er en kopi af intelligens. Per definition. Kunstig Intelligens skal ‘trænes’, det sker på data om befolkningen, data, der gøres til gennemsnit og algoritmer – der om noget repræsenterer en ting, som de fleste af os hader: Gennemsnitlighed. Denne gennemsnitlighed hærger allerede administrationen, hvor den ses som et fremskridt, der gør det nemmere at træffe afgørelser omkring borgerne. Et intelligent menneske, der ønsker at lave konstant arbejdende og evigt huskende kreative kopier af den menneskelig tænkning, kommer uundgåeligt til at reproducere sin egen. Det kaldes BIAS, og betyder, at netop fejlfriheden lukker tanken inde i sin egen kasse, hvorfra den ikke kan komme ud, som en nattergal i sit bur.

Her hos Analogiseringsstyrelsen kan vi ikke holde os tilbage for at citere Sir Walter Raleighs berømte (og sandsynligvis fejlciterede) sidste ord fra 1618, da han stod på skafottet og bad om lov til at berøre æggen på bødlens økse med bemærkningen: ‘Det er en skrap kur, men den vil kurere alle sygdomme‘. Kunstig Intelligens og digitalisering er ikke nogen økse og den kommer heller ikke til at skære vores tilværelses gordiske knude over, og gøre os frie.

Der er værktøjer inde i det, der kan bruges, af mennesker. Men teknologi, vi har skabt, er aldrig løsningen i sig selv.
Det er mennesket, det levende, der er spørgsmålet. Og svaret er altid den dejligste sang.
Den er uforudsigelig og aldrig gennemsnitslig og der er fejl, og fejlene, det er de kønneste.

Synger du med?

“Da lød i det samme, tæt ved vinduet, den dejligste sang: Det var den lille, levende nattergal, der sad på grenen udenfor; den havde hørt om sin kejsers nød, og var derfor kommet at synge ham trøst og håb; og alt som den sang, blev skikkelserne mere og mere blege, blodet kom raskere og raskere i gang i kejserens svage lemmer, og Døden selv lyttede og sagde: “Bliv ved lille nattergal! bliv ved!”

LÆS MERE:
IBM og medicin: https://blogs.sciencemag.org/pipeline/archives/2019/04/18/farewell-to-watson-for-drug-discovery
‘Nattergalen’ af H.C. Andersen: https://www.andersenstories.com/da/andersen_fortaellinger/nattergalen