Jeg har lært en AI at kritisere AI projekter. Og du kan selv prøve den her.
Hver uge hører jeg om komplet sindsoprivende AI værktøj’er, som lover en produktivitetsforøgelse, større end jeg nogensinde har hørt om i mit liv!
Det er som da world wide web kom frem i slutningen af 90’erne. Bare et par tusinde gange vildere! Og begejstringen kan let gøre jer blinde over for de argumenter der findes for IKKE at gribe mulighederne, der hænger der lige for næsen af jer.
Hvem pisser i sangriaen?
Derfor bør ethvert AI projekt have en AI Opponent. En person (eller gruppe), hvis eneste opgave det er at finde argumenter for ikke at gennemføre projektet. En person som ikke er ansat til at “se potenitale” Det kan nemlig være meget svært, i al begejstringen, at være den som pisser i sangriaen og ødelægger den gode stemning.
AI Opponenten skal som minimum være kritisk på disse punter:
- Hollistiske – hvilke negative konsekvenser kan jeres AI projekt for for andre dele af jeres organisation?
- Æstetiske – hvordan kan jeres AI projekt gøre verden grimmere og ødelægge skønhed?
- Humanistiske – hvordan kan jeres AI projekt øge umenneskeligheden?
- Sundhedsmæssige – hvordan vil jeres AI projekt fjerne noget der ser sundt for mennesker eller tilføre noget usundt?
- Sociale – hvordan kan jeres AI projekt nedbryde eller påvirke relationer negativt?
- Etiske – hvordan fjerner jeres AI Projekt menneskers mulighed for at bliver hørt og træffe frie valg?
- Resultatmæssige – hvad er risikoen for at det her skidt slet ikke virker?
Hvis du ikke vil, kan AI gøre det for dig
Hvis man gerne vil have en simpel (og garanteret ikke fyldestgørende) opponentudtalelse, så kan man jo bede AI om at opponere imod sig selv. Og det har jeg gjort. Jeg har instrueret en GPT i at være jeres AI Opponent, på de 7 områder herover.
Du skal bare uploade eller paste uploader din projektbeskrivelse til den, derefter kommer den med en række åbenlyse modargumenter imod jeres AI projekt.
Jeg har kaldt den for “AI Lyseslukkeren”
- Prøv AI Lyseslukkereren her (kræver et gratis ChatGPT abonnement).
Hvad siger denne AI så om et virkeligt AI projekt?
Jeg bad,som eksempel, AI Lyseslukkeren om at læse projektbeskrivelsen fra et KL projekt om “Databaserede risikovurderinger af unges frafald fra ungdomsuddannelser”. Et projekt der vil bruge “machine learning” og bruge tidligere sager til at vurdere sandsynligheden for fremtidige frafald.
Her er bare nogle af de modargumenter, som AI Lyseslukkeren kom med:
- Bias i algoritmerne: AI-algoritmer kan forstærke eksisterende uligheder og diskrimination. Hvis algoritmen trænes på historiske data, der afspejler sociale uligheder, er der en risiko for, at den ubevidst forstærker disse forskelle.
- Reduktion af menneskers autonomi: Hvis fagpersoner føler sig tvunget til at følge AI-systemernes anbefalinger, kan det begrænse deres evne til at udøve deres eget skøn og intuition. Dette skaber et dilemma omkring, hvor meget kontrol man overlader til teknologi versus menneskelig dømmekraft.
- Mentalt pres på de identificerede elever: Elever, som klassificeres som “i farezonen” af AI-løsningen, kan opleve øget stress og psykisk pres. Det kan give dem en følelse af utilstrækkelighed eller frygt for at blive set som en fiasko.
- Medarbejderes mentale sundhed: Forventningen om at benytte data og AI-løsninger til at træffe beslutninger kan føre til en oplevelse af øget ansvar hos lærere og rådgivere. Hvis de skal handle på data, de måske ikke forstår fuldt ud, kan det føre til frustration og udbrændthed.
- Manglende evidens for effekt: Der er ikke tilstrækkelig dokumentation for, at AI-baserede løsninger effektivt reducerer frafald. Der er en risiko for, at den ønskede effekt udebliver, og at midlerne kunne være bedre anvendt på andre mere velafprøvede metoder.
- Uforudsete konsekvenser: Algoritmens forudsigelser kan vise sig at være fejlbehæftede, hvilket kan føre til forkert tildeling af ressourcer og potentielt forværre situationen for elever, der ellers ikke ville have oplevet problemer.
Hvis du selv vil se resultaterne, så kan du hente KL’s projektbeskrivelsen her. og derefter uploade den til AI Lyseslukkereren. Hvis du tør, kan du jo også prøve med din egen projektidé?
* Tekst og foto er 100% menneskeskabt