(Gen)AI: indrukwekkend en zorgwekkend

Je zou verwachten dat ik als adviseur ICT in het Onderwijs volop aan het experimenteren met (Gen)AI tools. Niets is minder waar. Ik lees er veel over, praat er over, luister podcasts (ik geef ook weer een paar tips). Ik gebruik het niet/nauwelijks. Ik vraag me af waarom.

Technologische vooruitgang?

Voor mijn werk heb ik het niet nodig. En als ik schrijf, zoals dit blogbericht, denk liever na terwijl ik een zin formuleer. Hiervan leer ik meer dan via een prompt ChatGPT ‘mijn opinie’ te laten formuleren. Vind me maar ouderwets, maar ik schrijf liever zelf mijn mails dan een chatbot de gestandaardiseerde antwoorden te laten versturen. Ik vind het een verarming van contacten. Ben ik een oude feministische oma geworden die veel meer, dan zo’n jaar of 15 geleden, te kritisch ben over de technologische vooruitgang? Zo’n 10 jaar geleden, heb ik tijdens mijn master Leren en Innoveren, voor toekomst scenario’s over onderwijs de inzet van robots als persoonlijke assistent verkend. Ik was daar toen erg enthousiast over. En nu dat bijna realiteit wordt, word ik bang. Gaat (Gen)AI het onderwijs nu wel revolutionair veranderen? Misschien wel, maar of ik daar zo blij mee ben? Wellicht is deze ‘vooruitgang’ onderdeel van mijn grotere zorgen over onze samenleving (van toeslagencrisis tot klimaatcrisis, van macht tot machtsmisbruik).

Mensen worden inmiddels door chatbots vervangen, het is efficiënter (dus kostenbesparend) wordt gezegd. Het stoort mij als ik met een bedrijf alleen via een bot kan praten die niet snapt wat ik bedoel. Wat mij nog meer angst inboezemt is dat we menselijke eigenschappen toekennen aan technologie. Dat ChatGPT vaak als ‘hij’ wordt benoemd, is tot daar aan toe. Echter, sociale robots die voor rouwverwerking of (romantische) relaties worden gebruikt, vind ik wel een verarming van de mensheid. Her (2013) vind ik een geweldig mooie film over computerliefde. Maar nu dit werkelijkheid gaat worden, beangstig het me. Nog even en we leven in het tijdperk ‘Ich bin dein Mensch’ (2021), een (ook weer prachtig mooie) film over robotliefde.

Ja, ook ik ben onder de indruk van alle prachtige voorbeelden die met/door ChatGPT, Bard, CoPilot, etc. gemaakt zijn. En wat Alexander Klöpping liet zien met HeyGen is ronduit verbluffend maar ook zorgwekkend. Het klonen van stemmen is leuk om te laten zien en horen tijdens een presentatie of verjaardagsfeestje. Wil ik in zo’n wereld leven dat ik niet meer mijn ogen en oren kan vertrouwen op wat ik zie en hoor? Wil ik dit voor mijn kleinzoon? Maar ja, wat wil ik, de ontwikkelingen gaan door. Ze zijn niet tegen te houden. We zitten in een achtbaan. Het gaat snel en de impact is groot. We moeten mee, wordt gezegd, anders zijn we niet meer toekomstbestendig. Overzien we wel de consequenties van deze ‘technologische vooruitgang’?

Mijn brein

Er was een tijd dat ik zo geloofde in open en samen kennis delen. Ik stortte me 15 jaar geleden vol in social media en MOOCs, de disruptieve technologie van weleer. De smartphone deed zijn intrede, ook in het onderwijs. Daar is inmiddels ook niet iedereen even blij mee….

Het ideologisch beeld dat ik had om samen verder te komen door open en online kennis te delen, is bij mij uit elkaar gespat. Alle social media platforms zijn marketingtools van de big techbedrijven, er moet geld verdiend worden. Is dat waarom de hemelhoog juichende (LinkedIn) berichten over AI in het onderwijs me irriteren? Omdat ik zo teleurgesteld ben in die technologie en dat ik daarom GenAI ook geen kans wil geven? Moeten we in het onderwijs nastreven om leren en lesgeven efficiënter en effectiever te maken? Wil ik mijn denkproces overlaten aan een machine? Uiteraard kan ik het als inspiratiebron gebruiken, maar dat heb ik nog niet nodig gehad. Misschien weet ik ook niet wat ik mis. Dat (Gen)AI invloed heeft/krijgt op het werk in vele (alle?) sectoren is me echt wel duidelijk. Dus ook in het onderwijs. We moeten er wat mee. Maar wat? Laten we daar eerst het gesprek eens over voeren.

Wilfred Rubens schreef een blog over zijn presentatie over AI en ethiek. Hij vraagt zich af: als je kijkt vanuit het perspectief motieven, intenties, doelen en consequenties naar (generatieve) AI kijkt, verpest je dan het AI-feestje? Voor mij is er geen sprake van een AI-feestje. Ik denk dat de initiële ontwerpers van deze technologie vast goede intenties heeft gehad, maar de huidige exploitanten hebben dat niet.

Podcasts

De overige aspecten die Wilfred noemt zoals: soms onzinnige output, enorme energieverbruik, gebruik van slavenarbeid, ‘gratis’ versus betaald, gevolgen voor werk, desinformatie en deepfake komen ook aanbod in de podcasts waar ik regelmatig naar luister. Een aanvulling op een eerder gepubliceerde podcastlijst over ChatGPT

• Welkom in de AI-fabriek
  Zes afleveringen van 45 minuten waarin Informaticus en Trouw-columnist Iyaz Nasrullah met experts spreekt over de werking van AI. Nasrullah gaat niet mee in de hope rondom kunstmatige intelligentie. De experts waarmee hij spreekt zijn ook kritisch. Onderwerpen zijn oa:  vooroordelen in AI-modellen, het toekennen van menselijke aspecten aan AI, auteursrecht,  het (niet) bestaan van existentiële risico’s. Zeer de moeite van het luisteren waard.

• BNR Digitaal en BNR Tech  Update
  Interessante gesprekken (Digitaal, wekelijks) en nieuwtjes (Tech, dagelijks) over digitale technologie

• Poki
  Alexander Klöpping en Wietse Hage spreken elkaar wekelijks uitvoerig (afleveringen van ruim 1 uur) over kunstmatige intelligentie. Soms een beetje nerdy, maar ook de ethische kant wordt zeker verkend. Dat filosofisch geklets tussen Alexander en Wietse vind ik aangenaam en interessant om naar te luisteren.

• AI & Onderwijs
  Liza Peeters en Thijs Wesselink (onderwijskundig adviseurs van Metis) gaan lekker door met het  bespreken met expert de mogelijkheden en gevaren van AI voor het onderwijs. Vooral aflevering 10 over het ontwikkelen van een ethisch kompas en aflevering 12 waarin gereflecteerd wordt op de afgelopen 10 maanden vond ik interessant.

• AI Garage
  Een podcastserie van Fontys waarin Erdinç Saçan spreekt met experts uit het onderwijs, onderzoek en alle soorten industrie over hoe AI ons leven, werken, denken verandert. Ik vond vooral aflevering 7 interessant waarin Mark Madsen aan het woord komt over data en geopolitiek.

• Geen podcast maar heb ook een paar interessante gesprekken met en presentaties bekeken met Peter-Paul Verbeek over ethiek en technologische ontwikkelingen. Verbeek was professor bij UT en is inmiddels hoogleraar en rector magnificus UvA. Zie ook zijn  bijdrage over AI en onderwijs aan de UvA.

Digitale geletterdheid

In de tijd dat ik druk bezig was met sociale media en MOOCs sprak ik ook van adoptie van nieuwe technologie. Ik vond dat docenten moesten weten wat je er wel en niet mee kon. Ik lees hetzelfde weer rondom AI-tools.

Ook de kloof tussen ‘have’ en ‘have-nots’ wordt alleen maar groter. Want de GenAI waar de juichende voorbeelden over gaan, maken geen gebruik van de gratis versie.

Als voor mij deze ontwikkelingen al snel gaan, wat betekent dit dan voor mensen die niet zo digitaal vaardig zijn? Of we dit kunnen oplossen met meer aandacht voor mediawijsheid en digitale geletterdheid? Ik weet het niet. Tot op heden is dat nog niet gelukt.

Ben ik een doemprediker? Misschien dat sommige dat vinden. Ik zie echt wel mooie AI toepassingen en ik gebruik ook dankbaar alle handige vertaaltools. Ik zal docenten en studenten ook altijd stimuleren met GenAI te experimenteren, maar zal daarbij ook zeker de keerzijde vermelden. De bijdrage van Hilde Weerts in De Correspondent vond ik erg helder en informatief: ChatGPT is een knap staaltje AI maar betrouwbaar wordt het nooit.

 

Eerdere berichten over ChatGPT

• ChatGPT: omarmen of tegenstribbelen (15 december 2022)
• ChatGPT. Tips & tools voor het onderwijs (15 maart 2023)

 

Uitgelichte afbeelding van Alexandra_Koch via Pixabay