Edublog > Digitale transformatie | Veilig digitaal gebruik > Risico’s van AI in het onderwijs

Risico’s van AI in het onderwijs

De hype over kunstmatige intelligentie (AI) lijkt met de dag groter te worden. Ook in het onderwijs zien we steeds vaker de roep om AI te gaan inzetten. Soms als experiment, soms al heel concreet. Met enige regelmaat vraag ik mij af of men wel echt weet wat men aan het doen is. De inzet van AI kan heel zinvol zijn. Er zijn, in wetenschappelijk onderzoek, al ongelofelijke resultaten bereikt. Bijvoorbeeld in het onderzoek naar kanker waar AI veel sneller en nauwkeuriger patronen kan herkennen. Maar er schuilt ook behoorlijk wat risico in het gebruik van AI. En dat is waar de deze week gepubliceerde Rapportage AI- & Algoritmerisico’s Nederland van de Autoriteit Persoonsgegevens (AP) over gaat.

Door: Marcel de Jager

IT-regisseur bij Expanding Visions

Neem contact op

Gepubliceerd op 22 juli 2024

An image of the growing hype around artificial intelligence AI in education and the potential risks associated with its use

De inleiding bij de rapportage stelt het volgende: “Kunstmatige intelligentie (AI) maakt een stormachtige ontwikkeling door, maar staat als technologie deels nog in de kinderschoenen. Er wordt volop geëxperimenteerd: van een ‘rat race’ in generatieve AI door bigtechbedrijven tot op AI gebaseerde gedragsherkenningssystemen in supermarkten en sportscholen. De beheersing van de risico’s van AI-systemen gaat echter niet in hetzelfde tempo. Dat betekent voor Nederland dat zorgvuldige inzet voorop moet staan én dat we ons moeten voorbereiden op meer incidenten met AI.” Maar ook het onderwijs wordt specifiek genoemd: “Want juist in bijvoorbeeld het onderwijs (...) wordt AI ingezet in situaties waarin mensen kwetsbaar zijn.”

Modern cyber woman with matrix eye concept

Als we op social media kijken, lijken deze risico’s ver weg. Op LinkedIn buitelen de adviseurs over elkaar heen om de mogelijkheden van AI aan te prijzen.

Nu zijn er al best wat mooie resultaten geboekt met AI, maar dat vindt vooral plaats in het hoger onderwijs. In het funderend onderwijs wordt her en der wat geëxperimenteerd maar de roep om meer wordt wel steeds luider. En daar schuilt wel een groot gevaar. Het punt met AI is dat we deels helemaal niet weten hoe het nu precies werkt. En dat is precies waar de AP voor waarschuwt. Maar er is nog een ander risico, en dan specifiek voor het onderwijs: kennis en vaardigheden. Of eigenlijk het ontbreken daarvan.

Enkele jaren geleden was adaptieve software in het onderwijs sterk in opkomst. Software waarbij kinderen automatisch extra lesstof krijgen aangeboden indien ze onder een bepaalde score toetsvragen beantwoorden. De gedachte was dat met name zwakke leerlingen hiervan konden profiteren. Maar dat bleek dus niet zo. Vooral sterke leerlingen groeiden sneller dan voorheen door adaptief onderwijs. Zwakke of gemiddelde leerlingen presteerden vaak zoals voorheen. Het succes van adaptieve software hangt namelijk vooral af van de docent. Een docent die op basis van de informatie (feedback) geen actie onderneemt, zal nauwelijks verschillen zien tussen traditionele methoden en adaptieve software. De crux van die ‘slimme’ software is dat je het ‘slim’ toepast.

In 2019 beschreef kennisnet al het belang van ICT kennis binnen het onderwijs: “Vooral de leraar die ICT gevarieerd gebruikt en een breed didactisch repertoire heeft, blijkt bij hun leerlingen een hogere motivatie en betere leerprestaties te zien. Deze uitkomst bevestigt dat ict in het onderwijs vooral werkt bij de ICT-bekwame leraar. Leerlingen leren beter, sneller en meer bij leraren die ICT gevarieerd inzetten. Zo ervaren veel leraren dat zij hun lessen, dankzij ICT, efficiënter kunnen inrichten en een beter overzicht hebben over de vorderingen van leerlingen. Dit stelt leraren in staat om in hun onderwijs beter rekening te houden met de individuele talenten en ondersteuningsbehoeften van leerlingen. Bijvoorbeeld door de leerstof, de instructievorm of het tempo af te stemmen op de behoeften van de leerling.”

Kennis over ICT is nog altijd onvoldoende geborgd binnen het (funderend) onderwijs. Natuurlijk zijn er docenten die met veel kennis en kunde hele mooie en zinvolle digitale toepassingen maken en/of gebruiken. Maar in het algemeen is het niveau nog (te) laag.

Indien een school AI wil gaan inzetten dan kunnen we best een aantal richtlijnen meegeven over bijvoorbeeld het (niet) gebruiken van persoonsgegevens. Maar het zegt helemaal niets over het daadwerkelijk toepassen van AI in het onderwijs. AI kan relatief eenvoudig toetsvragen formuleren en de antwoorden controleren. Maar klopt het echt? En hoe werken achterliggende algoritmes? Ik hoef alleen maar te verwijzen naar de ophef over de verschillende toetsresultaten bij de doorstroomtoets. En dan willen we zelf, met onvoldoende kennis, aan de slag met AI?

Het inzetten van AI in het onderwijs biedt absoluut grote kansen. En de opkomst is ook onomkeerbaar. Maar het succes valt en staat bij de wijze waarop AI wordt ingezet. En dat begint bij het stevig inzetten op het verhogen van digitale kennis en vaardigheden bij docenten.

Een keer samen van gedachten wisselen?

Ik help je graag verder

Marcel de Jager

Volg mij via

Risico’s van AI in het onderwijs

Als we op social media kijken, lijken deze risico’s ver weg. Op LinkedIn buitelen de adviseurs over elkaar heen om de mogelijkheden van AI aan te prijzen.

Laat hier je vraag achter

Een keer samen van gedachten wisselen?

Marcel de Jager

Lees ook de andere edublog artikelen