Gebruik je een AI-programma, dan moeten je leerlingen en leraren nog altijd los van het programma zelf beslissingen kunnen nemen en zijn ze ook zelf verantwoordelijk voor het leerproces. Het is belangrijk dat je leraren altijd toezicht op het programma houden en dat je leerlingen en leraren kunnen ingrijpen als dat nodig is.

Een AI-programma moet transparant zijn. Je moet makkelijk kunnen nagaan hoe het werkt en op welke basis het beslissingen neemt. Lukt dat niet? Dan gebruik je het beter niet in je onderwijs.

Een AI-programma mag niet leiden tot ongelijkheid, discriminatie, uitsluiting of onrechtvaardigheid. Integendeel: het moet gelijke kansen bevorderen. Daarom moet het:

• voor iedereen toegankelijk zijn
• duidelijk maken dat het gegevens kan vertekenen
• procedures hebben om vertekeningen en ongelijkheden te signaleren en aan te pakken.

Als je met een AI-programma werkt, moet je je bewust zijn dat er niemand achter het scherm zit en dat het programma geen gevoelens of inlevingsvermogen heeft. Zorg daarom dat het programma aangeeft dat het sociale interactie nabootst en simuleert. Let ook op of de applicatie het emotionele en sociale welzijn van je leerlingen en leraren beïnvloedt. Zo kun je daar gepast op reageren. Het is bijvoorbeeld niet de bedoeling dat ze meer stress krijgen of dat het programma de sociale interactie in de klas doet achteruitgaan.

AI-programma’s zijn ook niet milieuvriendelijk. De training van een AI-vertaalalgoritme is goed voor maar liefst 600.000 kilogram CO₂. Ter vergelijking: een vliegtuig dat van Brussel naar New York en terug vliegt, stoot 600 kg CO₂ uit. Daar kun je als onderwijsprofessional natuurlijk niets aan doen. Maar denk daaraan en houd daar rekening mee wanneer je een AI-programma kiest.

Duurzaamheid, milieuvriendelijkheid, de sociale en maatschappelijke impact: belangrijke waarden om rekening mee te houden.

Ook een AI-programma moet de GDPR-richtlijnen(PDF bestand opent in nieuw venster) volgen. Privacy en de manier waarop het met gegevens omgaat, zijn dus belangrijke aandachtspunten. Je leerlingen en leraren moeten weten wat er met hun gegevens gebeurt, en hoe en waarvoor het bedrijf achter het programma ze gebruikt. Gevoelige gegevens moeten anoniem blijven. Alleen de mensen die ze nodig hebben, mogen er toegang toe hebben. Alle gegevens moeten ook beschermd en op een veilige plaats bewaard worden.

Lees dus altijd de gebruiks- en privacyvoorwaarden voor je een AI-programma kiest. Duiken er toch problemen met privacy en gegevensbescherming op als je het programma gebruikt? Dan moet je die kunnen signaleren. Ga na of dat mogelijk is.

Een AI-programma gebruikt een massa aan gegevens. Het moet dus goed beschermd zijn tegen cyberaanvallen en datalekken. Het is ook belangrijk dat het nauwkeurig en betrouwbaar met die gegevens omgaat en dat je dat kunt controleren.

Ga na wie er verantwoordelijk is voor de resultaten die een AI-programma genereert en de beslissingen die het neemt. Ben jij verantwoordelijk? Het bedrijf achter het programma? Het programma zelf? … Kijk goed na wat de gebruikersovereenkomst daarover zegt!

Wil je weten of de AI-programma’s die je nu al gebruikt en de programma’s die je nog wilt aankopen aan de 7 sleutelvoorwaarden voldoen? Vraag gerust je ICT-coördinator, de mensen in je netwerk of je onderwijskoepel om raad.