KU Leuven publiceert richtlijn voor verantwoorde AI in onderwijs en onderzoek

12 juni 2023 - David Van Waeyenberghe

De KU Leuven heeft een richtlijn opgemaakt die onderzoekers een helder kader schenkt om met generatieve artificiële intelligentie (GenAI) om te gaan. Daarmee trekt de universiteit de Europese AI-kar.

Generatieve Artificiële Intelligentie is de verzamelnaam voor algoritmes die nieuwe inhoud (tekst, code, beelden,…) kunnen creëren. Eind november vorig jaar lanceerde OpenAI het taalmodel ChatGPT, wellicht het bekendste AI-model. “De technologie biedt enorm veel mogelijkheden, maar stelt ons ook voor uitdagingen en zal hoe dan ook een belangrijke rol spelen in de jobs, het onderwijs en het onderzoek van de toekomst”, aldus de KU Leuven in een persbericht.

Verantwoord kader

Net omdat er zoveel kansen liggen, kijkt KU Leuven er met een open vizier naar. De universiteit wil de technologie binnen een duidelijk en verantwoord kader integreren in haar onderzoek en onderwijs, met oog voor de mogelijkheden en valkuilen. Bij wetenschappelijk onderzoek kan generatieve artificiële intelligentie nu al bepaalde taken vereenvoudigen en versnellen. Om verantwoord en kritisch om te gaan met de technologie, schreef de KU Leuven een richtlijn voor onderzoekers.

De KUL ziet een rol voor AI in het mee brainstormen over onderzoeksideeën, het opstellen van een literatuurstudie, het schrijven van een projectplan, de visualisatie van onderzoeksresultaten, enzovoort. “Transparantie over het gebruik en de verificatie van de output blijven cruciaal. Een belangrijk aandachtspunt is bijvoorbeeld de omgang met persoonsgegevens of vertrouwelijke informatie uit onderzoeksdata. De veiligheid en vertrouwelijkheid van data die worden ingevoerd op AI-platformen is immers niet gegarandeerd”, zegt vicerector Onderzoek Jan D’Hooge.

Aansluiten op studentenkader

Een kritische houding tegenover de output én een correcte bronvermelding blijven cruciaal. Het kader voor onderzoekers sluit daarmee aan op de richtlijn voor studenten, die in functie van de examens is opgesteld. De richtlijnen voor onderzoekers zijn overigens ook bijzonder belangrijk voor studenten wanneer zij bijvoorbeeld meewerken aan projecten, onderzoekspapers of masterproeven waarbij GenAI tools handig zijn.

KU Leuven ziet het als haar opdracht studenten op te leiden in een verantwoord gebruik van deze toepassingen, die ook razendsnel hun weg vinden naar het werkveld. Daarbij moeten de richtlijnen dus helpen. Ze zijn ook van groot belang met oog op een correct examenverloop, want een juiste inschatting van de competenties van een student blijft centraal staan. Daar is een artikel in het Onderwijs en Examenreglement opgenomen dat misbruik moet verhinderen.

Transparantie en overleg

Als het gebruik van GenAI dus een juist oordeel over de kennis, het inzicht of de vaardigheden van de student (deels) onmogelijk maakt of probeert te maken, wordt dit als misbruik beschouwd. Dat betekent niet dat het gebruik van GenAI wordt ontraden. Transparantie en overleg met docenten zijn en blijven essentieel, voor de KUL. Meer concreet kan een student GenAI wél gebruiken om:

• een zelf geschreven tekst te verbeteren of te herwerken, zonder inhoud toe te voegen
• als zoekrobot om informatie te verzamelen
• een stuk code laten schrijven door GenAI, wanneer de docent het toelaat

Wanneer gegenereerde output letterlijk wordt overgenomen, moet steeds correct de bron worden weergegeven, in de tekst en in de referentielijst. “De belangrijkste raad blijft: overleg met de docent of promotor. Voor bepaalde opdrachten of examens kan die ook expliciet aangeven dat GenAI-gebruik niet is toegelaten. We hameren er ook op dat studenten kritisch moeten omgaan met de output van GenAI. We weten dat de toepassingen soms een loopje nemen met de waarheid”, zegt vicerector Onderwijsbeleid Tine Baelmans.

Plagiaatsoftware

De KU Leuven zal waakzaam blijven door onder andere te toetsen op ongeoorloofd gebruik. Docenten kunnen studenten een extra mondelinge toelichting vragen om te peilen naar hun kennis, of om de totstandkoming van passages te verklaren. Ook de plagiaatsoftware die de universiteit gebruikt evolueert permanent en screent op gebruik van GenAI.

“Deze richtlijnen zijn gebaseerd op de huidige stand van deze technologie, maar we zijn er ons van bewust dat die aan een hoog tempo evolueert”, besluit rector Luc Sels. “Onze richtlijnen zullen in de toekomst mee evolueren en waar nodig aangepast worden. Met steun van ons KU Leuven Instituut voor artificiële intelligentie willen we geleidelijk aan ook naar de mogelijkheden en risico’s op de langere termijn kijken. Maar steeds met een open blik.”