Onderzoek: verbied gezichtsherkenning op school
Gezichtsherkenning in het onderwijs zou verboden moeten worden, dat concluderen onderzoekers van de Universiteit van Michigan na een uitgebreid onderzoek.
De technologie kan nuttig zijn, maar in de verkeerde handen kan gezichtsherkenning ook worden ingezet als machtsmiddel. Een voorbeeld van hoe gezichtsherkenning kan worden ingezet als controlemiddel vinden we in het Chinese “Social Credit Score” waarover de media in voorgaande veel aandacht besteedden.
Gezichtsherkenning roept daarom veel emotie op. Er moet daarom terughoudend mee worden omgesprongen. De vraag wanneer het gebruik van gezichtsherkenning nu wél en niet gepast is, is een lastige. De Universiteit van Michigan besloot hier onderzoek naar te doen.
Hun conclusie: gezichtsherkenning hoort niet thuis in het onderwijs.
Gezichtsherkenning is problematisch
In hun onderzoeksverslag noemen de onderzoekers de volgende problemen met gezichtsherkenning:
- Gezichtsherkenning werkt het beste bij blanke mannen. Bij andere huidskleuren, mensen met een beperking, kinderen en vrouwen zijn de resultaten van gezichtsherkenning een stuk minder betrouwbaar. Dat geldt in nog sterkere mate bij mensen die zich niet aan de traditionele genderrollen houden. Het gebruik van gezichtsherkenning op school kan dan ook “bestaande vooroordelen versterken, wat leidt tot toegenomen toezicht op en vernedering van getinte leerlingen”.
- Gezichtsherkenning maakt “toezicht tot een normaal onderdeel van het dagelijks leven van jonge mensen”. En: “Eenmaal geïnstalleerd zal het worden gebruikt voor andere doeleinden”. Scholieren of studenten zullen daar veelal niets van weten, laat staan ermee instemmen.
- Het toenemende gebruik van gezichtsherkenning kan leiden tot het delen van persoonlijke data met bedrijven.
- Gezichtsherkenning bestraft non-conformiteit. De onderzoekers geven aan dat het leerlingen en studenten dwingt om zich op een bepaalde manier te kleden. De schoolperiode is voor jonge mensen echter het moment waarop ze hun individualiteit ontdekken. Wanneer je afwijkt, zul je door deze technologie eerder in de gaten worden gehouden. Dit kan schadelijk zijn voor de persoonlijke ontwikkeling.
Het onderzoek laat zien hoe het al te gemakkelijk toepassen van de technologie –zonder begrip van de gevolgen- onethisch en gevaarlijk is.
Shobita Parthasarathy, Universiteit van Michigan
Gezichtsherkenning is controversieel
De onderzoeksresultaten komen op een moment dat –vooral in de VS- scholen bespreken of gezichtsherkenning moet worden ingezet om scholen veiliger te maken. De rechter tikte vorig jaar een Zweedse Zweedse school op de vingers die de technologie wilde inzetten voor de aanwezigheidscontrole.
In de VS gaat de discussie echter over het weren van personen die op een watchlist staan. Dankzij gezichtsherkenning kunnen scholen pedofielen buiten de deur houden.
Shobita Parthasarathy, betrokken bij het onderzoek: “We hebben ons op deze technologie gericht omdat het nog niet heel wijdverspreid is, maar wel een enorme impact kan hebben op kwetsbare groepen. Het onderzoek laat zien hoe het al te gemakkelijk toepassen van de technologie –zonder begrip van de gevolgen- onethisch en gevaarlijk is.”
De onderzoekers vergeleken gezichtsherkenning met soortgelijke technologie. Denk aan metaaldetectoren, biometrische beveiliging en beveiligingscamera’s. Programma manager Molly Kleinman, verantwoordelijk voor het onderzoek: “Mensen zeggen ‘We kunnen technologie niet reguleren voordat we hebben gezien wat het doet.’ Maar als we kijken naar technologie die al in gebruik is, kunnen we de potentiële sociale, economische en politieke gevolgen goed voorspellen én onbedoelde bij-effecten aan het licht brengen.
Verbied gezichtsherkenning
De onderzoekers zijn duidelijk: gezichtsherkenning hoort niet thuis in het onderwijs. Toch geeft het rapport 15 beleidsadviezen voor beslissers die de technologie toch overwegen toe toepassen, zoals het bijeenroepen van een representatieve groep belanghebbenden om een voorgenomen besluit goed af te wegen.
Ook geeft het rapport belanghebbenden een aantal belangrijke vragen om te stellen wanneer een school gezichtsherkenning wil gaan gebruiken.
Het gehele rapport is te lezen op de site van de Gerald R. Ford School of Public Policy (onderdeel van de Universiteit van Michigan.