(Foto: Tim Kohnen)

Zelfrijdende auto’s, streamingdienst Netflix die denkt te weten welke film of serie je vanavond wil bekijken, de resultaten die je bij een Google-zoekopdracht te zien krijgt; in het gewone leven heb je voortdurend te maken met kunstmatige intelligentie. Maar kunstmatige intelligentie kan ook gevaarlijk of kwetsend zijn. Bijvoorbeeld als zo’n zelfrijdende auto tegen een boom aanrijdt, of wanneer Netflix en Google hun gebruikers discrimineren. Ben je dan wettelijk beschermd?

Nu nog niet, en daar moet verandering in komen, vindt van Huffelen. “We moeten ervoor zorgen dat de digitale transformatie en het gebruik van kunstmatige intelligentie zodanig gebeurt dat de mens voorop staat en dat grondrechten centraal staan in ons beleid”, zei Van Huffelen gisteren in het Europees Parlement. Denk bijvoorbeeld aan het verbod op discriminatie, het recht op vrijheid van meningsuiting en het recht op privacy. Op uitnodiging van Europarlementariër Kim van Sparrentak (GroenLinks) vertelde Van Huffelen wat het Nederlandse kabinet van de Europese wetsvoorstellen voor kunstmatige intelligentie vindt. 

Toeslagenaffaire

“In Nederland hebben we gezien hoe algoritmes gebruikt kunnen worden om onrecht te automatiseren, bijvoorbeeld bij de toeslagenaffaire”, begint Van Sparrentak. Het was daarom niet verrassend dat Van Sparrentak juist haar landgenoot Van Huffelen uitnodigde om in Brussel te komen praten over systemen zoals algoritmes. Vorige maand debatteerde het Europees Parlement al over het toeslagenschandaal, waarbij de Nederlandse belastingdienst algoritmes gebruikte om fraude bij kinderopvangtoeslag op te sporen. 

Het probleem met die algoritmes? Het systeem wees ten onrechte mensen van buitenlandse afkomst aan als fraudeurs, bijvoorbeeld op basis van postcode, inkomen en nationaliteit. “Een vreselijke combinatie van beoordelingsfouten van de Nederlandse regering”, noemt de staatssecretaris die ooit de taak kreeg om een oplossing te vinden voor het schandaal dat. “En ja, kunstmatige intelligentie speelt een zeer belangrijke rol in de beoordelingsfouten die de Nederlandse regering heeft gemaakt. Dus als ik denk aan kunstmatige intelligentie en democratie en grondrechten, komen de gezichten en stemmen van deze mensen onmiddellijk bij me op”, zei ze. 

Pluim voor Europese Commissie 

Den Haag en Brussel lijken het nu eens te zijn: overheden moeten de grondrechten van de gewone burger streng bewaken bij het gebruik van algoritmes. Het is duidelijk dat Nederland het verleden achter zich wil laten. Nederland verwelkomt daarom de voorstellen van de Europese Commissie om strenge Europese regels voor kunstmatige intelligentie in te voeren. “Wij steunen de Europese Commissie van harte en delen de ambities. Vanuit Nederland zien wij wetgeving voor kunstmatige intelligentie als een belangrijk instrument dat grondrechten in de digitale wereld versterkt en het vertrouwen in de digitale markt vergroot,” zei Van Huffelen.

Van Huffelen maakt zich in Brussel bovenal sterk op drie gebieden van de wetsvoorstellen. Allereerst wil het kabinet dat de ontwikkeling van kunstmatige intelligentie overal in de EU aan bepaalde standaardregels voldoet, bijvoorbeeld over wanneer en hoe kunstmatige intelligentiesystemen van bedrijven of overheden persoonlijke gegevens opslaan en gebruiken. Ten tweede wil het kabinet dat de risico’s van zulke systemen ten alle tijden voldoen aan een risicobeoordeling, om bijvoorbeeld schandalen zoals te toeslagenaffaire te voorkomen. 

Als laatste moeten overheden en bedrijven transparant zijn over het gebruik van kunstmatige intelligentiesystemen. Van Huffelen benadrukt dat burgers het recht moeten hebben om te klagen wanneer zij zich benadeeld voelen door een systeem. Want, zei de staatssecretaris, “burgers kunnen alleen klagen wanneer ze weten dat kunstmatige intelligentie wordt gebruikt, dus daar moeten we transparant over zijn.”