Brussel werkt aan de eerste wet ter wereld die kunstmatige intelligentie (AI) aan banden moet leggen. Het Europees Parlement boog zich donderdag over een wetsvoorstel van de Europese Commissie. Goed, zegt het Europees Parlement, maar een aantal punten mogen strenger.

Kunstmatige intelligentie is bezig aan een opmars. Wat begon met simpele schaakprogramma’s, heeft zich ontwikkeld tot programma’s die tekst kunnen lezen, begrijpen en schrijven. Tegelijkertijd zijn er websites waar kunstmatige intelligentie afbeeldingen kan creëren met behulp van een door een mens gemaakte beschrijving. De kracht van kunstmatige intelligentie is soms beangstigend. Tijd voor Europese wetgeving dus.

Strengere regels

Simpel gezegd wil Brussel kunstmatige intelligentie veiliger, transparanter en klimaatneutraal maken. Ook mag AI niet discrimineren. Daarboven moet kunstmatige intelligentie altijd beheerd worden door echte mensen.

Hoe streng deze regels zullen zijn, is afhankelijk van de risico’s die de programma’s inhouden. Als de risico’s te groot zijn, kan hierop een volledig verbod volgen. Bij lagere risico’s volgen strengere regels.

Zo zijn er AI-programma’s die door middel van foto’s kanker op kunnen sporen. Ze bestuderen vlekjes op de huid en geven aan of die gevaarlijk zijn of niet. De beslissing volledig aan AI overlaten kan dus risico’s inhouden. Een patiënt moet geen chemotherapie toegewezen krijgen omdat AI dat zegt. Er moet een menselijke hand aan te pas komen, vindt het Europees Parlement.

Hetzelfde geldt voor AI die op basis van gegevens over mensen bepaalt of ze crimineel kunnen worden of bijvoorbeeld fraude plegen. Ook bij zo’n beslissing moet een mens bij betrokken zijn.

Kim van Sparrentak (GroenLinks) was onderhandelaar namens de Groenen in het Europees Parlement. Ze noemt de wet een mijlpaal voor AI. “De EU moet een leider worden in veilige, ethische en duurzame AI. Met deze wet zetten we hierbij een belangrijke stap. We zorgen ervoor dat AI in dienst staat van mens, maatschappij en milieu – niet andersom.”

Experimenteren

Om de ontwikkeling van AI niet af te remmen, zijn onderzoeksfaciliteiten uitgesloten van de speciale regels. Zo blijft uitgebreid experimenteren met kunstmatige intelligentie mogelijk.

In juni stemt het volledige Europees Parlement over de wetgeving. Daarna starten de onderhandelingen met de lidstaten.