Als een rechtszaak waar de verdachte zelf niet kwam opdagen. Zo voelde de hoorzitting in het Europees Parlement over AI-model Mythos. Europarlementariër Kim van Sparrentak (Pro) vroeg de hoorzitting aan om te onderzoeken of Anthropic, het Amerikaanse bedrijf achter Mythos, wel te vertrouwen is. “Het feit dat ze hier niet zijn is geen goed teken.” Volgens Antropic kwam de uitnodiging te kort van tevoren (anderhalve week) om te accepteren.

Geen toegang

Het AI-model van Antropic zou zo krachtig zijn dat het zwakke plekken in de IT-systemen van overheden, banken en ziekenhuizen kan opsporen. “Met Mythos kan je in één druk op de knop de NS platleggen”, zegt Van Sparrentak. “Doodeng”. De Europarlementariërs kunnen alleen maar gissen naar de rekenkracht van het model.

Anthropic bracht Mythos nog niet op de markt, omdat het model zo krachtig is dat het te gevaarlijk zou kunnen zijn. De AI-ontwikkelaar gaf slechts een handjevol Amerikaans bedrijven toegang tot het model, om te kunnen leren waartoe het allemaal in staat is. ENISA, de cyberwaakhond van Europa, kreeg geen toegang.

Grote urgentie

Uitvoerend directeur van ENISA Hans de Vries probeert de Europarlementariërs tot rust te manen. Volgens hem betekent Mythos geen “cybersecurity doomsday” voor Europa. Sterker nog, De Vries ziet dat Mythos een “geweldige kans” biedt om falen in Europese systemen te detecteren en te versterken.

Van Sparrentak zit vol ongeloof te luisteren, inclusief ver opengesperde ogen en mond. “Zelfs als Mythos tot de helft in staat is van wat wordt gezegd, brengt het enorme gevaren met zich mee.” De Europarlementariër had verwacht dat ENISA blijk gaf van grote urgentie om Europa tegen het model te wapenen, “maar dat gevoel krijg ik totaal niet.”

Buskruit

Ook Europarlementariër Bart Groothuis (VVD) maakt zich zorgen. Hij schreef een brief aan verantwoordelijk Eurocommissaris Henna Virkkunen waarin hij waarschuwt voor de “ongekende bedreiging” die op de Europese cyberveiligheid afkomt. Volgens hem zijn Europese IT-systemen niet bestand tegen de kracht van Mythos. Bovendien waarschuwt hij dat er meer AI-modellen met soortgelijke krachten als Mythos verschijnen. Hij roept de Europese Commissie op om onmiddellijk te handelen.

Dirk Gotink (NSC) sloot zich aan bij zijn collega. Hij vergeleek de ontdekking van een AI-model dat over zulke sterke rekenkracht beschikt met de uitvinding van het buskruit. “Dit gaat onze maatschappij op haar grondvesten doen schudden. Wat doet de Europese Commissie eraan?”

Dit artikel verscheen eerder in de Nieuwsbrief Digi en Data.