“Hey Siri”, hoe vaak zegt u dit? Of gebruikt u een chat om online vragen te stellen over een product of dienst? Concrete voorbeelden van Artificial Intelligence (AI). Intelligente computers zijn meer en meer aanwezig in ons leven. Niet zonder risico. Daarom komt de EU met wetten en regels voor betrouwbare kunstmatige intelligentie. 

De nieuwe AI-verordening moet Europeanen vertrouwen geven in de mogelijkheden van AI, door een risicogebaseerde aanpak te volgen. In het concept van de AI-verordening zijn 4 risicogroepen benoemd. Van minimaal tot onaanvaardbaar.

1. Onaanvaardbaar risico;
   AI-systemen die een duidelijke bedreiging vormen voor de veiligheid, bestaansmiddelen en rechten van mensen worden verboden. Denk aan manipulerende systemen die aansporen tot ongewenst gedrag.    

2. Hoog risico;
   Dit zijn systemen die als risicovol worden gezien en bijvoorbeeld gebruikt worden in onderwijs, kritieke infrastructuurnetwerken of wetshandhaving. Met name alle systemen voor biometrische identificatie op afstand worden als risicovol beschouwd.

   De AI-systemen met het stempel ‘hoog risico’, moeten aan strenge voorwaarden voldoen voor ze op markt worden gebracht. Zo moet er onder meer passend menselijk toezicht zijn en moeten gebruikers duidelijk en adequaat geïnformeerd worden.

3. Beperkt risico;
   Voor deze AI-systemen gelden specifieke transparantieverplichtingen. Zo moet het voor de gebruiker duidelijk zijn dat hij bij gebruik van een virtuele assistent met een machine praat en niet met een mens.
   
   
4. Minimaal risico;
   Het concept van de nieuwe AI-verordening staat het vrije gebruik toe van op AI gebaseerde videospellen of spamfilters. De overgrote meerderheid van AI-systemen valt in deze categorie. Het risico voor de rechten of de veiligheid van burgers is bij deze categorie minimaal.

Ieder Europees land wijst een toezichthouder aan om de regels na te leven. Er komt een Europees comité voor kunstmatige intelligentie om de uitvoering van die regels te faciliteren en de ontwikkeling van normen voor AI te stimuleren.

Lees verder op de website van Advocatenkantoor Legalz.