Vanaf deze week verbiedt de EU AI Act - de wet die de toepassing van AI-systemen reguleert - het gebruik van een aantal AI-praktijken. Veel organisaties denken aan deze eis te voldoen vanwege hun ervaring met eerdere regelgeving, merkt data- en AI-consultancy ADC. Door deze denkwijze kan het zo zijn dat organisaties de verboden AI-praktijken, onbewust nog gebruiken. “Organisaties hebben een onterecht gevoel van paraatheid. Dat heeft gevolgen voor hun compliance", aldus dr. Casper Rutjes, Chief Technology Officer bij ADC.

Compliancerisico voor organisaties
Het (onbewust) toepassen van verboden AI-praktijken, noemt Rutjes een risico voor organisaties. “Zij beschikken vaak niet over de nodige controlesystemen en richtlijnen om het verantwoord gebruik van AI-praktijken te waarborgen en het risicomanagement optimaal uit te voeren, zeker omdat steeds meer software geleidelijk AI-functionaliteiten uitrollen in updates en het niet duidelijk of, waar en in hoeverre AI wordt ingezet”, licht Rutjes toe. “Dit leidt tot risico’s, zoals non-compliance, potentieel hoge boetes en zelfs reputatieschade tot gevolg”.

Meer privacy en veiligheid voor burgers
Voor burgers pakt het verbod op specifieke AI-praktijken positief uit, benadrukt Rutjes. “AI-praktijken die de autonomie, privacy of veiligheid van burgers in gevaar brengen, zijn vanaf nu verboden. In de verordening is een specifieke lijst opgesteld wat niet meer mag. Dit komt neer op een verbod op discriminatie, uitbuiting van kwetsbaarheden, bedreigingen voor de persoonlijke veiligheid, en het veroorzaken van machts-, hulpbronnen- of invloedsonbalans. Het verbod verhoogt dus de privacy en veiligheid van burgers.”

De noodzaak van AI-geletterdheid
De AI Act wordt sinds augustus 2024 gefaseerd ingevoerd. Vanaf vandaag zijn niet alleen specifieke AI-praktijken verboden (Prohibited Practices), maar moeten organisaties ook hun AI-geletterdheid (AI Literacy, kennis over AI) vergroten. “Vaak laten organisaties hun AI-geletterdheid alleen door specialisten verankeren, zoals data scientists. Maar omdat steeds meer werknemers AI gebruiken, is het cruciaal dat zij ook weten hoe ze AI effectief gebruiken en wat de risico’s zijn. Het opbouwen van AI-geletterdheid is niet langer optioneel; het is noodzakelijk om compliant en relevant te blijven”, aldus Rutjes.

De volgende stap: hoogrisico AI-systemen
De volgende implementatiefase - die over enkele maanden plaatsvindt - van de EU AI Act is nog belangrijker volgens Rutjes: het adresseren van de maatregelen die bij hoogrisico AI-systemen komen kijken. “Deze AI-praktijken zijn niet verboden, maar brengen wel aanzienlijke risico’s met zich mee. Ze hebben een directe impact op onze fundamentele rechten, en dus op de burgers. Daarom is het uiterst belangrijk om het risicomanagement hiervoor optimaal in te richten”, concludeert Rutjes.