AI Act en de opkomst van AI: kansen én risico’s voor gebruikers

Auteur(s): Jeroen van Schajik, BDO

AI is niet meer weg te denken uit ons dagelijks leven. Van slimme zoekmachines tot geautomatiseerde besluitvorming: AI verandert hoe we werken, communiceren en organiseren. Wat mag er straks nog wel en niet? En hoe bereid u uw organisatie voor op de nieuwe Europese AI-wetgeving? 

De AI Act introduceert duidelijke regels om risico’s van AI-gebruik te beperken, zoals gebrek aan transparantie en (onbedoelde) hoge risico’s voor onwenselijke resultaten. In dit artikel leest u wat de AI Act inhoudt, welke risico’s zij adresseert hoe u nú al stappen kunt zetten om voorbereid te zijn.

AI ontwikkelt zich sneller dan beleid

De ontwikkeling van AI gaat sneller dan veel organisaties kunnen bijbenen. Generatieve AI, zoals taalmodellen en beeldgeneratie, worden steeds krachtiger en toegankelijker. Grote technologische bedrijven zoals, Google en Microsoft verwachten dat AI niet alleen administratieve processen automatiseert, maar ook strategische besluitvorming beïnvloedt. Denk aan toepassingen in HR, juridische ondersteuning, klantcontact en beleidsvorming.

Tegelijkertijd groeit de behoefte aan transparantie, uitlegbaarheid en ethisch gebruik. AI dwingt organisaties om opnieuw na te denken over governance, datakwaliteit en menselijke controle.

Precies op deze behoeften speelt de AI Act in. De wet biedt kaders voor verantwoord AI-gebruik en helpt organisaties om risico’s te beheersen en vertrouwen te waarborgen.

AI Act: Europese regels voor verantwoorde AI

Vanaf 1 augustus 2024 is de AI Act officieel van kracht. De verplichtingen worden stapsgewijs ingevoerd. Vanaf begin 2025 zijn bepaalde AI-praktijken al verboden en gelden de eisen rond AI-geletterdheid. In de tweede helft van 2025 volgen strengere regels voor General-Purpose AI (GPAI)-modellen (zoals ChatGPT), governance en transparantie. Uiterlijk in 2027 moeten organisaties volledig voldoen aan de eisen van de AI Act. In onderstaand overzicht zijn de deadlines uit de AI Act opgenomen.

Bron: Autoriteit Persoonsgegevens

Deze deadlines zijn bindend. Organisaties moeten kunnen aantonen dat ze AI verantwoord inzetten, risico’s beoordelen, documentatie op orde hebben en medewerkers trainen. Wie te laat begint loopt risico op sancties opgelegd door toezichthouders, zoals boetes en het stopzetten van de AI-toepassingen, of reputatieschade.

Wacht dus niet af. Door nú te starten, laat u zien dat u als organisatie grip hebt op AI en klaar bent voor de toekomst.

Risico’s volgens de AI Act

De AI Act deelt AI-systemen in op risicoklassen:

• Onacceptabel risico: AI-systemen die manipuleren, misleiden of mensen beoordelen op sociale kenmerken. Deze zijn verboden.
• Hoog risico: AI in kritieke domeinen zoals gezondheidszorg, rechtspraak, infrastructuur of werkgelegenheid. Hier gelden strenge eisen: Transparantie, risicobeheer, documentatie en menselijke controle zijn verplicht.
• Beperkt risico: Denk aan chatbots of deepfakes. U moet gebruikers informeren dat ze met AI communiceren.
• Minimaal risico: Bijvoorbeeld spamfilters. Er gelden geen wettelijke eisen, maar verantwoord gebruik blijft belangrijk.

Zonder duidelijk overzicht van uw AI-toepassingen en hun risicoklassen, kunt u straks niet voldoen aan de wet. Dat kan leiden tot onderzoeken van toezichthouders, boetes, en/of reputatieschade. Door nu te starten met een risicoanalyse, voorkomt u verrassingen en laat u zien dat u controle hebt over uw AI-gebruik.

Wat kunt u als organisatie nu al doen?

Wacht niet tot augustus 2027. Zet vandaag nog de eerste stappen:

• Breng AI-gebruik in kaart: Waar gebruikt u AI? Denk aan klantinteractie, personeelsselectie of dataverwerking.
• Beoordeel risico’s: Bepaal de risicoklassen per toepassing.
• Vergroot bewustwording: Train medewerkers in AI-geletterdheid.
• Werk aan transparantie: leg uit wat u inzet, waarom en met welke beperkingen.
• Bereid documentatie voor: zeker bij hoog-risico AI moet u kunnen aantonen hoe het systeem werkt.

Dit artikel is door onze supporting partner BDO geschreven. Dit is de link naar het originele artikel