De AI Act: Europese Regelgeving voor AI

Wat is de AI Act? Lees het bij de AI-Wiki van So-MC

De AI Act is de wetgeving van de Europese Unie die regels vaststelt voor de ontwikkeling, het op de markt brengen en het gebruik van kunstmatige intelligentie (AI) binnen de EU. Het is ‘s werelds eerste uitgebreide wettelijke kader voor AI en heeft als doel ervoor te zorgen dat AI-systemen veilig zijn, grondrechten respecteren en tegelijkertijd innovatie bevorderen.

Hoe werkt de AI Act? (Risicogebaseerde Aanpak)

De kern van de AI Act is een risicogebaseerde aanpak. AI-systemen worden ingedeeld in vier categorieën, afhankelijk van het risico dat ze vormen:

1. Onaanvaardbaar Risico: AI-systemen die een duidelijke bedreiging vormen voor de veiligheid, bestaansmiddelen en rechten van mensen zijn verboden. Voorbeelden zijn social scoring door overheden of AI die manipuleert om schadelijk gedrag te veroorzaken.
2. Hoog Risico: AI-systemen die een hoog risico vormen voor gezondheid, veiligheid of grondrechten. Deze zijn toegestaan, maar moeten voldoen aan strenge eisen op het gebied van data, transparantie, menselijk toezicht en robuustheid. Voorbeelden zijn AI in medische apparaten, kritieke infrastructuur, werving & selectie, of rechtshandhaving.
3. Beperkt Risico: AI-systemen waarvoor specifieke transparantieverplichtingen gelden. Gebruikers moeten bijvoorbeeld weten dat ze interacteren met een AI (zoals een chatbot) of dat content AI-gegenereerd is (deepfakes).
4. Minimaal Risico: De meeste AI-systemen vallen in deze categorie (bijv. spamfilters, AI in videogames). Hiervoor gelden geen extra verplichtingen, hoewel vrijwillige gedragscodes worden aangemoedigd.

AI Act Risico niveau’s thermometer

We hebben de risico’s van het gebruik van AI gevisualiseerd in een ‘AI Act Thermometer’:

Wat betekent de AI Act voor Generatieve AI?

Generatieve AI verwijst naar systemen die zelfstandig nieuwe content creëren, zoals tekst, afbeeldingen, audio of video. Denk aan tools als ChatGPT, Gamma AI of Synthesia. De AI Act stelt dat deze systemen transparant moeten zijn over hun werking en herkomst van data, en misbruik actief moeten tegengaan. Ontwikkelaars van generatieve AI-modellen moeten o.a. documentatie bijhouden over het trainingsmateriaal en mechanismen inbouwen tegen desinformatie of auteursrechtenschending.

Wat zijn synthetische media?

Synthetische media zijn beelden, video’s, stemmen of teksten die (deels) worden gegenereerd door kunstmatige intelligentie. Denk aan AI-afbeeldingen uit tools zoals Midjourney, automatisch gegenereerde teksten met ChatGPT, of video’s waarin een persoon iets zegt wat hij nooit heeft gezegd (deepfakes). Deze content lijkt vaak realistisch, maar is volledig digitaal samengesteld zonder directe menselijke creatie.

Waarom zijn synthetische media belangrijk in de AI Act?

De AI Act verplicht tot transparantie bij het gebruik van synthetische media, vooral als deze kunnen misleiden. Als je AI gebruikt om realistische content te maken—zoals nagemaakte stemmen, beelden van personen of nieuwsachtige video’s—moet je duidelijk maken dat het door AI is gegenereerd. Dit voorkomt misleiding, beschermt fundamentele rechten en zorgt voor verantwoord gebruik van generatieve AI in communicatie en marketing.

Wat betekent de AI Act voor ondernemers en marketeers?

De impact hangt af van hoe je AI gebruikt of ontwikkelt:

• Transparantie: Als je chatbots of AI-gegenereerde content gebruikt, moet je dit vaak duidelijk maken aan gebruikers.
• Hoog-risico Systemen: Als je AI inzet voor cruciale beslissingen (bijv. in HR, kredietwaardigheid), moet je voldoen aan strenge eisen en mogelijk een conformiteitsbeoordeling doorlopen.
• Leverancierskeuze: Let bij het kiezen van AI-tools of -leveranciers op hun naleving van de AI Act.
• Data Governance: Zorg dat de data die je gebruikt voor AI (training of input) voldoet aan privacyregels (AVG/GDPR) en de eisen van de AI Act.
• Kansen: De wet kan ook vertrouwen in AI vergroten en een gelijk speelveld creëren.

Blijf op de hoogte van de AI Act

De implementatie van de AI Act is een doorlopend proces. Het is belangrijk om de ontwikkelingen te volgen:

• Lees onze blog; AI Act in de praktijk wat moet je weten?
• Volg updates van de Europese Commissie en nationale toezichthouders.
• Volg een AI Act & AI Geletterdheid Training

Navigeer door AI-regelgeving

Wil je zeker weten dat jouw AI-toepassingen voldoen aan de AI Act en andere relevante regelgeving? Bekijk ons AI Content Automation Membership voor updates en advies over compliance.