De AI Act: wat moet u weten over de Europese regelgeving voor artificiële intelligentie?

Belangrijke punten van de AI Act

1. Verbod op risicovolle AI-toepassingen (onaanvaardbaar risico): AI-systemen die een direct gevaar vormen voor de veiligheid of de fundamentele rechten van mensen worden verboden. Dit betreft onder andere AI-toepassingen voor sociale kredietbeoordelingssystemen of real-time gezichtsherkenning in openbare ruimtes door overheden.
2. Hoog-risicosystemen: AI-systemen die aanzienlijke risico’s inhouden, zoals in de gezondheidszorg, het onderwijs, de rechtspraak en transport, moeten voldoen aan strikte eisen op het gebied van transparantie, documentatie, data-governance en menselijk toezicht. Bedrijven die dergelijke systemen ontwikkelen, zijn verplicht om gedetailleerde informatie te verstrekken over hoe het systeem werkt, welke data wordt gebruikt en hoe de risico’s gemitigeerd worden.
3. AI in het dagelijks leven: De verordening richt zich ook op AI-systemen die invloed hebben op het dagelijks leven van burgers, zoals AI op de werkplek, in financiële diensten en consumentenproducten. Bedrijven moeten ervoor zorgen dat deze systemen op een eerlijke en niet-discriminerende manier worden ontwikkeld en geïmplementeerd.
4. Verantwoordelijkheid en transparantie: Bedrijven moeten duidelijke mechanismen voor verantwoording inbouwen in hun AI-systemen, inclusief de mogelijkheid tot menselijke controle over kritieke beslissingen die door AI-systemen worden genomen. Burgers moeten bovendien kunnen begrijpen hoe AI-beslissingen worden genomen, wat bijdraagt aan transparantie en vertrouwen.
5. Strenge handhaving en boetes: De verordening voorziet, net zoals de GDPR, in strikte handhavingsmechanismen. Bedrijven die zich niet aan de regels houden, riskeren forse boetes die kunnen oplopen tot 6% van hun jaarlijkse wereldomzet. Dit maakt duidelijk dat de regelgeving serieus genomen moet worden.
6. Toezicht en samenwerking: Er wordt een Europese Artificial Intelligence Board opgericht die toezicht zal houden op de implementatie van de wet. Nationale autoriteiten spelen ook een rol in het toezicht op AI-toepassingen binnen hun respectieve landen, in samenwerking met het Europese netwerk.

Wat zijn de gevolgen voor bedrijven?

De goedkeuring van de AI Act heeft verstrekkende gevolgen voor bedrijven die werken met AI-technologie. Zij zullen ervoor moeten zorgen dat hun technologieën aan de nieuwe eisen voldoen en zich voorbereiden op strikte naleving en mogelijke zware boetes bij overtredingen. Dit betekent dat bedrijven moeten investeren in de kwaliteit en veiligheid van hun AI-systemen.

Het is mogelijk dat er in de toekomst aanvullende wetgeving komt die AI-regulering verder verfijnt of uitbreidt, afhankelijk van technologische ontwikkelingen en maatschappelijke behoeften.

Inwerkingtreding

De goedkeuring van de AI Act door het Europees Parlement is een belangrijke stap in de wereldwijde regulering van kunstmatige intelligentie. De regelgeving trad in werking op 1 augustus 2024 en zal in verschillende fasen worden geïmplementeerd:

• Vanaf 2 februari 2025 zijn AI-systemen met een onaanvaardbaar risico verboden en treedt een AI-kennisplicht in werking. Medewerkers die met AI-systemen werken, moeten voldoende kennis hebben.
• Vanaf augustus 2026 start het toezicht op AI-systemen met een hoog risico, en gaat de transparantieverplichting in voor AI-systemen met een beperkt risico.
• Vanaf augustus 2027 is de AI Act volledig van kracht en zal het toezicht op AI met een hoog risico voor bestaande gereguleerde producten beginnen.

Heeft u hulp nodig bij de implementatie van de AI Act en het in lijn brengen van uw AI-systemen met deze nieuwe regelgeving? Onze experts staan voor u klaar om u te ondersteunen.