We leven en werken in een digitale samenleving die beheerst wordt door snelle technologische ontwikkelingen zoals ChatGPT. De Europese Unie werkt aan een nieuwe AI-verordening die een belangrijke stap voorwaarts zet in de regulering van artificiële intelligentie (AI). Het Europees Parlement keurde in juni 2023 een ontwerp goed dat grote gevolgen zal hebben voor het bedrijfsleven.
AI-verordening in de maak
Het door het Europees Parlement goedgekeurde voorstel voor een nieuwe AI-verordening of Wet op de Artificiële Intelligentie is nog niet definitief. Ook de Europese Raad moet zijn zegen nog geven. Eens finaal goedgekeurd, zullen de regels mogelijk vanaf 2025 van toepassing zijn.
Deze nieuwe regels zullen een grote impact hebben op bedrijven in de hele EU, maar ook daarbuiten. Want alle toepassingen die in de EU beschikbaar zijn of verkocht worden, moeten voldoen aan deze nieuwe regels. De Europese AI-verordening is een wereldwijde baanbrekende poging om een balans te vinden tussen innovatie en de bescherming van fundamentele rechten.
Een kader voor verantwoorde AI-innovatie
De AI-verordening biedt een kader om het potentieel van AI te benutten en tegelijkertijd mensenrechten, veiligheid en transparantie te waarborgen. Ze heeft betrekking op een brede waaier aan AI-toepassingen: van chatbots, over cv-selectie tools tot zelfsturende auto’s. Ze zorgt ervoor dat bedrijven verantwoorde praktijken toepassen gedurende de gehele levenscyclus van AI. Door duidelijke regels op te stellen voor de ontwikkeling, implementatie en het gebruik van AI bevordert deze wetgeving een cultuur van verantwoorde innovatie.
Hoe meer risico, hoe strikter de regels
De nieuwe regels houden zware verplichtingen in voor aanbieders en gebruikers, afhankelijk van het risico van de AI-toepassing. De verordening hanteert een ‘risk based approach’. Dat wil zeggen hoe meer risico de technologie met zich meebrengt, hoe strikter de regels die erop van toepassing zijn.
De AI-toepassingen worden onderverdeeld in vier risiconiveaus: ontoelaatbaar, hoog, beperkt en minimaal risico. De verordening focust op systemen met een hoog risico. Denk bijvoorbeeld aan geautomatiseerde systemen die bepalen of burgers een lening, toelage of job krijgen. Zo’n AI-systemen zijn aan de meeste verplichtingen onderworpen. Die verplichtingen zijn onder meer de ontwikkeling van een systeem van risicobeheer, implementatie van kwalitatief databeheer en het voorzien van technische documentatie en transparantie voor de gebruikers.
Opportuniteiten en uitdagingen voor bedrijven
De AI-verordening zal alle bedrijven en gebruikers die AI-toepassingen willen inzetten, verplichten om een grondige ‘vendor due diligence’ te doen alvorens ze een door AI ondersteund product of dienst in gebruik nemen. Dat is van belang in tal van sectoren zoals de zorg, de financiële wereld of e-commerce.
Bedrijven die zelf AI-toepassingen op de markt brengen, als aanbieder, importeur of distributeur, moeten ook het nodige doen om aan de verplichtingen inzake transparantie en documentatie te voldoen. Dat geldt ook voor bepaalde producten als ze een EU-certificering willen bekomen.
Maak uw bedrijf klaar voor AI in 3 stappen
Hoewel de regels niet finaal zijn en 2025 nog veraf kan lijken, zet u best nu al een aantal stappen. De technologie evolueert namelijk razendsnel en de verplichtingen voor gebruikers en producenten/ontwikkelaars, importeurs en distributeurs zijn niet min.
Met deze 3 stappen bent u goed op weg:
- Breng het bestaan en gebruik van AI-systemen in uw bedrijf in kaart en de mogelijke ontwikkelingen die u in de komende jaren wilt doorvoeren. Match ze nu al met de voorziene verplichtingen. Neem ook de tijd om de nodige documentatie te verzamelen.
- Implementeer een risico- en kwaliteitsbeheer. Maak uw medewerkers bewust van de verplichtingen en mogelijke risico’s. Geef uw Data Protection Officer (DPO) ruimte om uw bedrijf voor te bereiden op de gevolgen van de AI-verordening en de wisselwerking met de GDPR.
- Zorg voor een systeem van voortdurende risico-evaluatie binnen de activiteiten van uw organisatie. Naarmate AI-systemen in de loop van de tijd evolueren, kan hetzelfde gebeuren voor de bijhorende risico's.
Begin op tijd
Maak in afwachting van de inwerkingtreding van de AI-verordening als bedrijf dus nu al uw huiswerk. In de praktijk zal dit neerkomen op een traject dat vergelijkbaar is met de GDPR-implementatie. De mogelijk boetes bij niet-naleving van de verplichtingen van de AI-verordening, zijn zelfs nog hoger en kunnen oplopen tot 30 miljoen euro of 6% van de wereldwijde omzet. Kortom, bereid u voor op de nieuwe AI-regels.
Hebt u vragen of wenst u begeleiding bij het opstellen van een actieplan? Onze AI-specialisten helpen u graag en met kennis van zaken.
