Artificiële intelligentie (AI) speelt een steeds grotere rol in onze samenleving. Het wordt toegepast in verschillende sectoren, zoals de gezondheidszorg, mobiliteit en industrie. Hoewel AI vele voordelen heeft, brengt het ook risico's met zich mee. Om deze risico's te beperken en de ontwikkeling van verantwoorde AI te stimuleren, heeft de Europese Commissie de AI Act voorgesteld. In dit artikel zullen we uitleggen wat de AI Act inhoudt en wat dit betekent voor bedrijven en organisaties.
AI Act
De AI Act is een nieuwe wetgeving die specifiek gericht is op kunstmatige intelligentie. Het heeft als doel een veilig en verantwoord gebruik van AI te waarborgen binnen de Europese Unie. De wetgeving is van toepassing op zowel bedrijven binnen de EU als bedrijven buiten de EU die AI-systemen aanbieden of gebruiken binnen de EU-markt.
Een belangrijk aspect van de AI Act is dat het een risicogebaseerde benadering hanteert. De wetgeving onderscheidt vier risicocategorieën: onacceptabel risico, hoog risico, beperkt risico en minimaal risico. AI-systemen die als onacceptabel risico worden geclassificeerd, worden volledig verboden. Dit omvat systemen die een direct gevaar opleveren voor de veiligheid en fundamentele rechten van individuen.
Voor AI-systemen die als hoog risico worden beschouwd, gelden strengere regels en vereisten. Dit omvat bijvoorbeeld systemen die gebruikt worden in kritieke infrastructuur, zoals de energievoorziening en transport. Bedrijven die deze systemen ontwikkelen of gebruiken, moeten voldoen aan transparantievereisten, verplichte documentatie en onafhankelijke evaluaties. Daarnaast moet er een menselijke toezichthouder aanwezig zijn om de werking van het AI-systeem te controleren.
Voor AI-systemen met beperkt of minimaal risico gelden minder strenge regels. Deze systemen worden beschouwd als minder gevaarlijk en hebben een kleinere impact op individuele rechten en veiligheid. Toch moeten ook deze systemen voldoen aan bepaalde basisvereisten, zoals traceerbaarheid en documentatie.
De AI Act omvat ook specifieke bepalingen met betrekking tot biometrische herkenningssystemen, zoals gezichtsherkenning. Deze systemen worden als hoog risico beschouwd, vanwege de mogelijke inbreuk op de privacy en de discriminatie die kan optreden. Het gebruik van biometrische herkenningssystemen voor identificatiedoeleinden in openbare ruimtes wordt in de meeste gevallen verboden, tenzij er een uitzondering van toepassing is.
Europees keurmerk
Naast de regelgeving voor AI-systemen bevat de AI Act ook een Europees keurmerk voor AI. Dit keurmerk wordt toegekend aan systemen die voldoen aan de hoge standaarden van de wetgeving. Het keurmerk kan helpen bij het opbouwen van vertrouwen bij gebruikers en consumenten.
De AI-Act is een poging om regulering toe te voegen aan de snelgroeiende AI industrie. In het verleden is gebleken dat het nodig is om de consument in bescherming te nemen. Neem bijvoorbeeld de AVG die 5 jaar geleden in werking is getreden en consumenten beschermt tegen het onrechtmatig gebruiken van persoonsgegevens en soortverwante data.
