Wat is de AI Act? 🌍🤖

Kernpunten van de AI Act:

• Veiligheid en transparantie: AI-systemen moeten veilig zijn in gebruik en transparant werken, zodat het duidelijk is hoe beslissingen worden genomen.
• Risicogebaseerde aanpak: De wet hanteert een risicogebaseerde benadering, wat betekent dat de verplichtingen afhankelijk zijn van het risiconiveau van het AI-systeem.
• Toepassing in diverse sectoren: De regels zijn van toepassing op alle sectoren, van gezondheidszorg tot entertainment, met specifieke aanpassingen voor bijvoorbeeld opsporings- en veiligheidsdiensten.

Voor wie geldt de AI Act? 👥⚖️

De AI Act is relevant voor iedereen die AI ontwikkelt, op de markt brengt of inzet. Dit omvat producenten, integrators, importeurs en gebruikers van AI. Het is cruciaal dat alle betrokken partijen kunnen aantonen dat hun AI-systemen voldoen aan de wetgeving. Dit sluit aan bij bestaande Europese regelgeving, zoals de Medical Device Regulation (MDR) in de gezondheidszorg.

Boetes 💸🚨

Overtredingen van de AI Act kunnen leiden tot zeer hoge boetes:

• Grote overtredingen: Tot 35 miljoen euro of 7% van de wereldwijde omzet.
• Kleinere administratieve overtredingen: Tot 7,5 miljoen euro of 1,5% van de omzet.

Risiconiveaus in de AI Act 📊🔍

De AI Act deelt AI-systemen in op basis van hun risiconiveau:

• Onacceptabele risico’s: AI-systemen die Europese normen en waarden schenden, zoals predictive policing of biometrische surveillance in publieke ruimtes, zijn verboden in de EU.
• Hoge risico’s: Deze AI-systemen mogen alleen gebruikt worden als ze aan strenge voorwaarden voldoen, zoals duidelijkheid over de herkomst van data en menselijk toezicht. Voorbeelden zijn AI-systemen die medische hulpmiddelen aansturen of sollicitanten beoordelen.
• Lage risico’s: AI-systemen met een laag risico mogen de markt op zonder al te veel restricties, maar moeten wel transparant zijn en mogen geen beslissingen nemen zonder menselijke tussenkomst.

Verplichtingen voor AI-systemen 🛠️📜

Voor AI-systemen met een hoog risico zijn de volgende verplichtingen van toepassing:

• Fundamental Rights Impact Assessment: Een beoordeling van de impact van AI op zaken als veiligheid, privacy en discriminatie.
• Risicomanagementsysteem: Het identificeren, evalueren en beheren van potentiële risico’s.
• Systeem voor gegevensbeheer: Gebruik maken van onbevooroordeelde en kwalitatieve datasets.
• Technische documentatie: Gebruikers moeten precies weten hoe het AI-systeem werkt en hoe het veilig gebruikt kan worden.
• Transparantie en logging: Het AI-systeem moet transparant zijn in zijn werking, en alles moet gedocumenteerd worden om te kunnen traceren wat er is gebeurd.
• Menselijk toezicht: Er moet altijd menselijk toezicht zijn bij het gebruik van AI.
• Conformiteitsbeoordeling: Een specifieke beoordelingsprocedure die afgestemd is op de unieke risico’s van AI-systemen.

Wat betekent de AI Act voor jou? 🤔🏢

Als je werkt met AI of algoritmes, of dit overweegt, zijn er een paar belangrijke stappen die je nu al kunt nemen:

• Inventariseer je AI-systemen: Zorg dat je weet welke AI-systemen je gebruikt, waar ze vandaan komen en welke informatie je van leveranciers nodig hebt.
• Beoordeel je rol en verantwoordelijkheden: Controleer of je contracten en afspraken aansluiten bij de nieuwe wetgeving.
• Evalueer de uitvoer van AI-systemen: Zorg voor protocollen om de juistheid van AI-uitkomsten periodiek te controleren.
• Bepaal het risiconiveau: Check of jouw AI-systemen vallen onder de categorie hoog risico en zorg voor de juiste conformiteitsbeoordeling.