Artificial Intelligence (AI) is niet meer weg te denken uit de huidige samenleving. AI wordt niet alleen gebruikt voor het creëren van creatieve marketingteksten (ChatGPT), maar ook voor het opsporen van uitkeringsfraude door de overheid en het analyseren van MRI-scans in de gezondheidszorg. Om de toepassing van mensgerichte en betrouwbare AI-systemen te bevorderen en tegelijkertijd te zorgen voor een hoog beschermingsniveau om burgers te beschermen tegen de (eventuele) schadelijke gevolgen van AI-systemen, is de AI Act in het leven geroepen.
De nieuwe AI Act brengt verplichtingen met zich mee die gelden voor ontwikkelaars (aanbieders) en gebruikers (exploitanten) van AI-systemen. Het naleven van deze complexe wetgeving kan een grote uitdaging lijken, maar met onze gespecialiseerde AI Act compliance advocaat hoeft u zich geen zorgen te maken. Onze AI Act compliance advocaat heeft uitgebreide kennis van de AI Act en is goed uitgerust om u te helpen bij het nalevingsproces.
De AI Act is (onder meer) van toepassing op de aanbieders en exploitanten van de AI-systemen. De aanbieders zijn de partijen die de AI-systemen hebben ontwikkeld en ook op de markt hebben gebracht. Hierbij kan gedacht worden aan het bedrijf OpenAI dat het AI-systeem ChatGPT heeft ontwikkeld. De exploitanten betreffen de gebruikers van de AI-systemen, bijvoorbeeld wanneer uw organisatie gebruikmaakt van ChatGPT voor dagelijkse werkzaamheden. De AI Act is niet van toepassing op alle natuurlijke personen die een AI-toepassing gebruiken voor bijvoorbeeld persoonlijke (niet-professionele) doeleinden. Onze AI Act compliance advocaat verleent zowel diensten voor aanbieders als exploitanten van de AI-systemen.
Vanaf 2 februari 2025 moeten organisaties die AI-systemen ontwikkelen en/of gebruiken op basis van de AI-verordening zorgen voor een toereikend niveau van AI-geletterdheid. Dat houdt in dat medewerkers en andere betrokkenen voldoende kennis, vaardigheden en inzicht hebben om AI op een verantwoorde manier te gebruiken – afgestemd op hun rol, achtergrond en de context waarin AI wordt toegepast.
De Autoriteit Persoonsgegevens adviseert een structurele aanpak, via een meerjarig actieplan met vier stappen:
Identificeren – Breng in kaart welke AI-systemen uw organisatie gebruikt, wie ermee werkt, wat de risico’s en kansen zijn en hoe het huidige kennisniveau ervoor staat.
Doelen bepalen – Stel vast welke kennis en vaardigheden nodig zijn per functie of rol, en stem de ambitie af op het risicoprofiel van de AI-systemen.
Uitvoeren – Zorg voor passende trainingen, creëer bewustwording op alle niveaus en leg verantwoordelijkheden vast, bijvoorbeeld in een visie of door een AI-verantwoordelijke aan te wijzen.
Evalueren – Monitor de voortgang, meet het effect van de maatregelen en stel waar nodig bij. AI-geletterdheid is geen eenmalige inspanning, maar een continu proces.
Een AI Act compliance advocaat ondersteunt bedrijven en overheden bij het opzetten en toetsen van beleid rond AI-geletterdheid, het implementeren van bewustwordingsprogramma’s en het juridisch borgen van verantwoordelijkheden in beleid en contracten.
Afhankelijk van de risicocategorie waar het betreffende AI-systeem onder valt, gelden voor de aanbieders en exploitanten van AI-systemen verschillende verplichtingen. Ten aanzien van AI-systemen met een hoog risico dienen aanbieders bijvoorbeeld een conformiteitsbeoordeling uit te voeren, een risicomanagementsysteem te implementeren en te voldoen aan transparantieverplichtingen. Exploitanten dienen onder meer de gebruiksaanwijzingen van de aanbieder op te volgen, te zorgen voor voldoende menselijk toezicht, automatisch logs bij te houden en in bepaalde gevallen een “fundamental rights impact assessment” uit te voeren. Een AI Act compliance advocaat kan u ondersteunen bij het voldoen aan deze (compliance) verplichtingen.
Wanneer exploitanten of aanbieders niet aan hun verplichtingen voldoen, dan kunnen zij een boete opgelegd krijgen van de nationale toezichthouder tot maximaal 35 miljoen euro of 7% van de wereldwijde jaaromzet.
Onze AI Act compliance advocaat kan onder meer de volgende diensten voor u verrichten:
Zoekt u een AI Act compliance advocaat? Of heeft u specifieke vragen voor onze AI Act compliance advocaat? Neem dan contact op met één van onze specialisten Hillie Lunter of Tom Klatter.
