Partnerbijdrage
Artificiële intelligentie (AI) ontwikkelt zich momenteel met een sneltreinvaart en is daarmee een van de meest snelgroeiende technologieën. De Europese Unie heeft wetgeving ontwikkeld om het gebruik van AI te reguleren. Lees in dit artikel welke voorwaarden en bepalingen belangrijk zijn.
Tekst: Niels Ista, Senior Jurist ABAB Legal
Voordelen en nadelen van AI
Enerzijds biedt AI veel voordelen, zoals efficiëntere processen en betere besluitvorming. Anderzijds zijn er veel vragen over privacy en ethiek. De opkomst van AI heeft geresulteerd in een groeiende behoefte aan wetgeving om deze technologie te reguleren en te zorgen voor veilig en verantwoord gebruik. De Europese Unie en haar lidstaten hebben daarom een Artificial Intelligence Act opgesteld, waarin voorwaarden en bepalingen over het gebruik zijn opgenomen.
Artificial Intelligence Act (AI-Act)
In april 2021 heeft de Europese Commissie de eerste conceptversie van de AI-wetgeving al gepresenteerd in de vorm van de Artificial Intelligence Act. Het doel van de wetgeving is om een wettelijk kader te creëren voor het gebruik van AI in de EU, waarbij rekening wordt gehouden met de risico’s die gepaard gaan met deze technologie. Het streven is om de wetgeving dit najaar definitief vast te stellen.
AI-systemen met een hoog risico
De voorgestelde wetgeving richt zich op AI-systemen die als ‘hoog risico’ worden beschouwd, zoals systemen die worden gebruikt voor gezichtsherkenning en andere biometrische identificatie, kritieke infrastructuur, vervoer en energie. AI-systemen die worden gebruikt voor minder risicovolle toepassingen, zoals chatbots en klantenservices, worden niet onderworpen aan deze strenge regelgeving.
Belangrijkste punten AI-Act
Wanneer we inzoomen op de voorwaarden en bepalingen, dan valt een aantal zaken op in de act:
- Risicobeoordelingen
Bedrijven die AI-systemen op de markt willen brengen, moeten eerst een risicobeoordeling uitvoeren. Dit houdt in dat zij de potentiële risico’s van hun AI-systeem moeten identificeren en maatregelen moeten nemen om deze risico’s te minimaliseren. Dit omvat het identificeren van mogelijk discriminatoire effecten, het minimaliseren van de kans op fouten en het zorgen voor transparantie in het besluitvormingsproces van het AI-systeem. - Gebruikersrechten
De AI-wetgeving schrijft voor dat bedrijven gebruikersrechten moeten waarborgen. Dit betekent dat gebruikers het recht hebben om te weten wanneer ze met een AI-systeem te maken hebben en welke beslissingen op basis daarvan worden genomen. Ze hebben ook het recht om de uitkomsten van het AI-systeem te begrijpen en aan te vechten. - Transparantie
Bedrijven moeten transparant zijn over het gebruik van AI-systemen en informatie verstrekken over hoe de systemen werken en welke gegevens ze verzamelen. Dit houdt in dat bedrijven open moeten zijn over de algoritmen die zij gebruiken en uitleggen hoe die werken. - Datakwaliteit en privacy
Bedrijven moeten ervoor zorgen dat de gegevens die ze gebruiken voor hun AI-systemen van hoge kwaliteit zijn en geen onnodige vooroordelen bevatten. Bovendien moeten bedrijven de bescherming van persoonlijke gegevens van gebruikers waarborgen en ervoor zorgen dat de AI-systemen voldoen aan de Algemene Verordening Gegevensbescherming (AVG). - Aansprakelijkheid
Bedrijven zijn aansprakelijk voor schade die is veroorzaakt door hun AI-systemen. Dit betekent dat bedrijven verantwoordelijk zijn voor eventuele fouten of ongevallen die worden veroorzaakt door hun AI-systemen.
Invoering najaar 2023
Voor wat betreft de invoering van de Artificial Intelligence Act streeft de Europese Unie ernaar om in het najaar van 2023 een definitief akkoord te hebben. Vervolgens gaan de lidstaten met de wetgeving aan de slag. Veel van hen zijn ook al bezig met eigen wetgeving. De uitdaging wordt om de verschillende regels op elkaar aan te laten sluiten.
Wat betekent dit voor u?
Als u een bedrijf heeft dat AI-systemen ontwikkelt, verkoopt of gebruikt in de EU, doet u er verstandig aan om de ontwikkeling van de AI-wetgeving nauwlettend te volgen. Zorg ervoor dat u aan de (aanstaande) wetgeving voldoet. Uw diensten en producten moeten veilig en ethisch verantwoord zijn en moeten voldoen aan de verwachtingen van gebruikers.
Voor de inhoud en organisatie van onze Academy bijeenkomsten, masterclasses en communities voor ondernemers en bij de uitvoering van bepaalde dossiers werken we samen met vaste partners. Door deze samenwerking kunnen we gebruikmaken van de kennis, ervaring en faciliteiten van deze bedrijven.
