De toekomst van kunstmatige intelligentie: concept-verordening voor de regulering van AI door Europese Commissie gepubliceerd
Blog
Op 21 april 2021 publiceerde de Europese Commissie haar concept-verordening voor de regulering van kunstmatige intelligentie (hierna: AI). Het voorstel bevat een risico gebaseerde aanpak voor verschillende soorten AI: een verbod voor AI-systemen met een onaanvaardbaar risico, uitvoerige complianceregels voor hoog risico AI-systemen, transparantieregels voor bepaalde soorten AI en geen nieuwe regels voor AI zonder risico of met een minimaal risico. In aanvulling hierop werkt de Europese Commissie aan een revisie van de productaansprakelijkheidsrichtlijn en nieuwe regels voor de aansprakelijkheid van technologie (waaronder AI).
Door het optimaliseren van de bedrijfsvoering, het personaliseren van de dienstverlening, het verbeteren van voorspellingen en de allocatie van middelen levert AI allerlei voordelen op. Tegelijkertijd brengen bepaalde toepassingen van AI ook risico’s met zich mee. Om te zorgen voor een veilig en ethisch gebruik van AI heeft de Europese Commissie regels voor AI geformuleerd. In haar voorstel voor de AI-verordening kiest de Europese Commissie voor een risico gebaseerde aanpak met een brede definitie van AI.
Verordening 2021/0106 (COD)
De concept-verordening maakt een onderscheid tussen vier verschillende niveaus van risico bij de toepassing van AI. Het zwaartepunt van de verordening ligt op de vereisten voor AI met een hoog risico. Dit zijn AI-systemen die als (deel van een) product in specifieke regelgeving zijn opgenomen (zoals medische hulpmiddelen en auto’s) en AI-toepassingen die specifiek als risicovol zijn aangemerkt. Denk bijvoorbeeld aan AI-systemen voor de beoordeling van een asielaanvraag of een kredietwaardigheidscheck. Gedurende de hele levensduur is het AI-systeem aan strenge eisen onderworpen. Zo moet de aanbieder een adequaat systeem inrichten (en bijhouden) voor het beoordelen en beperken van risico’s. Verder stelt de verordening eisen aan de kwaliteit van de datasets die worden gebruikt voor de training, validatie en testen van het AI-systeem. Deze datasets moeten relevant, representatief, compleet en foutloos zijn. Ook bevat de verordening informatieverplichtingen richting de gebruikers van het AI-systeem. Om aan te kunnen tonen dat het AI-systeem aan de vereisten voldoet, dient de aanbieder een conformiteitsbeoordelingsprocedure te doorlopen. Ook nadat het AI-systeem op de markt is gebracht, is de aanbieder gehouden tot het melden van incidenten, het nemen van corrigerende maatregelen en het opnieuw doorlopen van een nieuwe conformiteitsbeoordelingsprocedure wanneer het AI-systeem verandert. De verordening bevat bovendien regels voor de gebruiker, importeur en distributeur van een hoog risico AI-systeem.
De meeste AI-systemen brengen niet zulke grote risico’s met zich mee. Voor AI-systemen zonder risico of met een minimaal risico, zoals een spamfilter of computerspellen, bevat deze verordening geen aanvullende maatregelen. Voor bepaalde AI-systemen zijn informatieverplichtingen opgenomen. Het moet bijvoorbeeld duidelijk zijn dat men met een AI-systeem communiceert en dat sprake is van een deep fake in plaats van een echt filmpje. Ook verbiedt de verordening sommige toepassingen van AI. Het gebruik van AI voor het exploiteren van kinderen of verstandelijk gehandicapten is onder andere niet toegestaan. Ook limiteert de verordening de mogelijkheden van het gebruik van biometrische gezichtsherkenning.
De Europese Commissie heeft met het voorliggende voorstel een kader gecreëerd van duidelijke regels waar AI-systemen aan moeten voldoen. Bij niet-naleving van die regels kunnen boetes worden opgelegd van maximaal € 30 miljoen of 6 procent van de wereldwijde omzet. Het voorstel volgt de gewone wetgevingsprocedure en gaat nu eerst langs de Europese Raad en het Europees Parlement. Het zal nog even duren voordat de definitieve tekst bekend is, maar het staat vast dat de Europese Commissie grootse plannen heeft. De volgende stap is het verduidelijken wie, wanneer, waarvoor aansprakelijk is en het vergemakkelijken van het vorderen van schade geleden door een gebrekkig AI-systeem.
Verdere plannen van de Europese Commissie
De verordening voor de regulering van AI maakt deel uit van een groter pakket van regelgevende voorstellen van de Europese Commissie. Gelijktijdig publiceerde de Europese Commissie de revisie van de Machinerichtlijn 2006/42/EC. Het voorstel is om deze richtlijn te vervangen door een verordening die gezondheids- en veiligheidsvereisten voor machines bevat.
Naast deze twee gepubliceerde voorstellen staat een revisie van de productaansprakelijkheidsrichtlijn op de agenda voor dit tweede kwartaal van 2021. Het doel is om de richtlijn om te zetten naar een verordening en aan te passen zodat deze beter aansluit op de (technologische) ontwikkelingen. De verwachting is ook dat de aanpassing duidelijkheid schept over de vraag of op zichzelf staande software onder de productaansprakelijkheidswetgeving valt.
Tot slot publiceert de Europese Commissie naar verwachting eind 2021 of begin 2022 een voorstel voor de regulering van aansprakelijkheid van nieuwe technologie, waaronder AI. Het Europees Parlement heeft hier reeds een voorschot op genomen met haar resolutie van 20 oktober 2020 (zie ook de blog van Anna Kitslaar op VAST (VAST 2020 / B-0060). Het uitgangspunt van het Europese Parlement is niet het vervangen van het hele aansprakelijkheidsregime, maar slechts de noodzakelijke aanpassingen te maken. De resolutie van het Europees Parlement gaat uit van een ander begrippenkader en actoren dan de concept-verordening, maar maakt eveneens een onderscheid tussen hoog risico AI en andere AI-systemen. De aanbeveling is dat voor hoog risico AI een risicoaansprakelijkheid gaat gelden (met schadevergoeding van maximaal € 2 miljoen) en voor andere AI-systemen een schuldaansprakelijkheid. Ook stelt de resolutie verplichte verzekeringen voor de verschillende actoren voor. Het is nog onduidelijk in hoeverre de Europese Commissie gaat aansluiten bij deze aanbevelingen van het Europees Parlement of haar eigen plan trekt. De auteur van deze blog schrijft te zijner tijd een praktijkartikel over het nog te publiceren voorstel van de Europese Commissie.
Keywords
Auteur(s)
Advocaat bij Van Doorne N.V. te Amsterdam