E210019
Laatste revisie: 16-09-2021

E210019 - Een Europese aanpak van artificiële intelligentie bevorderen



Op 21 april 2021 presenteerde de Europese Commissie een pakket voorstellen betreffende kunstmatige intelligentie (AI). Het pakket bestaat uit een mededeling en twee voorstellen voor een verordening:


Stand van zaken

Behandelfase Eerste Kamer: behandeling in commissie Eerste Kamer.

nationaal

Op 14 september 2021 leverden de fracties van VVD (De Blécourt-Wouterse) en GroenLinks (Veldhoen) inbreng voor schriftelijk overleg.

Europees

Tijdens de JBZ-Raad van 15-16 juli 2021 (32.317, MH) werd gesproken over het voorstel voor een verordening betreffende AI. Er vond een discussie plaats over de impact van de verwerking van biometrische gegevens door AI-systemen op de grondrechten. De meeste landen zijn positief over het voorstel. Lidstaten zien nog wel veel onduidelijkheden. Een aantal lidstaten wil, naast het huidige voorstel, een specifiek voorstel over het gebruik van AI bij rechtshandhaving.


Kerngegevens

volledige titel

Communication from the Commission to the European Parliament, the Council, the European Economic and social Committee and the Committee of the Regions: Fostering a European approach to Artificial Intelligence

document Europese Commissie

COM(2021)205PDF-document, d.d. 21 april 2021

commissie Eerste Kamer

beleidsterreinen


Behandeling Eerste Kamer

Op 14 september 2021 leverden de fracties van VVD (De Blécourt-Wouterse) en GroenLinks (Veldhoen) inbreng voor schriftelijk overleg.

Op 29 juni 2021 besloten de commissies J&V, EZK/LNV en I&A/JBZ dat de commissie J&V de voorstellen in behandeling neemt. Zij levert op 14 september 2021 inbreng voor schriftelijk overleg.

Op 31 mei 2021 ontving de Kamer de BNC-fiches over de Commissiemededeling (COM(2021)205) en het voorstel voor een verordening betreffende geharmoniseerde regels (COM(2021)206) voor kunstmatige intelligentie. Het BNC-fiche over het voorstel voor een verordening betreffende machineproducten (COM(2021)202) ontving de Kamer op 18 juni 2021.

Op 11 mei 2021 besloten de commissies J&V, EZK/LNV en I&A/JBZ de BNC-fiches over de voorstellen af te wachten.


Behandeling Tweede Kamer

Op 5 juli 2021 stuurde de commissie J&V een brief aan de ministers van J&V en voor Rechtsbescherming en de staatssecretaris van J&V onder andere naar aanleiding van de geannoteerde agenda voor de JBZ-Raad van 15-16 juli 2021. De commissie stelde onder meer vragen over de voorstellen inzake AI, en ging daabij in op grondrechten en AI, mogelijke risico's van de verordening, de lijst van acties van de Europese Commissie met betrekking tot waarden en rechten, rechtshandhaving en AI en het informeren van bedrijven over regelgeving. Op 7 juli 2021 zijn de vragen beantwoord en op 12 juli 2021 werd het verslag schriftelijk overleg (32.317, 702) vastgesteld.

Op 6 juli 2021 besloot de commissie EZK het BNC-fiche over het voorstel voor een verordening betreffende machineproducten (COM(2021)202) te agenderen voor het schriftelijk overleg op 12 juli 2021 over de informele Raad voor Concurrentievermogen van 19, 21-22 juli 2021. De commissies VWS, EU en SZW zijn volgcommissies.

Op 9 juni 2021 besloot de commissie DiZa op 10 september 2021 inbreng te leveren voor schriftelijk overleg over de Commissiemededeling (COM(2021)205) en het voorstel voor een verordening betreffende AI (COM(2021)206). Daarnaast wordt COM(2021)206 betrokken bij het gesprek met Eurocommissaris Vestager over de voorstellen inzake digitale diensten en digitale markten op 7 oktober 2021. De commissies EU, J&V, BiZa en EZK zijn volgcommissies.

Op 27 mei 2021 besloot de commissie DiZa het voortouw over te nemen van de commissie EZK en het voorstel voor een verordening betreffende AI (COM(2021)206) aan te houden tot het BNC-fiche is ontvangen.

Op 12 mei 2021 besloot de commissie EZK de commissie DiZa te verzoeken om het voorstel voor een verordening betreffende AI (COM(2021)206) in behandeling te nemen.


Standpunt Nederlandse regering

BNC-fiche over de Commissiemededeling: Een Europese aanpak van kunstmatige intelligentie bevorderen (COM(2021)205)

Op 31 mei 2021 is het BNC-fiche over de Commissiemededeling aan de Kamer verzonden. Het kabinet is positief over de AI-ambities in de mededeling, omdat de opmars van AI, de investeringen vanuit de VS en China en bredere geopolitieke ontwikkelingen en veiligheidsdreigingen vragen om een ambitieuzere aanpak op EU-niveau, aldus het kabinet.

Het kabinet gaat in het BNC-fiche in op de vier actielijnen van het plan.

  • 1. 
    Gunstige voorwaarden scheppen voor de ontwikkeling en toepassing van AI

Het kabinet onderschrijft het belang van gunstige voorwaarden, zoals een kader om beleidsinzichten te delen en het potentieel van data voor AI te benutten. Een sterke data-infrastructuur vindt het kabinet essentieel. (Bestaande) EU-initiatieven kunnen volgens het kabinet bijdragen aan een veilige en betrouwbare data-infrastructuur in de EU. Het kabinet vindt het waarborgen van de samenhang tussen de initiatieven een aandachtspunt.

  • 2. 
    Van de EU een plek maken waar AI-excellentie kan floreren van laboratorium tot de markt

Het kabinet verwelkomt het opzetten van Europese samenwerkingsverbanden op het gebied van AI onder het Horizon Europe programma. Het kabinet is voorstander van partnerschappen tussen bedrijfsleven en kennisinstellingen.

  • 3. 
    Ervoor zorgen dat AI ten dienste staat van de mens en ten goede komt aan de samenleving

De Europese aanpak voor AI wordt ontwikkeld op basis van de ecosystemen voor vertrouwen en excellentie. Volgens het kabinet heeft dit niet alleen met regelgeving te maken, maar bijvoorbeeld ook met het toepassen van AI op maatschappelijke uitdagingen. Daarnaast is het kabinet het met de Europese Commissie eens dat iedereen bijscholingsmogelijkheden moet hebben op het gebied van AI.

  • 4. 
    Opbouwen van strategisch leiderschap in sectoren met een hoge impact

Het kabinet verwelkomt de zeven sectorale actiegebieden met hoge impact (energie en milieu, gezondheid en zorg, robotica (smart industry), publieke dienstverlening, veiligheid, mobiliteit en landbouw) om strategisch leiderschap in op te bouwen.

Bevoegdheid

Het kabinet beoordeelt de bevoegdheid van de EU voor het voorstel als positief. Op het terrein van interne markt is sprake van een gedeelde bevoegdheid tussen de EU en de lidstaten. Op het terrein van onderzoek en technologische ontwikkeling is sprake van een parallelle bevoegdheid. Op het terrein van industriebeleid is sprake van een aanvullende bevoegdheid.

Subsidiariteit

Ook de subsidiariteit van het voorstel beoordeelt het kabinet als positief. Volgens het kabinet kunnen Europese AI-bedrijven zich onderscheiden met een mensgerichte benadering. Volgens het kabinet is optreden op EU niveau gerechtvaardigd om de positie van de EU op AI te versterken.

Proportionaliteit

Verder beoordeelt het kabinet de proportionaliteit van het voorstel als positief. Het voorstel staat volgens het kabinet in verhouding tot het doel, geeft lidstaten voldoende ruimte om vervolgstappen in te vullen en gaat niet verder dan noodzakelijk.

Krachtenveld

Volgens het kabinet zijn de EU-lidstaten overwegend positief over het AI-pakket. Het Europees Parlement richtte vorig jaar een speciale commissie op die zich bezighoudt met AI en heeft gepleit voor een kader voor ethische aspecten van AI. Het Europees Parlement heeft nog geen specifiek standpunt ingenomen over de mededeling.

BNC-fiche over het voorstel voor een verordening betreffende machineproducten (COM(2021)202)

Het BNC-fiche over het voorstel betreffende machineproducten is op 18 juni 2021 aan de Kamer verzonden. Het kabinet is voorstander van de vervanging van de huidige machinerichtlijn. Het kabinet vindt het positief dat de regels gestroomlijnd worden en omgezet worden naar een verordening. Stroomlijning zorgt volgens het kabinet voor efficiënter markttoezicht en een gelijk speelveld.

Kanttekeningen

Wel vraagt het kabinet om een betere Nederlandse vertaling van het voorstel, duidelijkere terminologie en aansluiting bij eerdere stroomlijning van het Europees productbeleid. Het kabinet kan instemmen met de inhoudelijke aanpassing van de reikwijdte en de essentiële veiligheidseisen.

Bevoegdheid

Het kabinet beoordeelt de bevoegdheid van de EU voor het voorstel als positief. Het kan zich vinden in de rechtsbasis artikel 114 VWEU, dat gaat over de bevoegdheid van de EU tot harmonisatie van nationale wetgeving die de instelling en de goede werking van de interne markt betreft. Op het terrein van de interne markt hebben de EU en de EU-lidstaten een gedeelde bevoegdheid.

Subsidiariteit

Het kabinet oordeelt ook positief over de subsidiariteit van het voorstel. Om de interne markt voor machines te versterken is volgens het kabinet optreden op EU-niveau gerechtvaardigd. Volgens het kabinet kunnen ook de inconsistenties tussen EU-regelgeving en de ongelijke uitvoering van Europese regelgeving alleen op EU-niveau worden aangepakt.

Proportionaliteit

Ook beoordeelt het kabinet de proportionaliteit van het voorstel als positief. Het kabinet vindt het voorgestelde plan geschikt om het doel te bereiken. Het plan gaat volgens het kabinet niet verder dan noodzakelijk.

Krachtenveld

Het kabinet verwacht dat andere lidstaten voorstander zijn van de stroomlijning van de regelgeving en de keuze voor een verordening. Het kabinet denk dat er met name discussie komt over de gedelegeerde handelingen. Volgens het kabinet is ook het Europees Parlement positief over het voorstel.

BNC-fiche over het voorstel voor een verordening tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (COM(2021)206)

In het BNC-fiche van 31 mei 2021 geeft het kabinet zijn standpunt over het voorstel. Het kabinet verwelkomt het voorstel. Het kabinet vindt het belangrijk dat striktere regels gaan gelden voor AI-systemen met een hoog risico. Ook is het positief over de doelstelling om als EU leiderschap te tonen in betrouwbare en veilige AI.

Kanttekeningen

Wel heeft het kabinet een aantal vragen en bezwaren. Het kabinet vindt dat niet alle definities en formuleringen in het voorstel helder zijn, met name de formulering van de verboden en de hoog-risico categorieën en de definities van provider, gebruiker en de 'ingebruikname' van AI-systemen. Ook heeft het kabinet vragen en kanttekeningen bij de definitie van AI, de uitvoering van conformiteitsbeoordelingen en de transparantieverplichtingen, toezicht op de inzet van AI-systemen en de praktische haalbaarheid van het plan voor bedrijven en organisaties. Het kabinet vraagt de Europese Commissie om zaken waar nodig te verduidelijken, en waar dat niet kan ruimte te geven om in de praktijk bij te sturen.

Bevoegdheid

De bevoegdheid van de EU voor het voorstel beoordeelt het kabinet positief. De EU heeft volgens artikel 114 VWEU de bevoegdheid tot harmonisatie van nationale wetgeving voor een goede werking van de interne markt. Het kabinet kan zich vinden in deze rechtsbasis. Daarnaast kan het kabinet zich vinden in artikel 16 VWEU als rechtsbasis voor de voorgestelde regels met betrekking tot AI-systemen die gebruik maken van persoonsgegevens, specifiek ten aanzien van AI-systemen die gebruikmaken van biometrische identificatie.

Subsidiariteit

Ook heeft het kabinet een positief oordeel over de subsidiariteit van het voorstel. Het kabinet vindt dat gezien de mogelijke grensoverschrijdende risico's voor veiligheid en fundamentele rechten die AI-systemen met zich mee kunnen brengen en het belang van een gelijk speelveld binnen de EU geharmoniseerde regels op EU-niveau wenselijk zijn.

Proportionaliteit

Verder oordeelt het kabinet positief over de proportionaliteit van het voorstel. Het voorstel staat volgens het kabinet in verhouding tot het doel van het voorstel, namelijk om ervoor zorgen dat AI-systemen die op de Europese markt worden gebracht en gebruikt, veilig en in overeenstemming zijn met de rechten en waarden binnen de EU.

Krachtenveld

De EU-lidstaten reageren volgens het kabinet overwegend positief op het voorstel. Het kabinet verwacht dat ook het Europees Parlement positief zal zijn over het voorstel, omdat het eerder heeft gepleit voor een kader voor ethische aspecten van kunstmatige intelligentie


Samenvatting voorstel Europese Commissie

Commissiemededeling: Een Europese aanpak van kunstmatige intelligentie bevorderen (COM(2021)205)

In deze mededelingPDF-document gaat de Europese Commissie in op de enorme impact die AI op het leven van mensen zal hebben in de komen jaren. AI heeft vele voordelen zoals minder vervuiling, minder verkeersdoden maar AI kan ook een bijdrage leveren in de strijd tegen het COVID-19 virus. Echter, AI brengt ook risico's met zich zoals ondermijning van fundamentele rechten en democratische processen. Gezien de snelle technologische ontwikkelingen en de investering in AI in andere werelddelen zal ook de EU hierin moeten investeren. Daarmee is een begin gemaakt in april 2018 door de publicatie van de 'European AI strategy' en het witboek over AI in februari 2020.

AI kent twee kanten: mogelijkheden en risico's. Gezien de potentie van AI is de Europese Commissie van plan om 1 miljard euro per jaar te investeren en hiermee ook mogelijke investeringen van private partijen teweeg te brengen. De commissie is voornemens de mogelijkheden van AI te versterken in de komende 10 jaren met goede toegang tot data en nieuwe wetgeving en regelgeving. De recent aangenomen 'Recovery and Resilience Facility' (RFF) maakt leningen en subsidies mogelijk voor lidstaten om investeringen op dit terrein te doen en hervormingen door te voeren.

Het versterken van de capaciteit in AI kan bijdragen aan de veerkracht van de EU tegen toekomstige tegenvallers, maar kan ook bijdragen aan de 'vergroening' en verduurzaming van de Europese Unie.

AI kent ook risico's zoals de ondoorzichtigheid van algoritmes die een risico vormen voor de veiligheid en de bescherming van fundamentele rechten van mensen en bedrijven omdat het vaak niet mogelijk om te achterhalen waarom bepaalde resultaten uit een AI-systeem komen. Ook kan slechte training en het ontwerp van een AI-systeem leiden tot schendingen van privacy. Het is daarom dat er een framework (kaders) van regelgeving komt voor betrouwbare artificiële intelligentie.

De voorgestelde regelgeving dient ervoor om de transparantie en het draagvlak te vergroten en de risico's voor veiligheid en fundamentele rechten te verkleinen.

Voorstel voor een verordening betreffende machineproducten (COM(2021)202)

Deze (ontwerp)verordeningPDF-document over machineproducten repareert de gaten van de oude 'machinerichtlijn'. De verordening regelt meer juridische zekerheid, betere uitleg van reikwijdtes en definities, betere aanpak van machines met een hoog risico, verlaging van de impact op het milieu en de kosten van de fabrikant om instructies voortaan digitaal aan te leveren in plaats van gedrukt, het wegwerken van inconsistenties met andere onderdelen van productveiligheidswetgeving van de Unie en tot slot het verkleinen van verschillen in interpretatie als gevolg van omzetting.

Voorstel voor een verordening tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie (COM(2021)206)

Deze (ontwerp)verordeningPDF-document zorgt voor geharmoniseerde regelgeving voor artificiële intelligentie. AI behoort tot de snelgroeiende technologie die zorgt voor vele economische en maatschappelijke voordelen. Door het verbeteren van voorspelbaarheid, het optimaliseren van operaties en de toewijzing van middelen en het personaliseren van dienstverlening kan het gebruik van AI sociale en milieuvriendelijke resultaten bieden. Met name op de gebieden van klimaatveranderingen, milieu, zorg, financiën, mobiliteit en landbouw is optreden van AI goed denkbaar. Het gebruik van AI kan evenwel ook voor risico's of negatieve gevolgen voor individuelen of de maatschappij zorgen.

De verordening stelt daarom een risicogebaseerde aanpak voor, waarbij een onderscheid wordt gemaakt tussen AI-toepassingen die i) een onaanvaardbaar risico, ii) een hoog risico, en iii) een laag of minimaal risico met zich meebrengen. Er komt een lijst van verboden praktijken in titel II die alle AI-systemen bevat waarvan het gebruik onaanvaardbaar wordt geacht omdat het strijdig is met de waarden van de Unie, bijvoorbeeld vanwege een schending van grondrechten. Het verbod heeft betrekking op praktijken die een aanzienlijk potentieel hebben om personen, zonder dat ze zich daarvan bewust zijn, te manipuleren of misbruik te maken van de kwetsbaarheid van specifieke kwetsbare groepen.

AI-systemen met een hoog risico zullen aan strenge verplichtingen worden onderworpen voordat zij in de handel mogen worden gebracht:

  • adequate systemen voor risicobeoordeling en -beperking;
  • hoge kwaliteit van de datasets die het systeem voeden om risico's en discriminerende resultaten zoveel mogelijk uit te sluiten;
  • registratie van activiteiten om de traceerbaarheid van de resultaten te waarborgen;
  • gedetailleerde documentatie met alle nodige informatie om de autoriteiten in staat te stellen het doel en de conformiteit van het systeem te beoordelen;
  • duidelijke en adequate informatie voor gebruikers;
  • passend menselijk toezicht om de risico's tot een minimum te beperken;
  • sterke robuustheid, beveiliging en nauwkeurigheid.

De EU wil ervoor zorgen dat Europeanen kunnen profiteren van nieuwe technologieën die zijn ontwikkeld en dat deze functioneren volgens de waarden, grondrechten en beginselen van de Unie.

Deze verordening beoogt een gecoördineerde Europese aanpak van menselijke en ethische implicaties van AI en vertrouwen in AI.

Met het regelgevend kader stelt de Commissie de volgende doelstellingen voor:

  • Alle AI-systemen die in de Unie in de handel worden gebracht en worden gebruikt dienen veilig te zijn en in lijn met bestaande wetgeving inzake grondrechten en waarden van de Unie;
  • Zorgen voor rechtszekerheid om investeringen en innovatie in AI te vergemakkelijken;
  • Het verbeteren van het bestuur en de effectieve handhaving van bestaande wetgeving inzake fundamentele rechten en veiligheidsvoorschriften van AI-systemen;
  • Het ontwikkelen van een interne markt voor legale, veilige en bettrouwbare AI-toepassingen en het voorkomen van marktfragmentatie.

Behandeling Raad

COM(2021)206

Tijdens de JBZ-Raad van 15-16 juli 2021 (32.317, MH) werd gesproken over het voorstel voor een verordening betreffende AI. Er vond een discussie plaats over de impact van de verwerking van biometrische gegevens door AI-systemen op de grondrechten. De meeste landen zijn positief over het voorstel. Lidstaten zien nog wel veel onduidelijkheden. Een aantal lidstaten wil, naast het huidige voorstel, een specifiek voorstel over het gebruik van AI bij rechtshandhaving.

Tijdens de JBZ-Raad van 7 en 8 juni 2021 (32.317, MF) vond een eerste gedachtewisseling plaats over het voorstel voor een verordening betreffende AI (COM(2021)206). De Telecomraad heeft het voortouw bij de behandeling van het voorstel. De JBZ-Raad bespreekt de impact van AI op het veiligheidsterrein. Lidstaten hadden zorgen over de subsidiariteit van het voorstel, met met name op het gebied van rechtshandhaving. Meerdere lidstaten, waaronder Nederland, vroegen om een effectbeoordeling voor het veiligheidsdomein en het evenwicht tussen AI en de bescherming van grondrechten.

Een prioriteit van het Sloveens Voorzitterschap is om de ethische aspecten en mogelijke effecten van het gebruik van AI op de grondrechten aan te pakken.

Tijdens de Telecomraad van 4 juni 2021 (21.501-33, 869) gaf de Eurocommissaris voor interne markt, Thierry Breton, een presentatie over het voorstel voor een verordening betreffende AI (COM(2021)206).

In de databank EUR-Lex wordt de laatste stand van zaken in de Europese behandeling van het voorstel weergegeven.


Behandeling Europees Parlement

De voorstellen voor een verordening betreffende machineproducten (COM(2021)202) en voor een verordening betreffende AI (COM(2021)206) behoren tot de lijst van gemeenschappelijke wetgevingsprioriteiten van de drie EU-instellingen. Hiermee willen zij in 2021 aanzienlijke vooruitgang boeken.

Het Europees Parlement heeft verschillende studies gepubliceerd met betrekking tot AI. Deze zijn te vinden via deze link.

COM(2021)205

De commissie Interne markt en consumentenbescherming (IMCO) behandelt de Commissiemededeling inzake AI (COM(2021)205). De commissies Buitenlandse Zaken (AFET), Internationale handel (INTA), Begroting (BUDG), Economische en monetaire zaken (ECON), Werkgelegenheid en sociale zaken (EMPL), Milieubeheer, volksgezondheid en voedselveiligheid (ENVI), Industrie, onderzoek en energie (ITRE), Vervoer en toerisme (TRAN), Landbouw en plattelandsontwikkeling (AGRI), Cultuur en onderwijs (CULT), Juridische zaken (JURI), Burgerlijke vrijheden, justitie en binnenlandse zaken (LIBE) en Vrouwenrechten en gendergelijkheid (FEMM) zijn adviescommissies.

COM(2021)202

De commissie Interne markt en consumentenbescherming (IMCO) behandelt het voorstel voor een verordening betreffende machineproducten (COM(2021)202).

COM(2021)206

De commissie Interne markt en consumentenbescherming (IMCO) behandelt het voorstel voor een verordening betreffende AI (COM(2021)206). De commissies Milieubeheer, volksgezondheid en voedselveiligheid (ENVI), Industrie, onderzoek en energie (ITRE), Vervoer en toerisme (TRAN), Juridische zaken (JURI) en Burgerlijke vrijheden, justitie en binnenlandse zaken (LIBE) zijn adviescommissies.

In de databank OEIL van het Europees Parlement wordt de laatste stand van zaken in de behandeling van het voorstel weergegeven.


Standpunten andere lidstaten (IPEX)

Op 21 juli 2021 nam de Tsjechische Senaat een resolutiePDF-document aan over het voorstel voor een verordening inzake AI (COM(2021)206). De Senaat vraagt de rechten en plichten van providers en gebruikers van AI duidelijk te definiëren. De resolutie is verzonden aan de Europese Commissie.

Op 10 juni 2021 stuurde de commissie voor Europese Zaken van de Tsjechische Kamer van Afgevaardigden een resolutiePDF-document over het AI-pakket aan de Europese Commissie in het kader van de politieke dialoog.


Alle bronnen