Op 13 maart heeft het Europees Parlement de AI Act aangenomen. Deze wet is vooral gericht op risicobewustzijn en veiligheid. Van de 616 stemmers waren er 523 vóór. Van de overige stemmers heeft de helft geen stem uitgebracht. De meeste mensen zijn het er dan ook over eens dat het van groot belang is om meer in te spelen op de veiligheidsrisico’s die het grootschalig gebruik van AI met zich meebrengt. Maar wat houdt deze wet precies in en wat zijn de gevolgen ervan?
Een wereld waarin AI op een veilige manier wordt gebruikt om burgers te beschermen, volgens ChatGPT
Wat staat er in de AI Act?
Er is lang overlegd over wat er allemaal in de wet zou komen te staan. Vorig jaar schreven we daarover al dit blog. Veiligheid en mensgerichtheid tijdens de AI-revolutie staan in deze wet centraal. De eerste stap is daarom dat alle AI-toepassingen worden ingedeeld op een risicoschaal. De categorieën met de hoogste risico’s krijgen als eerste een streng beleid. Ze moeten transparanter worden en er komt meer toezicht op het gebruik van de verzamelde gegevens. Een andere nieuwe regel is dat het verplicht wordt om duidelijk te vermelden wanneer video’s, afbeeldingen en audiobestanden met AI zijn bewerkt of gecreëerd.
Systemen met hoge risico’s
De belangrijkste regels hebben te maken met gezichtsherkenning. Er zijn allerlei bedrijven die gezichten van bijvoorbeeld beveiligingsbeelden “scrapen” om databases van gezichten aan te leggen. Dat wordt verboden. Ook mogen scholen geen gezichtsherkenning en emotieherkenning gaan inzetten. Zelfs de politie mag alleen nog bij hoge uitzondering en onder bijzondere omstandigheden gezichtsherkenning gebruiken, bijvoorbeeld om terroristen op te sporen.
Andere systemen die volgens het Europees Parlement een hoog veiligheidsrisico met zich meebrengen, zijn systemen die schade zouden kunnen toebrengen aan bijvoorbeeld de natuur, veiligheid en de wet. Deze systemen krijgen een uitgebreide controle en moeten te allen tijde in te zien zijn voor menselijke controleurs. Ook kunnen burgers door de nieuwe AI Act een klacht indienen als ze zich benadeeld voelen door systemen gebaseerd op kunstmatige intelligentie.
Wat is de invloed van de AI Act?
Ten eerste is het belangrijk om te vermelden dat de AI Act nog niet helemaal is aangenomen. In april moeten de ministers van de verantwoordelijke landen er ook nog over stemmen. Tot nu toe is de wet alleen aangenomen door het Europees Parlement. De verschillende regels in de AI Act zijn niet allemaal tegelijk van kracht, maar worden in de komende twee jaar langzaamaan geldig. Hoe alle veranderingen er precies uit gaan zien, is moeilijk te zeggen.
De meeste nieuwsartikelen zijn optimistisch over de AI Act. Sommige mensenrechtenorganisaties, zoals Amnesty, zijn echter niet zo enthousiast. Volgens hen worden bepaalde minderheden, zoals vluchtelingen, niet onder bescherming genomen door deze wet. Ook zijn ze het er niet mee eens dat de wet er tegelijkertijd op gericht is de handelspositie van Europa op de AI-markt te verbeteren. Europa bevat namelijk maar 3 procent van de grote AI-bedrijven. Dat is veel minder dan bijvoorbeeld China en de VS.
Hoe gaat het nu verder?
Met de nieuwe AI Act hoopt het Europees Parlement andere landen te inspireren om vergelijkbare veiligheidsmaatregelen te nemen. Aan de andere kant merkt de commissie op dat in Europa veel minder grote AI-bedrijven zitten dan in de VS en China. Wat dat betreft laat de concurrentiepositie wat te wensen over. En dat is nog niet alles. De commissie werkt al aan een volgende wet, die draait om richtlijnen voor arbeidsomstandigheden.
De AI Act is volgens veel mensen een baanbrekende wet, die ervoor moet zorgen dat de veiligheid van Europese burgers weer vooropstaat. Er is meer aandacht voor de negatieve invloed die kunstmatige intelligentie kan hebben op de Europese wet, maar ook op veiligheid en het milieu. Het Europese Parlement werkt nog aan meer regels. Ze hopen dat andere landen vergelijkbare maatregelen gaan nemen. Tegelijkertijd wil de EU werken aan een betere marktpositie als het gaat om AI-bedrijven.
