Mijn leestip voor de zomer zijn de ‘Culture’ boeken. Een fraaie SF -reeks van wijlen Iain Banks (voor de twijfelaar; ook bekend van literair meer verantwoorde werken als ‘The crow road’). De Culture is een samenleving waarin mensen leven en AI bestuurt. Het is een typisch jaren 80-90 visie van een utopia. Fraai geschreven, actierijk, goede plots en ik begrijp werkelijk niet waarom het nog niet verfilmd is.
We zijn nog niet in dat utopia. Maar er is genoeg te doen over de geboorte van AI dus we zijn op de goede weg. Voorbeelden zijn het Chinese social credit system, bekende Nederlanders in compromitterende beelden en een jongere generatie met een disproportioneel % mentale gezondheidsprobleem. Allemaal (de schuld van) AI.
Zodoende zat ik recent bij een presentatie over de Verordening Kunstmatige Intelligentie (de ‘AI Act’) want ook de EU wenst de geboortestrubbelingen van AI in goede banen te leiden. De EU ging voorvarend te werk en de eerste tekst voor de AI Act lag ruim voor de ChatGTP hype (in 2021) al op tafel. Zoals dat gaat is wetgeving een geduldig proces. De finale tekst van de AI Act is in mei van dit jaar goedgekeurd. Publicatie is op het moment van schrijven aanstaande, waarna de AI Act getrapt in werking treedt.
Er zijn -voor de oplettende lezer- al pagina’s volgeschreven over de AI Act. Maar ik wil er hier toch twee zaken uitlichten.
Het eerste is het verheugende nieuws dat we in de EU niet de kant van het ‘social credit system’ opgaan omdat het gebruik van ‘biometrische identificatie op afstand’ expliciet verboden wordt. De ‘catch’ is dat een systeem met een dergelijke capaciteit wel geplaatst kan worden, want ‘verdachten’ mag je wél biometrisch identificeren.
Het tweede en minder verheugende feit is het gegeven dat er geen centrale toezichthouder komt voor de naleving van de verordening. In plaats daarvan zullen in Nederland de bestaande toezichthouders, overheidsinstanties en ministeries zich bezighouden met de handhaving op de eigen sectoren / producten. Mijn verwachting is dat dit de coördinatie en slagkracht van het toezicht niet ten goede komen, terwijl AI toepassingen exponentieel groeien.
Meer informatie is op tal van plaatsen beschikbaar, waaronder ongetwijfeld ook bij uw favoriete advocatenkantoor. Als u nu al werkt met AI dan is mijn advies om behalve kennis te maken met de ‘Culture’ ook wat meer over de AI Act te lezen.
