Het Brussels Effect
Een student in Boston die door een AI-chatbot zijn scriptie laat oppoetsen, heeft weinig reden om zich in Europese wetgeving te verdiepen. En toch zijn er straks onbedoeld Brusselse vingerafdrukken te zien in zijn tekst.
Luie leerlingen die liever gamen dan zelf een werkstuk schrijven, maar ook ijverige ambtenaren die de eindredactie van hun zorgvuldig geschreven beleidsstukken nog lichtjes door de website van Claude halen: opgelet!
Het Amerikaanse techbedrijf Anthropic heeft als eerste aangekondigd dat zijn AI-model Claude teksten gaat watermerken. Dit is in lijn met nieuwe EU-wetgeving en gaat uiteindelijk gelden voor alle AI-bedrijven.
Opvallend aan dit Brussels Effect is dat het, net als het watermerk, onzichtbaar uitwerkt tot ver buiten ons continent. En daarmee de industrie dwingt tot radicale koerswijzigingen.
(tekst loopt door onder foto)
Watermerk
Deze watermerktechnologie bouwt op het principe dat AI-taalmodellen uit synoniemen kunnen kiezen. Anthropic gaat die woordkeuze en -volgorde minder toevallig maken.
Daardoor worden teksten van Claude sneller herleidbaar. Omdat je niet weet welke keuzes er zijn gemaakt, heeft het ook zin om te proberen het watermerk te omzeilen; bijvoorbeeld door woorden te wijzigen of te vertalen. Alleen een volledige herschrijving kan het watermerk verzwakken.
Omdat het voor Anthropic praktisch ingewikkeld en te duur is om dit watermerksysteem alleen voor Europa te onderhouden, gaat het techbedrijf het wereldwijd uitrollen.
Dus ook gebruikers in India en Marokko kunnen maar beter goed opletten wat er in Brussel wordt besproken.
(tekst loopt door onder foto)
Onze burgerrechten op het spel
Deepfakes, foute algoritmes en imitatie van menselijke communicatie vormen niet alleen een risico voor onze veiligheid, maar kunnen ook diep ingrijpen in het leven van burgers. Het zijn onze burgerrechten die op het spel staan.
Onderzoeker A.T. Kingsmith van Queen’s University verwoordt het treffend: ‘Waar eerdere voorspellende systemen burgers classificeerden en rangschikten, creëert generatieve AI de informatieomgeving waarbinnen burgers handelen. Burgers moeten de auteurs van hun eigen collectieve toekomst blijven.’
Samengevat: AI verandert de burger van iemand die wordt bestuurd door instituties in iemand die door systemen wordt gemonitord en zelfs gestuurd. Daaruit vloeit een principiële vraag: staat AI ten dienste van burgers, of die krijgen systemen juist steeds meer macht over hen?
(tekst loopt door onder foto)
Ook kritiek
De Europese AI Act is het eerste brede wettelijke kader dat kunstmatige intelligentie nu afzonderlijk reguleert.
Maar de eerder aangehaalde Kingsmith is niet per se lyrisch over het Europese pakket aan maatregelen. De EU stelt namelijk strenge technische eisen aan commerciële partijen, maar wordt terughoudender zodra autoriteiten diezelfde technologie willen gebruiken.
En hiermee voegt hij zich bij een lange lijst van critici. VN-Hoge Commissaris voor de Mensenrechten Volker Türk vreest bijvoorbeeld dat er te weinig bescherming is tegen AI-gebruik door politiediensten.
Daar zit een opmerkelijke spanning: Europa wil zijn burgers beschermen tegen private willekeur, maar laat juist voor de publieke sector enkele riskante uitzonderingen bestaan.
Kortom, de AI-wet geeft geen antwoord op de vraag: hoe zorgen we dat de technologie ondergeschikt blijft aan de democratie?
De stille macht van Brussel
Deze nieuwe AI-wet leidt dus niet tot een dramatisch moment waarop de techbros uit Silicon Valley voor Brussel buigen.
Maar net doen alsof deze ‘gemankeerde wet’ klein bier is, is een denkfout.
(tekst loopt door onder foto)
Regulering loopt onvermijdelijk achter op revolutionaire technologie. En tegenmacht ontstaat niet opeens. Onze vertegenwoordigers in Brussel zijn wel degelijk een institutioneel bouwwerk aan het optrekken.
Of dit specifieke watermerk waterdicht is, is nog maar de vraag. Misschien is het in de toekomst eenvoudig te omzeilen. Maar dat verandert weinig aan het grotere verhaal.
Het gaat in de kern om het beperken van de groeiende macht van de techindustrie.
Deze zomer liet Brussel zijn geopolitieke spierballen rollen. Die macht is geen vliegdekschip in de Perzische Golf, maar een verborgen patroon in de zinnen van een Amerikaanse student, duizenden kilometers verderop.
Tot snel,
Abdou
