De slag om het internet

Domme AI-systemen zijn gevaarlijker dan slimme

In de tweede podcast van De Slag om het Internet gaat Roland Duong in gesprek met privacyde-signer en techcriticus Tijmen Schep. Schep ontwerpt allerlei privacy-en datavriendelijke kunstwer-ken en adviseert de Europese Commissie over de risico's van kunstmatige intelligentie en het ge-bruik van algoritmes.

Roland Duong | Tom Reijner

Volgens Schep hoeven we voorlopig niet zo bang te zijn dat zelfdenkende algoritmes ons leven gaan overnemen. Het is een dystopisch beeld dat vooral uit de koker komt van mensen als Elon Musk, zegt hij tegen Duong, ‘Het zou echt hardcore zijn. Daar zijn we nog lang niet. We kunnen ons beter zorgen maken over domme AI-systemen.’

Want daar hebben we volgens hem te veel vertrouwen in. Het is namelijk al zo dat algoritmes ons aan het beoordelen zijn zonder dat we dat doorhebben. Schep noemt een pijnlijk voorbeeld van een zwarte man die onterecht werd aangewezen als misdadiger en die beoordeling niet van zich af kon schudden, omdat het algoritme halsstarrig bleef volhouden dat hij wél een crimineel was.

Duong en Schep spreken ook over de onderschatte rol van databrokers bij de gepersonaliseerde advertenties die ons dag in dag uit worden voorgeschoteld als we online zijn. Die advertenties ko-men tot stand op basis van data die van ons worden geroofd. Deze databrokers – een soort han-delaren in onze persoonlijke gegevens – brengen vraag en aanbod op de online advertentiemarkt heel succesvol bij mekaar. Het gaat veel verder dan we allemaal denken. Schep legt uit wat die da-tabrokers zoal doen. En verder: hoe Europa met een duurzaam datamodel succesvol kan concur-reren met Sillicon Valley. En waarom bouwde Schep een feestje toen de EU met datawetgeving kwam?