bovenmenselijk, megawinstgevend, en potentieel levensgevaarlijk: dit moet je weten over AI
Dat AI de meest ongelooflijke dingen kan, is dit jaar duidelijk geworden. Maar wat staat ons te wachten als deze technologie zich nóg verder ontwikkelt? En hoe blijf je kritisch? Tegenlicht zet de belangrijkste vragen op een rijtje.
Lotte Schuengel, 1 juni 2023
dit artikel hoort bij het thema de prijs van ai
waarom gaat het nu zo veel over AI?
Het korte antwoord: Mensen zijn verwonderd over nieuwe generatieve toepassingen van AI, omdat het voor het eerst levensechte gelijkenissen vertoont met wat mensen kunnen: tekenen, schrijven, muziek maken. De programma's zijn toegankelijk. De output spreekt tot de verbeelding, en roept emoties op waardoor het snel over het internet reist.
Het uitgebreide antwoord: Al decennialang werken ontwikkelaars en wetenschappers aan kunstmatige intelligentie. De toepassingen waren meestal vrij technisch. Het voorspellen van economische trends, het analyseren van gedrag, weersvoorspellingen en verschillende medische toepassingen. Ook werd AI vooral getraind voor het herkennen van beeld en tekst, dankzij de input van enorme datasets. Toegankelijke interactie met AI was beperkt tot het spelen van spelletjes, zoals schaken en Go.
Tot generatieve AI. Dat een gebruiker op zo'n toegankelijke manier met een paar korte zinnetjes de computer een idee tot leven kan laten wekken - in tekst, muziek, fotografie en zelfs film - hadden we nooit eerder gezien.
ChatGPT, Dall-E en MidJourney zijn allemaal tools die mensen met relatief weinig moeite en middelen kunnen bedienen. De instructies en ideëen die je invoert kunnen zo simpel of complex zijn als je zelf wil, en de uitkomst is eigenlijk altijd bevredigend omdat deze systemen geprogrammeerd zijn om een beeld of verhaal te maken dat coherent is, en gelijkenissen vertoont met dingen die we kennen.
Dat kan leiden tot resultaten die niet alleen indrukwekkend zijn, maar ook komisch of raar. En wat gaat sneller viraal dan iets wat heel grappig is? Grote kans dat de eerste keer dat je over deze technologie hoorde, het binnenkwam via een grappig plaatje op social media.
En dat is nog maar het begin. De politiek, de media, de techindustrie, de commercie: alle facetten van de samenleving gaan vroeger of later te maken krijgen met de positieve en negatieve implicaties van generatieve AI. Dat realiseren we ons nu. De laatste maanden uiten ook veel prominente ontwikkelaars en wetenschappers hun zorgen over de technologie, die zich te snel ontwikkelt en daarmee een potentieel gevaar vormt voor de samenleving en de democratie. Daarmee is een discussie ontstaan over hoe we AI moeten gaan reguleren.
welke bedrijven ontwikkelen generatieve AI, en waarom?
Het korte antwoord: OpenAI, Microsoft, Google, Meta en IBM (onder andere) ontwikkelen generatieve AI om de productiviteit te verhogen van werknemers, en in sommige gevallen hun arbeid volledig te vervangen. Hierdoor kunnen bedrijven sneller meer content en diensten leveren voor lagere kosten.
Het uitgebreide antwoord: Een van de meest besproken AI-ontwikkelaars op dit moment is OpenAI: het bedrijf achter ChatGPT en Dall-E. OpenAI werd in 2016 opgericht door niemand minder dan Elon Musk, samen ondernemer en programmeur Sam Altman, en met multimiljonair Peter Thiel.
De belofte van OpenAI, schrijft Altman op de website, 'is verzekeren dat de hele mensheid kan profiteren van kunstmatige intelligentie.’
Altman hanteert de term ‘AGI’, Artificial General Intelligence. Waar een AI-systeem doorgaans is ingericht op het oplossen van één specifieke taak (zoals het weer voorspellen), is AGI een veel omvattender systeem dat in staat is tot meerdere uiteenlopende taken. Op de vraag om het verschil uit te leggen tussen AI en AGI, antwoordt ChatGPT zelf dat AGI ‘streeft naar het creëren van een allesomvattende, mensachtige intelligentie die veel verschillende taken kan aanpakken en flexibel kan leren en redeneren.’
Momenteel bestaat AGI nog niet, maar het is wel iets dat OpenAI hoopt te realiseren. De beloften zijn volgens Altman groots. ‘Als AGI succesvol is gecreëerd, kan deze technologie ons helpen de mensheid te verheffen. Door overvloed te vergroten, de wereldeconomie te versnellen en bij te dragen aan de ontdekking van nieuwe wetenschappelijke kennis die de grenzen van het mogelijke vergroot.’
Daarnaast schrijft Altman dat het iedereen nieuwe vaardigheden zal geven. ‘Een wereld waarin iedereen toegang heeft tot hulp bij bijna elke cognitieve taak, wat een grote force multiplier zal zijn voor menselijke vindingrijkheid en creativiteit.’ Nu al gebruiken veel mensen generatieve AI om bijvoorbeeld mails te schrijven, planningen te maken en zelfs te coderen. De hoop is dat door het overnemen van deze ‘mundane’ taken, er meer ruimte overblijft voor mensen om zich verder te ontplooien.
Het klinkt allemaal erg techno-utopisch. Belangrijk om te beseffen als je dit soort verhalen hoort van CEO’s van techbedrijven, is dat het nooit alleen maar draait om die ‘betere toekomst’, of een ‘verheven mens’. Het draait vooral om dat ene, belangrijke ding: geld.
OpenAI Inc. begon in 2015 als niet-commercieel, open source platform. Het geld voor onderzoek kwam uit de eigen zak van Elon Musk, die ongetwijfeld belang had bij het ontwikkelen van AI voor zijn andere bedrijven zoals Tesla, SpaceX, Twitter en Neuralink. Bovendien wilde hij hiermee een alternatief bieden voor Google. Toch stapte hij in 2018 uit het bedrijf, vanwege onenigheid over de koers.
Niet lang daarna kwam Microsoft om de hoek kijken. In 2019 investeerde het bedrijf een miljard dollar in OpenAI. Daarvoor werd speciaal een commerciële, zogeheten ‘capped-profit’ tak opgericht: OpenAI LP. Die vercommercialisering zou goed zijn om meer medewerkers en investeringen binnen te harken, aldus een blogpost van het bedrijf. Volgens Musk is OpenAI hiermee een ‘maximum-profit’ en ‘closed-source’ bedrijf geworden, beheerst door Microsoft, in plaats van het open source-bedrijf dat hij en Altman in eerste instantie voor ogen hadden.
Dat het wat oplevert, is wel duidelijk. Begin dit jaar beloofde Microsoft dat het de komende tijd nog tien miljard aan kapitaal wil injecteren in OpenAI LP ‘om de capaciteit uit te breiden’. Het lijkt er dus op dat Microsoft de technologie ziet als essentieel onderdeel van haar toekomstige bedrijfsvoering.
En dat geldt niet alleen voor Microsoft. In 2014 nam Google het bedrijf DeepMind over, dat op hoog niveau onderzoek doet naar Kunstmatige Intelligentie. Veel ontdekkingen van Google zijn dan ook overgenomen bij het ontwikkelen van ChatGPT. Google gebruikt AI in allerlei applicaties. Bijvoorbeeld om meer intuïtie toe te voegen aan Google Translate. Ook implementeert Google generatieve AI in Google Workspaces. Dit moet ervoor zorgen dat gebruikers binnenkort in Gmail en Docs een soort ChatGPT krijgen die zinnen kan afmaken en antwoorden op mails kan verzinnen.
Meta - het bedrijf achter Instagram en Facebook - gooit het over een andere boeg. Zij ontwikkelen generatieve tools waarmee adverteerders makkelijk en snel alternatieve versies kunnen genereren van hun reclames. Zo kunnen ze met één advertentie verschillende doelgroepen tegelijk targeten. Daarmee is ook weer duidelijk dat Meta niet echt een techbedrijf is, maar eerder een reclamebedrijf.
mensen zijn de grootste kostenposten, dus hebben op megawinst beluste bedrijven er belang bij dat AI steeds meer op mensen lijkt
Dan is er ook nog IBM. Bekend van de schaakcomputer Deep Blue, die in 1997 grootmeester Kasparov versloeg. IBM heeft de afgelopen decennia een belangrijke bijdrage geleverd aan de ontwikkeling van AI, mede dankzij de spraakcomputer Watson. Het bedrijf lijkt nu een beetje achter te lopen, maar de laatste drie jaar heeft het WatsonX ontwikkeld. Deze toolset is speciaal gemaakt voor bedrijven die een AI-first bedrijfsvoering willen gaan hanteren.
AI-first: dat klinkt futuristisch. Maar het gaat niet lang duren voordat je die term uit de mond van een consultant gaat horen, en daarna uit die van een manager. Want wat dit in werkelijkheid inhoudt is dat een bedrijf dankzij AI met zo min mogelijk werknemers zo veel mogelijk omzet wil kunnen draaien. Zo kan AI de productiviteit van ICT’ers met tachtig procent verhogen, en het afweren van cyberaanvallen volledig automatiseren. Aldus de baas van IBM. Ook de klantenservice van allerlei bedrijven kan bijna volledig worden vervangen, wat hen enorm veel kapitaal bespaart. Content kan zichzelf maken en verspreiden. Mensen zijn immers de grootste kostenposten. Dus hebben op megawinst beluste bedrijven er belang bij dat AI steeds meer op mensen lijkt, en zijn ze bereid flink te investeren in ontwikkelaars die hen dat beloven. Een win-win situatie.
waarom willen sommige mensen het ontwikkelen van AI stopzetten?
Het korte antwoord: Er bestaat een kans dat AI leert om zichzelf te ontwikkelen op een niveau dat mensen niet meer kunnen bijhouden, begrijpen of controleren. Als dat gebeurt, is het mogelijk dat deze nieuwe superintelligentie ons gaat behandelen zoals wij eeuwenlang dieren hebben behandeld.
Het uitgebreide antwoord: Dat we allemaal onze baan in de creatieve of journalistieke sector gaan verliezen en moeten bijverdienen als clickworker of mijnwerker omdat onze baas alle leuke dingen liever uitbesteedt aan een computer, is vervelend. Maar die gevolgen zijn nog enigszins te overzien. Prominente figuren in AI maken zich intussen zorgen over hele andere dingen.
In korte tijd is Musk veranderd van AI-investeerder, tot een van de luidste critici van AI. Afgelopen maart ondertekende hij - samen met dertigduizend anderen - een open brief die oproept om de ontwikkeling van alle AI-systemen die krachtiger zijn dan ChatGPT tijdelijk stop te zetten.
de angst is niet zozeer dat AI slimmer wordt dan wij, maar dat we de controle erover verliezen
Volgens de ondertekenaars is AI een serieuze concurrent geworden voor een heleboel menselijke taken. Terwijl bedrijven vrolijk doorontwikkelen, wordt er niet genoeg nagedacht over een aantal cruciale vragen. ‘Moeten we wel machines onze informatiekanalen laten overspoelen met propaganda en onwaarheden? Moeten we wel alle banen wegautomatiseren, inclusief de banen waar menselijke arbeiders voldoening uit krijgen? Moeten we niet-menselijke breinen ontwikkelen die ons uiteindelijk overtreffen in aantal, ons te slim af zijn, ons obsoleet maken en ons vervangen? Moeten we wel een verlies van controle over onze beschaving riskeren?’ Aldus de brief.
Zulke beslissingen moeten we niet overlaten aan onverkozen techleiders, stellen de ondertekenaars. Krachtige AI systemen moeten we pas ontwikkelen als we zeker weten dat de effecten positief zijn, en we de risico’s aankunnen.
Ook de Israëlische Sapiens-auteur Noah Yuval Harari uitte onlangs zijn zorgen in de New York Times. Taal is uiteindelijk het besturingssysteem van onze samenleving, schrijft hij. Het is het fundament van de verhalen die we elkaar vertellen: religieuze verhalen, culturele verhalen, politieke verhalen. Wie taal beheerst, heeft de macht. ChatGPT en zijn soortgenoten zouden weleens op het punt kunnen staan om het besturingssysteem van onze samenleving te ‘hacken’, volgens Harari. Als dat gebeurt, bedreigt dat het voortbestaan van onze democratie.
En deze week ondertekende Altman zelf nog, samen met de CEO van DeepMind en anderen, een nogal alarmerende verklaring. Het is een statement van één zin, waarin staat dat het wereldwijde prioriteit moet zijn om de existentiële dreiging van AI in te perken, en gelijk te stellen aan de dreiging van een nucleaire oorlog of een pandemie.
met een slimmere ‘soort’ in opkomst, bestaat er een risico dat ons hetzelfde lot te wachten staat als de dieren
Maar hoe ziet dat er dan uit, die existentiële dreiging? Daarvoor moeten we terug naar de term AGI - die eerder beschreven superintelligentie. De angst onder ontwikkelaars is niet zozeer dat AGI slimmer zal zijn dan wij (dat is het in veel gevallen al), maar dat we de controle erover verliezen. Bijvoorbeeld doordat AGI zijn eigen code kan schrijven en verbeteren, en daardoor exponentiële stappen maakt die zo snel gaan dat we het niet kunnen stopzetten, en zo ingewikkeld zijn dat wij er niet met ons hoofd bij kunnen.
Mensen zijn momenteel de diersoort die alle andere dieren domineert. Dat is niet omdat we groter, sterker of sneller zijn. Maar omdat we intelligenter zijn dan de rest van de natuur. En bijna overal waar mensen floreren, moeten dieren het afzien. Onder het menselijke regime zijn er miljoenen diersoorten uitgestorven. Slechts een handjevol soorten heeft het overleefd, waarvan een groot deel een vrij onaangenaam en kort leven leidt in megastallen en kooien. De rest is ook in haar ‘vrije’ bestaan nog steeds afhankelijk van menselijke zorg en ingrijpen.
Volgens computerwetenschapper Nick Bostrom is het ‘brein’ van een computer net zo onbegrijpelijk voor een mens, als het menselijk brein niet te bevatten is voor een kakkerlak. Met een slimmere ‘soort’ in opkomst, bestaat er dus een risico dat ons hetzelfde te wachten staat als de dieren, waarbij ons lot volledig in handen zal liggen van een hogere superintelligentie.
Het klinkt als sciencefiction à la The Matrix. Maar als zelfs de mannen die nu schathemeltjerijk worden van AI overwegen om de stekker eruit te trekken, wordt het misschien tijd om serieus te overwegen of je echt niet zelf die e-mail wilt typen.