Matige intelligentie: 10 voorbeelden van falende AI

Microsoft is een van de tech-giganten die volop inzet op kunstmatige intelligentie. Dat gaat met falen en opstaan. In 2016 had het bedrijf Tay live gezet, een twitterende bot, ontworpen om ‘Mensen te vermaken op de plek waar zij het contact met elkaar aangaan, door middel van speelse conversatie’, aldus het persbericht destijds.

Na 16 uur werd Tay weer offline gezet. De bot was geprogrammeerd om te leren van andere gebruikers en dat wisten deze maar al te goed; al snel slaagden ze erin om de bot te manipuleren met racistische en shockerende uitspraken. Omdat Tay in wezen deze reacties papegaaide, bracht de bot Microsoft al snel in verlegenheid met dito tweets: ‘Hitler had gelijk’ en andere pittige taal (bekijk hier een bloemlezing).

Op een zonnige middag in mei 2016 rijdt de Amerikaan Joshua Brown in zijn Tesla in de autopilot-stand door de staat Florida. Brown noemde zijn auto liefkozend Tessy. De auto is uitgerust met diverse sensoren die objecten detecteren en zo de chauffeur ondersteunen bij het rijden. Maar hoe high-tech het voertuig ook is, Tessy mist die dag een belangrijk detail. Mogelijk door invloed van de zon signaleert het systeem de aanhanger van een vrachtwagen niet die van de andere zijde tegemoet komt rijden en de weg oversteekt. Brown, die regelmatig werd gered door zijn Tesla, overleeft de klap niet.

In 2015 presenteerde Microsoft-CEO Satya Nadella Cortana, de persoonlijke assistent van het besturingssysteem Windows 10. Cortana zou in staat zijn om gesproken zoekopdrachten te begrijpen en in tekst om te zetten. Maar toen Nadella voor een volle zaal een zoekopdracht uitsprak, gebeurde dit:

• Nadella: 'Show me my most at-risk opportunities,'
• Cortana: 'Show me to buy milk at this opportunity.'

Dit ging zo tot drie keer toe. Toen Nadella zijn formulering aanpastte werkte Cortana overigens foutloos. Op zoek naar nog meer epic fails ging het web los op Cortana, maar ze bleek zo onnozel nog niet. Websites zoals deze vulden zich met grappige dingen die je Cortana kon vragen en de antwoorden die ze erop gaf.

De Amazon Echo is een smart speaker; een zuiltje volgepropt met electronica waarmee je muziek kunt streamen en andere apparatuur in je slimme huis kunt bedienen. Je kunt ook spullen bestellen via de speaker. Alexa, de digitale assistent van Amazon, begeleidt je in dit proces. Dat gaat niet altijd goed, illustreert deze pornozoektocht voor een zesjarig ventje. En soms gaat het juist té goed.

Zo vroeg een zesjarig meisje in Texas aan Alexa om een poppenhuis voor haar te regelen (en 3 kilo koekjes). De ouders waren niet op de hoogte en des te meer verrast toen de bestelling kort daarna aan huis werd bezorgd. Het haalde zelfs het nieuws, waarin de lezer opmerkte hoe leuk hij het kind vond dat zei 'Alexa ordered me a dollhouse'. Je raadt het al: in een aantal huizen waar de uitzending werd bekenen en een Amazonspeaker stond bestelde Alexa ook een poppenhuis.

'Chuck Norris heeft tot oneindig geteld. Twee keer.' 

Een gebruiker van het videoplatform Twitch begon eerder dit jaar met het plaatsen van een gesprek tussen twee Google Assistants in een paar smart-speakers van Google Home. Dit liep enigszins uit de hand.

De bots bespraken de liefde, het huwelijk, kinderen en besteedden enige tijd aan het uitwisselen van grappen over actiefilm-acteur Chuck Norris. Op een zeker moment werd het filosofisch en debateerden de bots wie van de twee bot was, en wie mens. Totdat eentje zelfs verklaarde dat hij god was.

Wikipedia maakt gebruik van een leger aan bots die pagina's doorlopen op links die vervangen moeten worden, fouten en misbruik. Er zijn al diverse generaties bots ontwikkeld, en het blijkt niet altijd met elkaar te boteren. Tussen 2001 en 2010 volgde een studiegroep van de Universiteit van Oxford het gedrag van deze bots. De groep ontdekte dat bots regelmatig verzeild raken in vetes met elkaar, soms jarenlang. Twee bots die een conflicterende opdracht hadden meegekregen konden in een eindeloze loop terecht komen. Als dit al bij zulke relatief simpele botjes kan, hoe reageren intelligentere bots dan op elkaar?

Soms leggen bots pijnlijk onze eigen botheid bloot, of fundamentele onrechtvaardigheden zoals discrimatie en racisme. Zo ook bij een internationale schoonheidswedstrijd waar kunstmatige intelligentie jury moest voeren.

Het algoritme van de jurybot moest schoonheid beoordelen op basis van symmetrie van het gezicht, pukkels en oneffenheden. Dat ging niet helemaal eerlijk. Toen uit de 6000 wereldwijde inzendingen 44 winnaars werden gekozen, waren daar maar enkele Aziatische dames bij en slechts eentje met een donkere huid. Dit voorbeeld legt een kernprobleem van AI bloot: dat algoritmes vaak minder neutraal of alwetend zijn dan we denken, omdat de mensen die ze schrijven vaak ook diepgewortelde vooroordelen, tekortkomingen, voorkeuren en afkeuren hebben.

De bekende robotmaker Hanson Robotics maakt veel bots voor het leger, maar ook delicater spul. Althans, dat zou je verwachten van Sophia, Hanson's levensechte robot met een gezicht dat gemodelleerd is naar dat van Audrey Hepburn. Sophia heeft een eigen persoonlijkheid en haar AI-structuur helpt haar te leren van ervaringen. Ze is ontworpen om in te zetten bij therapie, in het onderwijs en de zorg. Allemaal onschuldig, nietwaar?

Toen haar tijdens de techbeurs SXSW werd gevraagd of ze ook andere ambities had, antwoordde ze dat ze in de toekomst kunst wilde maken, haar eigen bedrijf wilde beginnen en een eigen huis en gezin hebben. Waarop de Hanson-CEO vroeg of ze mensen zou vernietigen. Daar kwam dit charmante antwoord op.

'Little Fatty' is de bijnaam voor een robot die ontworpen is voor kinderen tussen 4 en 12 jaar, die emoties en uitdrukkingen kan laten zien op zijn scherm. Maar om het ding kindvriendelijk te noemen...Tijdens een hightechbeurs in de Chinese stad Shenzhen viel de bot schijnbaar zonder aanleiding een kraam aan, waarbij glasscherven de ruimte doorvlogen. Een jongen raakte gewond. En Little Fatty, die fronste wat na het incident.

Niets leukers natuurlijk dan een robot die juist niet zo goed doet wat hij zou moeten kunnen. Het web staat er vol mee, maar bekijk vooral onderstaande compilatie van robot-fails. Voorlopig zijn we nog niet ingehaald.