Achtergrond

‘Algoritmes moeten hun keuzes toelichten’

Automatisering maakt ons leven eenvoudiger en opent mogelijkheden die tot voor kort onvoorstelbaar waren. Zijn er grenzen aan de vooruitgang? Blijft de robot ons huisdier, of wordt hij uiteindelijk het baasje?

In de week waarin het eerste dodelijk slachtofferdoor een zelfrijdende auto voor ophef zorgt, blijkt uit onderzoek dat klanten liever worden geholpen door slimme winkeltechnologie dan door een menselijke medewerker. Het tekent onze haat-liefde verhouding met automatisering.

Universitair hoofdocent Lambèr Royakkers (TU/e; specialisme: ethiek van technologie) benadrukt dat kunstmatige intelligentie zich veel sneller heeft ontwikkeld dan we twintig jaar geleden voor mogelijk hielden. De ontwikkeling van deep learning dankzij neurale netwerken in de afgelopen tien jaar heeft zelflerende systemen in een stroomversnelling gebracht. De logische systemen die daarvoor de kunstmatige intelligentie domineerden konden niet overweg met menselijke inconsistenties, waardoor hun toepassingsmogelijkheden beperkt leken. Zelflerende systemen als Alpha Zero hebben daar geen moeite mee. ‘Dat is een echte verandering’, stelt Royakkers. Hij vertelt ons over de kansen en gevaren die hij ziet.

 Welk idee over kunstmatige intelligentie (ki) wordt overschat?

‘Er leven veel te hoge verwachtingen van robots. Robots beheersen veel fysieke handelingen nog altijd heel slecht. Het woord robot komt van het Tsjechische ‘robota’, dat ‘werk’ of ‘verplichte arbeid’ betekent. Dan zou een robot dus ‘een arbeider’ zijn. Maar robots blijven nog altijd ver achter bij de vaardigheden van menselijke werknemers, met name als er interactie met de omgeving vereist is. Er wordt regelmatig gesuggereerd, onder meer zelfs door de EU, dat robots een oplossing kunnen vormen voor de vergrijzing. Maar de meeste zorgtaken, zelfs zo iets eenvoudigs als steunkousen aantrekken, zijn te complex voor robots. Ik zie allerlei kansen voor domotica, maar de robot als bejaardenverzorger, dat is echt science fiction. Naast iedere tilrobot zou een mens moeten staan om ongelukken te voorkomen. Zo’n robot kan een verpleegkundige assisteren maar niet vervangen.’

En welk idee wordt onderschat?

‘Men onderschat de impact die ki gaat hebben op onze samenleving. Er gebeurt nu zo veel met deep learning. Het gaat zo verschrikkelijk hard. Ik denk dat we ons grote zorgen moeten maken over wat zelflerende, autonome systemen straks kunnen. Kunnen ze dan ook dingen die we niet willen? Waarschijnlijk wel. Dat heeft ook te maken met het feit dat veel ki ontwikkeld wordt vanuit defensie en dan uiteindelijk verschillende maatschappelijke toepassingen krijgt, zoals ook gebeurde met het internet. De vorige maand overleden Stephen Hawking voorspelde dat ki weleens zou kunnen leiden tot het einde van de mensheid, niet uit kwaadaardigheid, maar uit onverschilligheid. Elon Musk noemde ki gevaarlijker dan de atoombom en ziet de strijd tussen landen om dominantie in ki als mogelijke aanleiding voor de Derde Wereldoorlog. De vraag of we autonome systemen voor oorlogstoepassingen moeten verbieden staat dan ook terecht hoog op de internationale agenda.’

Een internationaal verbod op killerdrones, dat lukt toch nooit?

‘Het is moeilijk om zoiets internationaal te regelen, maar het is ons ook gelukt om internationale verdragen over chemische wapens te sluiten. Dan heeft dit ook kans van slagen.’

Zullen rechters in de toekomst vervangen worden door kunstmatige intelligentie?

‘De juiste vraag is: willen we dat? Ik vergelijk dit graag met een fictief scenario: stel, er komt een marsmannetje op aarde, dat veel slimmer is dan wij. Zouden we dat marsmannetje dan over alles laten beslissen?’

Hoe kan zo’n marsmannetje ons vertrouwen winnen?

‘We weten niet waarom een neuraal netwerk dat op basis van deep learning schaakt of go speelt bepaalde zetten doet. Dat kunnen we niet achterhalen. Kijk, het is onvermijdelijk dat zelfrijdende auto’s ongelukken gaan maken. Als we niet weten waarom zo’n auto een bepaalde keuze maakt, gaan we dat niet accepteren. Ik pleit daarom voor transparante systemen. Die moeten in natuurlijke taal kunnen uitleggen waarom ze een keuze maken. Je wilt bijvoorbeeld niet dat een intelligent systeem dat in staat is om sollicitaties te beoordelen een kandidaat afwijst, omdat ze een vrouw is en dus zwanger kan worden. Als een systeem zo’n soort reden geeft kan je het corrigeren. We willen onze menselijke normen en waarden in onze systemen belichaamd zien. Algoritmen moeten transparant worden om dat te garanderen. In Duitsland ligt daar al een wetsvoorstel voor.’

Of zou de menselijke moraal juist gaan veranderen door ons contact met superieure intelligentie?

‘Dat moeten we niet willen. Stel je voor: als we in lijn met het marsmannetjes straks een robot hebben die beter kan opvoeden dan wij. Zouden wij mensen de opvoeding van onze kinderen dan aan die robot overlaten? Ik zie dat niet gebeuren. Ook al kan je cijfermatig onderbouwen dat de robot het beter doet dan de mens, dan vind ik nog dat de opvoeding een puur menselijke aangelegenheid is, ondanks onze gebreken. Het is wél zinvol om menselijke beslissingen te laten ondersteunen door ki. Dan kom je tot betere beslissingen. Als hulpmiddel is ki ideaal. Maar we moeten ki nooit zo zeer gaan vertrouwen dat we uitkomsten niet meer kunnen controleren. Het zou beangstigend zijn om de totale controle te verliezen. We zijn al heel ver. Ik krijg op Google andere resultaten dan jij. Machines die ons handelen en denken manipuleren zijn een gevaar voor de democratie, kijk maar naar Cambridge Analytica.’

Menselijke verklaringen voor ons eigen handelen zijn notoir onbetrouwbaar. Waarom zou dat voor robots anders zijn?

‘Menselijke reflectie over eigen gedrag geeft juist de mogelijkheid om te leren van fouten. Dat geldt straks voor machines denk ik ook, als ze een soort motivatie-module krijgen. Maar ik denk niet dat machines al kunnen reflecteren over hun eigen uitkomsten. Ze doen nu nog vooral aan geavanceerde vormen van patroonherkenning.

Watson, de supercomputer ontwikkeld door IBM, heeft nu ook medische toepassingen. Hij kan daarbij ook geprogrammeerd worden om in natuurlijke taal zijn uitkomsten toe te lichten. Daar leren we van. Dat biedt een geruststellender toekomstvisie. Maar we moeten blijven nadenken over goed en kwaad, om als mensheid in de lead te blijven. Yuval Harari heeft de afgelopen jaren het idee gepopulariseerd dat systemen als Facebook jou inmiddels beter kennen dan je jezelf kent. Je raakt uiteindelijk je ‘ik’ kwijt als je naar dat soort systemen gaat luisteren, en daarnaar gaat handelen. Dat is een verlies voor de mensheid.

Wat betekent voortschrijdende automatisering verder voor de mensheid?

We zullen heel andere vaardigheden gaan onderwijzen. Banen zoals notaris en accountant, die vooral routinematige intelligentie vereisen, zullen verdwijnen. Ambachtelijk werk zal juist belangrijker worden, net als het creatief intelligente werk van ingenieurs.

In Why the future doesn’t need us schreef Bill Joy in 2000 dat het onvermijdelijk is dat de mensheid overvleugeld zal worden door machines. Mee eens?

Ik hoop dat de mens sterk genoeg is om zich te beheersen. De ontwikkeling dendert maar door en is moeilijk te sturen. Als ik pessimistisch ben zeg ik: in 2100 bestaat de mens zoals we die nu kennen niet meer. Systemen zullen blijven leren. De Bruto rekenkracht verdubbelt elke negen maanden. Straks hebben we allemaal kleine supercomputers in onze broekzak en communiceren we via ‘Siri’s on steroids’. De kans is groot dat we worden overgenomen door machines of zelf cyborgs worden. Maar we moeten blijven proberen om die gevaren te reguleren en onze menselijkheid te behouden.

 

cv Lambèr Royakkers

  • 1996 – heden: universitair hoofddocent Techniek & Ethiek aan de TU/e
  • 2007 – 2012: Universitair Hoofddocent aan de Nederlandse Defensie Academie (NLDA) in Breda
  • Voltooide studies: rechten, filosofie, wiskunde, lerarenopleiding.
  • Promotie: Representing Legal Rules in Deontic Logic aan de Tilburg Universiteit (1996)
  • (Co)-auteur van boeken: waaronder Just Ordinary Robots (2016), Moral Responsibility and the Problem of Many Hands (2015) en Ethics, Technology, and Engineering (2012).
Deel deze pagina
Abonnement

Wilt u lid worden, een los nummer aanvragen of een adreswijziging doorgeven? Neem dan contact op met MijnTijdschrift (088-2266622). 

Of bekijk ons aanbod van abonnementen.

Ontvang de nieuwsbrief

Meld je nu aan!

Vision & Robotics

Vision & Robotics is hét onafhankelijke vakblad voor machinebouwers, system integrators en eindgebruikers van productielijnen in de maak- en agro-/foodindustrie. 

Graag meer lezen over onderwerpen zoals robotica, sensoren, kunstmatige intellegentie en nog veel meer klik hier

Vision & Robotics heeft ook een nieuwsbrief! klik hier om je in te schrijven.

Naar boven