We moeten af van het idee dat kunstmatige intelligentie uiteindelijk onze intelligentie gaat overtreffen, betoogt wetenschapsjournalist Bennie Mols. Volgens hem is het veel zinvoller om te streven naar een optimale samenwerking tussen beide intelligenties.
Bron: Wikimedia Commons
Terwijl het toestel van Turkish Airlines (vlucht 1951) op 600 meter hoogte richting Schiphol vloog, gaf de hoogtemeter -2 meter aan. Op basis daarvan dacht de automatische piloot dat het vliegtuig al in de laatste fase van de landing zat, en verminderde het motorvermogen. De menselijke piloten hadden deze fout te laat door, en zo crashte het toestel vlakbij Schiphol op 25 februari 2009. Bij de crash vielen negen doden en honderdtwintig gewonden.
Het is zomaar een voorbeeld van de zogeheten ‘paradox van de automatisering’. De paradox houdt in dat bij een toenemende automatisering menselijk ingrijpen steeds crucialer wordt wanneer de denkende machine toch de fout in gaat. En die kans bestaat altijd, vooral bij onverwachte omstandigheden in open systemen. Hoe dichter de betrouwbaarheid van een systeem de 100 procent nadert, hoe moeilijker het voor mensen is om de fout die toch optreedt te detecteren, te begrijpen en er adequaat op te reageren. Nu computers meer en meer beslissingen nemen die voorheen alleen door mensen werden genomen, zullen we steeds vaker tegen deze paradox aanlopen.
Laat één ding duidelijk zijn: dankzij automatisering zijn auto’s, vliegtuigen, treinen en schepen veiliger geworden. Ook kunnen beslissingen veel efficiënter worden genomen, in ieder geval in theorie. We vergeten echter dat automatisering ook het punt verschuift waarop fouten worden gemaakt, bijvoorbeeld naar de programmeurs die de software schrijven en naar de interactie tussen mens en machine. De crash van Turkish Airlines-vlucht 1951 is slechts een van de vele luchtvaartongelukken die te wijten zijn aan de paradox van de automatisering. Het automatische systeem maakt een fout, de menselijke piloot moet ingrijpen, maar begrijpt het systeem onvoldoende – met een ongeluk tot gevolg.
Samenwerking
Die tragische gebeurtenissen staan in schril contrast met de sciencefiction-achtige ideeën van Ray Kurzweil en andere populaire futuristen. Kurzweil beweert dat het moment waarop machines intelligenter worden dan mensen − de singulariteit − nabij is. Rond 2045 zou de mens compleet door de machine worden overvleugeld. Hoe fascinerend en onheilspellend dat idee ook mag klinken, het gros van de computerwetenschappers neemt het totaal niet serieus.
Kurzweils voorspelling leidt de aandacht af van de praktijk waar we vandaag de dag (en in de nabije toekomst) voor staan: een samenwerking tussen menselijke en machine-intelligentie. Hoe combineren we het beste van beide typen intelligentie? Dat is de echt belangrijke vraag.
Maar al te vaak vergeten we dat elk kunstmatig intelligent systeem (zoals automatische piloten of automatische beeldherkenning, maar ook de zoekmachine Google) nog steeds is bedacht en geprogrammeerd door mensen. De mens houdt de supervisie, doet de aanpassingen en ontwerpt de interface tussen mens en machine. Daarmee is elk kunstmatig intelligent systeem nog steeds een mens-machine-systeem.
Software is mensenwerk. De intelligentie van bijvoorbeeld een zelfrijdende auto zit toch vooral in de ontwerpers en de programmeurs. Zo’n auto is amper intelligent te noemen, omdat het lerende vermogen ervan beperkt is. Terwijl piloten doorgewinterde professionals zijn, is de gemiddelde autobestuurder een amateur. Dat wordt nog wat met die zelfrijdende auto op de weg, als je het stuur uit handen geeft en de automatische piloot ineens een levensbedreigende fout maakt. Kun je dan nog op tijd ingrijpen?
De toenemende automatisering van menselijke beslissingen heeft twee belangrijke psychologische gevolgen. Ten eerste blijkt dat mensen de neiging hebben om machines eerder te vertrouwen dan hun eigen gezonde verstand. Dat kan leiden tot een te groot vertrouwen in automatisering. Daarnaast kan meer automatisering ertoe leiden dat mensen minder vaardig worden wanneer ze onverhoopt toch moeten ingrijpen. Onderzoeken laten bijvoorbeeld zien dat wanneer een systeem 90 procent betrouwbaar is, systeemoperators beter in staat zijn de tekortkomingen te detecteren, dan wanneer een systeem voor 99 procent betrouwbaar.
Pools
Kortom: wanneer we het automatische systeem steeds betrouwbaarder maken, kan het in de praktijk – ofwel in interactie met de mens − wel eens slechter presteren dan een op papier iets minder betrouwbaar systeem. We moeten de mens dus als een integraal onderdeel van een kunstmatige intelligent systeem beschouwen. Mensen die met zo’n systeem werken, moeten we anders en beter trainen. Dat kan bijvoorbeeld door automatische systemen af en toe uit te schakelen, zodat de operators hun menselijke vaardigheden voldoende blijven trainen.
Ik geloof wel degelijk dat de komende decennia een gouden tijd worden voor allerlei nieuwe soorten intelligente machines. Die machines maken de mens echter niet volledig overbodig, maar gaan in symbiose met mensen samenwerken. Nu al kan ik, dankzij Google Translate, bijna in real-time met mijn Poolse vrienden schrijven. Ik combineer mijn veel grotere kennis van de wereld en mijn beperkte kennis van het Pools, met het veel betere talige geheugen en de veel snellere rekenkracht van de vertaalmachine. Zo verbaas ik mijn Poolse vrienden keer op keer. De vertaling van Google Translate en mij samen is veel beter dan die van ieder van ons afzonderlijk.
In de gouden tijd die voor intelligente machines aanbreekt, blijft de mens echter de spil van de samenwerking: door zijn begrip van de ‘echte’ wereld, emoties, creativiteit en zingeving.
Meer weten?
Bekijk dan een TEDx-lezing van Bennie Mols of een interview met de wetenschapsjournalist.
Bennie Mols is wetenschapsjournalist en auteur van het boek Turings Tango − Waarom de mens de computer de baas blijft (Nieuw Amsterdam, 2012)