Kunstmatige intelligentie (KI) kan de vreemdste dingen doen. Geef het een probleem, en het komt met slimme, verrassende of buitengewoon grappige oplossingen. Dat merkten drie KI-onderzoekers toen ze een lijst maken van de beste verhalen over listige kunstmatige intelligentie.
‘Op een borrel of bij de koffieautomaat wisselen we zulke anekdotes vaak uit. Heerlijk is dat’, vertelt Jeff Clune van het KI-lab van Uber. Hij stelde de lijst op samen met collega Joel Lehman en Dusan Misevic van onderzoeksinstituut CRI in Parijs. ‘Maar niemand heeft deze verhalen ooit opgeschreven of gecontroleerd of ze echt gebeurd zijn.’ Daarom vroeg het drietal andere onderzoekers die met evolutionaire algoritmes werken om hun verrassende of grappige anekdotes te delen. De resulterende lijst – vol verhalen van digitale organismen die de plannen van hun maker in de war schopten – publiceerden ze op preprintserver arXiv.
Pedant persoontje
Biologische evolutie komt vaak met creatieve oplossingen voor voortplanting of overleven – maar computers kunnen er ook zeker wat van. Een KI trainen met evolutionaire algoritmes is een soort kat-en-muis-spel vertelt Clune. Je bedenkt regels waaraan de KI moet voldoen, en dan kijk je hoe die vervolgens het probleem aanpakt.
‘Als je één maas gedicht hebt, vindt het wel weer een ander. Het voelt een beetje of je Wile E. Coyote bent die de Road Runner probeert te vangen in de animatieserie Looney Tunes. Je bedenkt een heel ingewikkeld systeem dat vervolgens op allerlei onvoorziene manieren faalt’, vertelt hij.
Soms lost de KI het probleem op door in theorie aan alle regels te voldoen – maar niet per se op de manier die de onderzoekers hoopten. ‘Het is alsof je met een heel pedant persoon praat, die alles letterlijk neemt. Kunstmatige intelligentie doet precies wat je het vertelt, en dat is niet per se wat je wilt dat het doet’, zegt Lehman.
Acht bizarre oplossingen van KI
1. Wetenschappers wilden de KI een poppetje laten maken dat heel hoog kon springen – gemeten in de afstand die zijn voeten van de grond kwamen. De KI creëerde toen een wezentje op een polsstok dat een salto achterover maakt. Gluiperige gymnasten zijn het ook.
2. Een gesimuleerde robot met 6 beschadigde pootjes moest uitvogelen hoe het zo snel mogelijk kon lopen zonder met zijn voeten de grond te raken. Prompt draaide het op zijn rug en begon op de achterkant van zijn knieën te kruipen. Net de engste spin die je ooit gezien hebt…
3. Toen een KI programma’s moest bedenken die zo min mogelijk gebruikmaakten van de processor, zette die programma’s simpelweg voor eeuwig op slaapstand.
4. Bij een boter-kaas-en-eieren-spelletje op een oneindig groot bord leerde het algoritme hoe het altijd kon winnen – door een zet ontzettend ver weg te maken. De tegenspeler moest toen het bord zo ver uitvergroten dan het computergeheugen het niet aankon en crashte, waardoor hij het spel verloor.
5. Een ‘digitaal organisme’ speelde voor dood om zo niet geëlimineerd te worden in de simulatie. Daarna muteerde het en begon het veel sneller voort te planten dan zijn ouders. Dat was nu juist wat de onderzoekers probeerden te voorkomen door een dood-ze-jong-als-ze-snel-muteren-regel in te bouwen.
6. Een gesimuleerde grijprobot kreeg de opdracht een doos op te pakken terwijl zijn klauw uitgeschakeld was. De robot beukte gewoon net zolang van bovenaf op de doos in tot die aan zijn arm bleef hangen. Alsof je iemand vraagt om de deur te openen, en diegene slaat er met een bijl doorheen.
7. Toen onderzoekers een KI uitdaagden om iets te bouwen dat binnen 10 seconden een zo hoog mogelijk snelheid bereikte, maakt het geen supersnelle slangen of beesten op hele snelle pootjes, maar begon het enorm lange wezens te bouwen die op het laatste moment omvielen.
8. Een algoritme dat fouten zou moeten opsporen, kreeg de taak een lijst af te leveren waarbij de nummers op volgorde stonden. Het leerde dat een compleet lege lijst inleveren ook goed was – zolang er maar geen nummers niet op volgorde staan.
De bijdehante oplossingen van KI zijn niet alleen grappig om te lezen. Ze laten ook zien hoe algoritmes onontdekte loopholes – mazen in het programma – kunnen uitbuiten. Volgens Clune en Lehman is dit cruciaal om te begrijpen wat kunstmatige intelligentie gevaarlijk kan maken. Hoewel we niet heel bang hoeven te zijn dat een kwaadaardige KI onze instructies expres negeert, kan hij ze wel verkeerd begrijpen. Door een onvoorziene maas in het programma, eindigen we misschien met onbedoeld gevaarlijke robots.
Mis niet langer het laatste wetenschapsnieuws en meld je nu gratis aan voor de nieuwsbrief van New Scientist.
Lees verder: