Nieuws

Burgerrechten voor machines?


De mens verliest de controle over de machine. De logische consequentie is dat machines burgerrechten en -plichten moeten krijgen

Op 6 mei 2010 verloren de effectenbeurzen in een half uur tijd 700 miljard dollar en een half uur later was dat het verlies van dat enorme bedrag weer goedgemaakt.

Deze gebeurtenis, die bekend kwam te staan als de ‘flash crash’, werd veroorzaakt door de zogenoemde high frequency-handel waarbij duizenden computeralgoritmen met elkaar op de beurzen handelen. Daarbij verkoopt of koopt elk algoritme soms twintig keer per seconde een aandeel. Toen een van deze verkoopprogramma’s een ongewoon grote order inlegde, stortten de koersen in elkaar. Een ramp werd voorkomen doordat een van de handelsplatformen een pauze van vijf seconde inlaste. Alle koersen herstelden zich miraculeus en zonder dat iemand begreep waardoor precies.

De opmars van de computer op de beurs leidt nu tot bewegingen die niet alleen volkomen onvoorspelbaar zijn, maar ook achteraf amper verklaarbaar. De beursautoriteiten deden er vijf maanden over om te ontdekken wat zich binnen dat halve uur op de beurs afspeelde.

In de toekomst zal het onmogelijk worden de oorzaak van een krach vast te stellen. Niet alleen omdat de beurzen verder vervlechten, maar de allernieuwste handelssystemen zijn gebaseerd op lerende systemen. Deze systemen ‘leren’ van succes en falen, winst en verlies. Programma’s kun je ze niet meer noemen, want die aanduiding veronderstelt onveranderlijk gedrag. Het zijn algoritmes, die hun werking voortdurend aanpassen. Zo zijn ze ontworpen.

De financiële wereld is slechts één terrein waar de mens de controle verliest over de gedragingen van de digitale systemen die hij heeft gebouwd. Andere gebieden zijn het leger, de gezondheidszorg, verkeer en mobiliteit, zoekmachines en sociale netwerken. In de militaire wereld is het binnen enkele jaren niet meer de vraag wíe er op de knop heeft gedrukt, maar wát. In de gezondheidszorg is straks niet de vraag wíe besloten heeft de patiënt een injectie te geven, maar wát. Bij zoekmachines is het straks niet alleen de vraag welke informatie je vindt, maar waarom.

Het duurt niet lang meer of we zijn letterlijk overgeleverd aan machines waarvan zelfs de menselijke bedenkers niet meer weten waarom ze zich gedragen zoals ze doen. Vanzelfsprekend kunnen dan noch de menselijke ontwerpers noch de eigenaren en gebruikers nog verantwoordelijk worden gehouden voor hun functioneren.

De logische en onvermijdelijke uitkomst is dat machines rechten en plichten moeten krijgen, vinden sommigen.

Het toekennen van rechten en plichten aan machines zal niets minder dan zijn dan een revolutie. Het zal tevens de laatste revolutie in de geschiedenis zijn die door de mens kan worden vormgegeven. De enige vraag is nog wanneer we ermee beginnen. Nu of op het moment dat we de controle volledig hebben verloren.

Discussieer mee over dit onderwerp bij De Laatste Revolutie, vrijdag 24 juni in Utrecht.

Follow Faqtman on Twitter

Tekst: Henny van der Pluijm.