ARTIKEL Killer Robots

Aldus een artikel in het FD van maandag 21 augustus.

Dit is interessant en vooral in een breder perspectief. Blijkbaar is deze kunstmatige intelligentie in de wapenindustrie zelfs te bedreigend voor de fervente aanhangers van zelflerende systemen. Een van de ondertekenaars van de oproep is de Tesla-oprichter Elon Musk.

Intelligentie die de mensheid kan overstijgen

Een oorlog zou een chaotische plek zijn waar robots niet goed in kunnen functioneren. Er wordt gezegd dat robots goed werken in gecontroleerde omgevingen. Nu gaat het mij niet om de vernietigende kracht en dito dreiging van oorlogstuig. Je verzetten tegen vernietiging en onbeheersbare dreiging is heel goed.

Nee, mijn aandacht wordt getrokken door het signaal dat de intelligentie de mensheid dus blijkbaar kan ontstijgen. Een paar maanden geleden sprak ik mijn verbazing nog uit over een standpunt van Bill Gates dat robots zelfstandig belastingplichtig zouden moeten worden. Gates wordt trouwens niet genoemd als ondertekenaar van de oproep.

Wat men als oorlog ervaart muteert

In wapens zit gevaar en is het daarom niet wat makkelijk om je zorg daarop te focussen. Is de gedachte dat een oorlog chaos is inmiddels niet achterhaald. Is wat de mens nu als oorlog ervaart niet aan het muteren.

Ik fiets langs de provinciale weg en ik betrap mij erop dat ik anders naar autoverkeer kijk. Als een bestuurder van een (vracht)auto besluit om met 100 km per uur over het fietspad te gaan rijden, dan is er nauwelijks iets wat hem hindert. Dat is dan één bestuurder en wordt wellicht een daad van terreur genoemd.

Google maar eens op het hacken van een JEEP en dan kun je ontdekken dat het mogelijk is geweest (of nog steeds) om alle JEEP’s van een bepaald type te hacken en te laten doen wat de hacker wil. Dat begint op een oorlog te lijken. Toen twee vliegtuigen zich in de Twin Towers boorden vond iedereen dit een daad van oorlog.

Een vreemde oproep

Als je beseft wat er met de huidige stand van de techniek allemaal gehackt ken worden, is de oproep om killer robots te verbieden wellicht een signaal om een algehele ontwikkeling van robotica een halt toe te roepen. Dat zal Elon Musk absoluut niet bedoeld hebben. Nader beschouwd vind ik het een vreemde oproep en ik heb het gevoel dat er iets anders dan de letterlijke betekenis van de oproep wordt bedoeld. Ik krijg daar nog geen vat op.

Eerst de computer van de belastingdienst maar eens hacken een stevige restitutie organiseren. Niet naar mijzelf hoor. Nee, naar sleutelfiguren in onze maatschappij. Kan er chaos ontstaan en begint het op oorlog te lijken.

Dan sta je voor de rechter met de mededeling dat je computer de belastingdienst heeft getild in plaats van de je je boekhouder de schuld geeft.

Blijf alert!

Martin Noordzij