Technologie gaat zich steeds actiever bewegen op terreinen waar de mensheid van oudsher domineert - creativiteit, empathie, contextueel besluitvormingsvermogen- en dus ontstaat er steeds meer fundamentele onzekerheid over de verantwoordelijkheden en toegevoegde waarde van de mens.

Een vaker gebruikt voorbeeld is de situatie waarin vijf mensen vastgebonden liggen op de treinrails. Vlak voor de plek waar ze lagen is er een wissel. Zet je de wissel om dan neemt de trein een ander spoor. Op dit andere spoor ligt één persoon vastgebonden op de rails. Wat te doen?

De meeste mensen geven aan in dit voorbeeld de wissel om te gooien waarmee het leven van vijf mensen wordt gered en één mens helaas de pineut is. Klinkt aannemelijk.

Maar wat als die ene persoon de president van de Verenigde Staten van Amerika blijkt te zijn?

Hoeveel levens van ‘gewone’ mensen is het leven van de president waard?

Daar zullen de meningen over verdeelt zijn.

Laten we dit vraagstuk in een andere context plaatsen.

Stel je bent chirurg. Als chirurg kan je het leven van vijf mensen redden door de organen te gebruiken van een patiënt die nietsvermoedend bij je is gekomen voor een ooglidcorrectie.

Zou je als chirurg bereid zijn ‘de wissel’ om te zetten? Op basis van welke gronden verantwoordt je het niet te doen? Omdat je in het belang van je patiënt moet dienen? Wat zou de familie van die vijf mensen daarvan vinden?

In bovenstaande voorbeelden speelt technologie maar een beperkte rol. We belanden zelden in een situatie waarin je tussen mensen moet kiezen. Mijn stelling is dat technologie ons steeds vaker zal dwingen te kiezen. Technologie zal ons dwingen keuzes te maken. Of laten we die verantwoordelijkheid ook over aan technologie?

Ander voorbeeld. Wat is de kans dat een bestuurder van een zelfsturende auto straks door zijn eigen auto tegen een boom wordt geparkeerd omdat de auto besloot uit te wijken voor drie overstekende mensen. Een afweging op basis van aantallen (drie levens vs. één leven) zoals de wissel uit het eerder voorbeeld.

En wat als de bestuurder de president van de Verenigde Staten van Amerika was?

Welke verantwoordelijkheid leggen we neer bij technologie? Daarin moeten wij een keuze maken. Moet technologie niet de afweging maken op aantallen maar bijvoorbeeld op basis van de ‘toegevoegde waarde’ van de personen in kwestie? En hoe bepaald je dan ‘toegevoegde waarde’? En wie doet dat dan? Of mag je van de auto verwachten dat hij altijd het belang van de bestuurder dient?

Wie neemt welke verantwoordelijkheid? Of schuiven we de verantwoordelijkheid af op technologie?

Nog een voorbeeld:

Deep Brain Stimulation (DBS) is een behandelmethode die wordt toegepast bij bepaalde hersenaandoeningen. Men plaatst men elektroden in de hersenen en daarmee worden elektrische prikkels gegeven waardoor signalen die problemen veroorzaken (bijvoorbeeld epilepsie) tegengehouden worden.

Er zijn gevallen bekend waarin de Deep Brain Stimulation-techniek is toegepast en de patiënt na de operatie grote euforie ervoer en extreem gedrag ging vertonen, zoals het aangaan van grote schulden of het uitvoeren van gevaarlijke stunts. De vraag was wie de verantwoordelijkheid droeg voor het gedrag van de patiënt. De conclusie was dat de artsen in ieder geval een grote medeverantwoordelijkheid droegen.

Vervreemdt de technologie ons van onszelf en overheerst ze ons?

DBS is natuurlijk geen alledaagse technologie dus het zal allemaal niet zo’n vaart lopen denk je wellicht. Maar technologie is alom vertegenwoordigd.

Het bekendste voorbeeld is natuurlijk de voedseltechnologie die toegepast is in de sigaret, waarbij het blijkbaar acceptabel was dat fabrikanten minuscule glassplinters toevoegen aan het product zodat bij inhaleren de longblaasjes geperforeerd worden waardoor de nicotineopname wordt gemaximaliseerd. In de wetenschap dat nicotine minstens net zo verslavend is als heroïne.

Ik ben niet tegen technologie. Juist niet. Ik zie technologie als hét middel om het menselijk potentieel te realiseren. Technologie is de motor achter de vooruitgang. Laten we dan eerst praten over wat vooruitgang is en vervolgens kijken hoe technologie ons daarbij kan helpen. Daarin is voor iedereen een rol weggelegd. Doe mee. Blijf niet aan de zijlijn staan en denk mee over kansen, risico’s en mogelijke dilemma’s.

Ben je geïnteresseerd in de relatie tussen de toekomst van de mens en de toekomst van technologie?

Lees dan ook mijn nieuwe speculatieve roman Meneer Miwa en de onbeschrijflijke leegte der dingen.

Blog

How to feed the Monster

We kunnen veel uitbesteden aan technologie. Ook ons verantwoordelijkheidsgevoel. Maar moeten we dat willen?