Moral design of onbezonnen startup

Jan Spoelstra

“Je blijft als ontwikkelaar moreel verantwoordelijk voor de technologie die je maakt”, aldus Bart Wernaart. Hij is de kersverse lector Moral Design Strategy aan Fontys Hogescholen in Eindhoven en roept techneuten en ontwikkelaars op zich aan te sluiten bij discussiegroepen over dit thema. Het zijn waarschuwingen die we vaker gehoord hebben. Maar kun je wel zoveel verantwoordelijkheid in de schoenen van techneuten en ontwikkelaar schuiven?

In het interview komt Wernaart met het voorbeeld dat de moraliteit in het pistool zit. Doordat het er is, zal het voor goede en kwade doeleinden gebruikt worden. En dat is volledig onafhankelijk van de intentie – die best goed kan zijn – die de originele uitvinder er mee voor had. En dus moet hij er van tevoren over nadenken.

Het bureau voor normen en standaarden NEN beschrijft het op een andere manier, maar is ook van mening dat je bij de introductie van nieuwe technologie ver vooruit moet kijken. De digitale transformatie gebeurt aan de ene kant met olietankers die maar moeizaam van koers veranderen: gevestigde bedrijven en overheden die bedachtzaam te werk gaan. En aan de andere kant dobberen er speedboten om heen die alle kanten op schieten, startups, waarvan het nog maar de vraag is of ze de eindstreep halen. Vanuit die startup wereld heerst vaak een just-do-it mentaliteit. Het werkt, dus gaan met die banaan zonder aandacht voor schadelijke neveneffecten.

Maar hoe zit dat met innovatie in de industriële automatisering? Toenemende OT-IT integratie, bijvoorbeeld, kent grote voordelen. Monitoring en onderhoud aan machines gebeurt efficiënter en voorspellend. Het werk wordt meer hightech en hoogwaardiger. Een mooi voorbeeld vind ik de containerterminal van RWG in de Rotterdamse haven. Ze zien het overslaan van containers niet meer als traditioneel havenwerk, maar het is een onvervalst IT-bedrijf.

De belangrijkste keerzijde van deze ontwikkeling is de opmars van cyber risks. We kennen de hacks van containerterminals en oliepijpleidingen nog. Het zijn voorbeelden waar IT-processen zoals facturatie en afhandeling van containers, gekoppeld zitten aan feitelijke kleppen en pompen op pijpleidingen of aan containerkranen en autonome voertuigen op terminals. Maar moeten we deze ontwikkeling daarom stoppen? Of moeten we uitdagingen ondervangen met toenemende aandacht voor cybersecurity? Ik denk het laatste.

De bewering van Wernaart dat technologie niet waardevrij is zal onder veel lezers de wenkbrauwen doen fronsen. Je kan niet alle verantwoordelijkheid in de schoenen van techneuten en ontwikkelaars schuiven. Als je in de prehistorie een schijf van een boomstam afzaagt, er een as doorheen jaagt, daar een bak op primitieve lagers op laat rusten en dubbel zoveel goederen in één keer kan vervoeren – je vindt het wiel uit – ben je niet verantwoordelijk voor de wielen in militaire voertuigen. Ik voorzie dat Wernaart eeuwig aan de slag kan blijven met de technologische ontwikkeling en de daarop volgende aandacht voor schadelijke neveneffecten – dat is al millennia aan de gang. Maar af en toe zo’n startup speedboat terugfluiten zou moeten kunnen.