Breek de macht van de grote techbedrijven
Een zelfrijdende auto dreigt bij een ongeluk betrokken te raken. De auto heeft nu in dit geval twee opties: óf de auto botst op een voorligger waarbij de bestuurder mogelijk gewond raakt óf de auto kiest ervoor om uit te wijken naar de stoep waar omstanders staan. De kans dat de bestuurder gewond raakt is dan veel kleiner, maar de gevolgen voor de mensen op de stoep zijn des te groter. De auto zal uiteindelijk doen waar die voor geprogrammeerd is. Maar wie maakt dit soort keuzes bij het programmeren van deze nieuwe technologieën?
Woensdag sprak de Tweede Kamer over de macht van de grote IT-bedrijven. Apple, Google, Facebook, Microsoft, Uber en Airbnb, allemaal hebben ze op hun gebied een monopolie op onze data verkregen. Deze bedrijven kunnen nu nog vrijwel ongecontroleerd bepalen welke ‘keuzes’ nieuwe technologieën zullen maken. Als het aan deze bedrijven ligt zal alles wat technologisch haalbaar is en geld oplevert morgen realiteit zijn. Maar de vraag hoe bijvoorbeeld een zelfrijdende auto moet handelen bij een dreigend ongeluk is niet alleen een technologische of economische, maar bij uitstek ook een morele vraag.
Facebook gaf aan dat zij in de Verenigde Staten hier ook over nadenken. Tussen de vier muren van hun hoofdkantoor. Als wij niet zelf vooraf nadenken over hoe de knappe koppen in Silicon Valley dit soort ethische en morele dilemma’s moeten programmeren, dan doen deze amorele techgiganten dat dus voor ons.
Groot-Brittannië heeft vorige week aangekondigd een commissie in te stellen die zich met deze vragen bezig gaat houden. De Britten zijn bereid na te denken over hoe ingewikkelde algoritmen, nieuwe robots en andere toekomstige snufjes kunnen bijdragen aan de maatschappij in plaats van puur aan de portemonnee van de Amerikaanse bedrijven.
Nederland loopt nu nog achter alle feiten aan. Iedere keer dat een techbedrijf met iets nieuws komt is de overheid vooral bezig om de uitwassen te bestrijden. Er kwam een verbod op Uberpop omdat dit tot massale ontduiking van de taxiwet leidde en Airbnb wordt in vele steden ingeperkt omdat illegale hotels overal de kop op steken. Het is nodig dat de overheid dit soort ontwikkelingen vooraf kan beoordelen en in goede banen kan leiden, voordat ze problemen veroorzaken.
Bijna een jaar geleden kwam het Rathenau Instituut met een rapport over precies deze kwestie en hun conclusie was niet mis. De Nederlandse overheid, toezichthouders, het bedrijfsleven en de samenleving zijn niet goed genoeg voorbereid om met deze vragen van de digitalisering om te gaan. Of zoals zij zelf schreven: ‘Daardoor komen belangrijke publieke waarden en mensenrechten als privacy, gelijke behandeling, autonomie en menselijke waardigheid onder druk te staan.’
Het zal niet lang meer duren tot zelfrijdende auto’s een normaal verschijnsel zullen zijn op de Nederlandse wegen. Ook in Nederland moet er daarom een onafhankelijke commissie komen die zich moet buigen over de morele dilemma’s die nieuwe technologieën met zich meebrengen. Een commissie die met een moreel kompas tegenmacht biedt aan de eenzijdige focus op winst. Morele vragen moeten niet worden bepaald door een paar CEO’s in Silicon Valley, maar door de samenleving.
