Internetexpert Marietje Schaake: de enorme macht van techbedrijven bedreigt de democratie

De laatste leugen die President Trump via Twitter de wereld in slingert, de vraag of T-shirts met nazistische symbolen op Amazon mogen worden verkocht, en als reactie dan weer een adverteerdersboycot tegen Facebook. Incidenten rondom sociale mediabedrijven domineren het nieuws en lijken de belangrijkste uitdagingen voor de democratie rond nieuwe technologie. Maar dat zijn ze niet. De controverses over sociale mediabedrijven raken aan fundamentele vragen over vrijheid (van meningsuiting) en zijn zeker belangrijk, maar ze maskeren een veel groter probleem: dat private bedrijven de baas zijn in het digitale domein. Daar, veelal onzichtbaar, is de democratie fundamenteel in het geding. 

De private machtsovername raakt aan kerntaken van de staat: het ontwikkelen van kunstmatige intelligentie, het bouwen en bedienen van kritieke infrastructuur (maar ook de bescherming ervan), de ontwikkeling van technologie voor defensie maar ook voor aanvallen op anderen in de digitale wereld, of denk aan het slaan van digitale munteenheden. Technologie- en databedrijven plegen eigenlijk een voortdurende coup. Om de democratie te laten overleven moeten macht en tegenmacht structureel in evenwicht komen.

Om te begrijpen hoe we terecht zijn gekomen in de situatie van vandaag, moeten we even terug in de tijd. Voordat de nieuwe uitvindingen uit Silicon Valley razendsnel populair werden, omarmden technologiepioniers namelijk juist de taal van democratie en vrijheid. 'Technologie is inherent democratiserend' zei Sergey Brin, oprichter van Google in 2005. Marc Benioff zei 'De cloud is een democratie'. John Perry Barlow noemde het internet de grootste bevrijdende kracht ooit ontdekt door de mensheid. Ze beloofden een emanciperende en liberaliserende werking door het openbreken van monopolies op macht en informatie.

Inmiddels is een handvol technologiereuzen zelf monopolist. Toch blijven democratische regeringen vasthouden aan een laissez-faire-houding tegenover bestuur en regelgeving. Daar betalen we nu de prijs voor. Zowel ingenieurs die technologie ontwikkelen, als democratische leiders zelf, hebben het belang onderschat van het bewust kiezen, ontwerpen en handhaven langs democratische principes. De hoop en zelfs de verwachting was dat digitalisering als vanzelf voor meer efficiëntie, maar ook voor meer vrijheid zou zorgen. Dat wensdenken wreekt zich nu. Want zonder verankering raken we rechtsstatelijkheid en democratie kwijt. Machtige systemen die met een winst- of efficiëntiedoel werden gebouwd, gevoed door ontransparante datasets en door automatisch lerende processen, hebben de democratie en het publieke belang uitgehold. 

Hoe druk je de macht van technologiebedrijven nu eigenlijk uit? De economische schaal liegt er niet om. De marktwaarde van alleen al de Amerikaanse technologiebedrijven stond in september op 9.1 biljoen dollar. Dat is meer dan de aandelenmarkten van de Europese Unie, Zwitserland en het Verenigd Koninkrijk samen (op dat moment 8.9 biljoen dollar). En de vijf grootste spelers: Apple, Alphabet (het moederbedrijf van Google), Amazon en Facebook hebben een gecombineerd aantal gebruikers dat het merendeel van de wereldbevolking beslaat.

Maar wat levert deze private waarde het publieke domein op? Uiteraard creëren bedrijven, en ook technologiebedrijven, producten die voor de economie van belang zijn. Het is ook niet zo dat overheden zelf mobiele netwerken of digitale snelwegen moeten gaan aanleggen. Maar anders dan bij bijvoorbeeld een stratenmaker, waarvan het product wordt afgenomen en het daarna letterlijk de openbare weg wordt, blijft bij het aanleggen van smart cities veel waardevolle data in het bezit van bedrijven. Vaak ontbreken daarnaast de transparantie, het onafhankelijk toezicht en de nodige democratische verantwoording.

De macht van bedrijven dringt zich op als een heel ecosysteem, dat voorbijgaat aan de rol van individuele technologiereuzen. De ontwikkeling van de informatie-architectuur en het managen van data die erdoor stromen wordt door reclamebedrijven gerund. Het bouwen van de digitale infrastructuur, maar ook het verdedigen ervan, door consultancy-bedrijven. Het coderen van digitale munteenheden door schimmige zakenmensen. Beslissingen in het zakelijk belang bepalen op die manier normen en standaarden voor miljarden mensen wereldwijd.

Door de coronapandemie zijn ook onderwijs en zorg nu vitale sectoren waar die bedrijven meer invloed krijgen. De lijst van gebieden waar technologiebedrijven de dienst uitmaken groeit razendsnel, zonder dat democratische regeringen of wetgeving een rol spelen. Welke belangrijke sector kunnen democratische regeringen nog wél runnen zonder afhankelijk te zijn van technologiebedrijven? De publieke sector loopt nu zodanig achter als het gaat om kennis, salarissen en talent, dat dit toezichthouders verhindert om ervoor te zorgen dat technologiebedrijven binnen rechtsstatelijke kaders opereren. Vaak ontbreken controle en onafhankelijk toezicht volledig, omdat de technologische standaarden al bepaald zijn voor de wet er een kader omheen heeft gezet. Denk aan gezichtsherkenningssystemen.

Met de komst van kunstmatige intelligentie loopt de asymmetrie in capaciteit en dus macht verder uit de hand: tussen privaat en publiek, tussen democratische instituties en commerciële bedrijven. Er is een kennisgebrek, een talentenlacune, een datagat en een processorcapaciteitsverschil aan de kant van overheden. Samen tellen die op tot een machts- en verantwoordingsvacuüm.

De privatisering en digitalisering van kerntaken raakt ook essentiële filosofische elementen van de liberale democratie, zoals keuzevrijheid, eerlijke concurrentie, non-discriminatie en rechtvaardigheid. In Nederland werd de regering al op de vingers getikt, omdat het Systeem Risico Indicatie (SyRI) dat uitkeringsfraude moest opsporen, in strijd bleek met de bescherming van mensenrechten. Het systeem was sinds 2014 in gebruik.

Die disbalans tussen private en publieke macht in de digitale wereld was er aanvankelijk niet. Overheidsinvesteringen zijn juist essentieel geweest voor het starten van de tech-industrie, zeker in Silicon Valley. Die vroege overheidsinvesteringen wekken ook de indruk dat het strategisch belang van technologie en data werd begrepen, net als de noodzaak om te besturen vanuit democratische waarden en principes. Maar in plaats daarvan werd een andere aanpak de norm. Een aanpak waarbij democratisch gekozen politici op een steeds groter zijspoor kwamen. De populaire zin 'regulering smoort innovatie' werd te pas en te onpas herhaald door vertegenwoordigers van tech-bedrijven wanneer wetgeving werd voorgesteld. Ik hoorde het zelf ook vaak toen ik nog in het Europees Parlement zat.

In Europa, waar technologiebedrijven minder makkelijk uit de grond schoten dan in de VS, werd de angst om met wetgeving innovatie te belemmeren met succes uitgevent door een steeds grotere groep lobbyisten. Veel kostbare tijd ging zo verloren aan democratische regeringen die zich afzijdig hielden en het bedrijfsleven de ruimte gaven, terwijl ze het democratisch kader en machtige digitale systemen hadden moeten verankeren. We zien nu welke prijs de democratie en het publieke belang betalen. 

Geopolitiek heeft de dominantie van het libertarische bestuursmodel een grote impact gehad voor het Westen. De periode waarin de relatieve achteruitgang van democratie op het wereldtoneel al duidelijk was, maar toen democratieën nog een competitief voordeel hadden door de technologische voorsprong, is nauwelijks benut.

De meest machtige democratische blokken, zoals de Verenigde Staten en de Europese Unie, lieten het na om het internationale op regels gebaseerde systeem ook in het digitale domein te laten gelden. De ruimte die daarmee vrijkwam, werd snel gevuld door bedrijven zelf en door autoritaire regimes. Die laatste zetten de technologie en data in als verlengstukken van hun politieke doctrine en maken nu snel vorderingen in het uitrollen van standaarden wereldwijd.

Het groeiende besef dat de democratie geleden heeft onder de ongebreidelde ruimte voor technologiebedrijven komt juist op het moment dat democratie wereldwijd een teruggang doormaakt, en China snel macht naar zich toetrekt met haar autoritaire bestuursmodel. De Chinese regering heeft technologiebeleid volledig in dienst gesteld van haar belangen, en niet zonder succes. Het is marktleider in een aantal technologieën met autoritaire insteek, zoals gezichtsherkenning. De succesvolle ontwikkeling van kunstmatige intelligentie en spionagetechnologie door bedrijven en onderzoekers in China kan niet los gezien worden van het repressieve beleid, met name tegenover de Oeigoeren. Dit soort gedrag van autoritaire regimes was natuurlijk voorspelbaar. Maar het uitbesteden van bestuur en macht door democratische machten aan private partijen had voorkomen kunnen worden.

De voortgang van private macht kan afgeremd worden en publieke belangen kunnen verstevigd. Door het handhaven van de democratische principes met binnenlandse wetgeving, zoals mededingingsregels, non-discriminatieprincipes en fundamentele vrijheden, kan de balans worden hersteld. Technologie moet niet zozeer aangepakt worden, maar bedrijven moeten evengoed aan regels, standaarden en veiligheidseisen voldoen als bedrijven in andere sectoren. Eerlijke regels. Daarvoor moeten onafhankelijke toezichthouders substantieel meer mandaat en kennis krijgen, zodat zij kunnen onderzoeken of afgesproken principes gerespecteerd worden.

[banner id="4"]

Investeringen in specifieke kennis over technologie moeten toezichthouders en internationale organisaties daarvoor klaarmaken, en ook onafhankelijk onderzoek naar de werking en impact van technologie moeten in het publieke belang en dus stevig publiek gefinancierd worden. Momenteel worden te veel universiteiten en maatschappelijke organisaties die technologie tegen het licht kunnen houden, gefinancierd door tech-bedrijven met een belang. Ook internationaal is betere samenwerking tussen democratische landen nodig.

Nu digitalisering privatisering betekent, en technologie overal is, zijn technologiebedrijven machtige de facto bestuurders geworden. De fundamentele discussie over wie de legitieme macht over het maken van regels heeft en kan beslissen over belangrijke aspecten van de levens van mensen moet dringend gevoerd worden. Zonder legitiem mandaat, controle op de macht, maar ook onafhankelijk toezicht en het afleggen van verantwoording is er geen democratie.