Kunstmatige intelligentie is een krachtig wapen, maar niet tegen corona

Zo kon de kunstmatige intelligentie van Google Grieptrends epidemiologische gegevens voorspellen op basis van zoektrends, maar miste het de piek van het griepseizoen in 2013. Hoewel AI-systemen tegenwoordig toegang hebben tot meer soorten data, blijft het moeilijk om virussen te voorspellen. In december waarschuwde een AI-systeem in Boston over de uitbraak van een virus dat later bekend zou worden als het coronavirus. Maar deze waarschuwing was niet sneller dan die van de menselijke experts, omdat AI de ernst van een pandemie niet kan beoordelen.

Een groot obstakel voor AI is dat het eindeloos veel data nodig heeft en niet alle informatie kan verwerken die we nodig hebben om een probleem te begrijpen. Sommige AI-systemen doen voorspellingen op basis van nieuws- en social media berichten, maar deze zijn onbetrouwbaar omdat ze bol staan met desinformatie. Betrouwbare data over Covid-19 zijn schaars. Er zijn onvoldoende testen en er is onduidelijkheid over de symptomen, groepsimmuniteit, hoe het virus onderling wordt overgedragen, hoeveel mensen het hebben, of je het bij je kunt dragen zonder klachten, en de naleving en impact van social distancing.

Kortom: Covid-19 en alles wat het virusverloop beïnvloedt, is het tegenovergestelde van de stabiele omgeving met betrouwbare data die AI nodig zo hard nodig heeft om goed te kunnen presteren.
Ondertussen claimen bedrijven dat hun AI-software Covid-19 kan diagnosticeren aan de hand van CT-scans. Maar volgens Alexander Lundervold, expert op het gebied van machine learning en medische scans, zijn deze claims overtrokken. Er zijn te weinig betrouwbare trainingsdata en de fysieke tekenen van corona zijn pas na de infectie in de scans zichtbaar, waardoor de methode onbruikbaar is voor vroege diagnose. Toch wordt positief uitgekeken naar een neuraal netwerk genaamd COVID-Net, dat vorige week open access werd vrijgegeven. Onderzoekers hopen daarmee een AI-tool te ontwikkelen die mensen kan testen op Covid-19.

AI-systemen zijn afhankelijk van kwalitatief hoogwaardige data, en daarom gaan steeds meer geluiden op dat we meer gezondheidsdata met overheden en bedrijven moeten delen. Zo is de Autoriteit Persoonsgegevens tijdelijk minder streng op privacy, fantaseren tech-journalisten alvast over grafstenen met teksten als 'Maar ze behield tot het einde haar privacy', en zijn Amsterdammers begonnen met een app om gezondheidsdata te delen met de gemeente.

Maar de belofte dat we pandemieën kunnen bestrijden als we er maar genoeg gezondheidsdata tegenaan smijten is misleidend. Roel Coutinho, arts, microbioloog en voormalig directeur van het Centrum Infectieziektebestrijding verklaarde in Buitenhof: 'Je zou graag willen denken dat je dit volledig kunt voorkomen, maar dit is buitengewoon moeilijk, omdat er elke keer onbekende factoren zijn waarvan we niet hadden gedacht dat ze een rol zouden spelen. Het is complex, het gaat over ecologie, het gedrag van mensen, en onvoorziene factoren. Elke epidemie is anders.'

Dat infectieziekten zijn terug te leiden naar overdrachten van dier op mens weten we al jaren. Onze omgang met de natuur en het industriële globalisme dragen daaraan bij. Ecologen wijzen erop dat we door houtkap, toegenomen mobiliteit, mijnbouw, intensieve veehouderij, bevolkingsgroei en snelle verstedelijking steeds vaker in contact komen met diersoorten die we voorheen nooit tegenkwamen. Daardoor kunnen virussen makkelijker overspringen. Ook zouden onder het smeltende ijs onbekende virussen huizen die door klimaatopwarming loskomen.

De uitdaging van de coronacrisis ligt namelijk niet in de intelligentie van onze technologische systemen, maar in de schadelijke politieke, economische en sociale systemen waarin wij leven. Neem bijvoorbeeld het vinden van een vaccin. AI kan hierbij helpen, maar de ware uitdaging ligt in de aanpak van de perverse prikkels in ons zorgsysteem en de macht van big pharma.

Privacy overboord gooien om het virus te temmen klinkt nobel, maar is niet waar de meeste welzijnswinst te behalen valt. Het ministerie van Economische Zaken werkt momenteel aan een plan waarmee overheidsdiensten en telecombedrijven locatiegegevens van klanten kunnen delen. Daarmee kan de overheid burgers monitoren, bijvoorbeeld om potentiële besmettingslijnen te volgen en te controleren wie zich aan de regels voor sociale afzondering houden. De Autoriteit Persoonsgegevens wil de impact van deze tijdelijke maatregel laten toetsen met een spoedwet.

Maar de geschiedenis laat zien hoe moeilijk het is om de impact van een tijdelijke maatregel te toetsen, en hoe naïef het is om te denken dat je extra surveillance later nog gemakkelijk kunt terugschroeven. Zo maakte de achteraf niet zo tijdelijke Patriot Act het mogelijk dat Amerikaanse burgers tot op de dag van vandaag makkelijker worden afgeluisterd.

Overheden kijken massaal naar China als succesverhaal. Hun massasurveillance zou hebben bijgedragen aan de snelle bestrijding van het virus. Maar volgens critici zijn de volgsystemen onbetrouwbaar en ineffectief, omdat burgers onterecht als besmettingsgevaar worden gelabeld, en mensen het virus bij zich kunnen dragen zonder het te weten. Bovendien vreest het land vanwege nieuwe besmettingen en gemanipuleerde sterftecijfers voor een tweede besmettingsgolf. De urnen in Wuhan zouden op meer doden wijzen dan China claimt.

VN-chef Joseph Cannataci waarschuwt voor de manier waarop tijdelijke coronasurveillance onze vrijheid permanent kan aantasten. Hij wijst erop dat dictaturen vaak ontstaan tegen het licht van een gemeenschappelijke bedreiging. Deze ontwikkelingen worden door onderdrukte minderheden dan ook met argusogen bekeken. Zij vrezen dat datahongerige regeringen en techbedrijven na de coronapiek hun surveillancesystemen voorgoed kunnen rechtvaardigen uit naam van gezondheid.

Maar coronasurveillance heeft meer met sociaal wantrouwen en data-economische belangen te maken dan met gezondheid. Kunstmatige intelligentie moeten we dan ook niet begrijpen als een neutrale technologie, maar als een ideologie. Een onbescheiden ideologie gebaseerd op dataïsme, surveillancekapitalisme, sociaal wantrouwen en een mechanische opvatting van intelligentie. In plaats van de oplossing te zoeken in big data surveillance en AI, moeten we onze pijlen richten op het doorgeslagen maakbaarheidsdenken en de manier waarop we onze systemen inrichten.

Zo verklaart microbioloog Bruno Verhasselt: 'Het is een illusie dat je micro-organismen kunt tegenhouden. Het coronavirus maakte de sprong van vleermuizen naar mensen, het zal even duren voor we ons aan elkaar aanpassen. Het is belangrijk om verspreiding te vertragen, zodat ziekenhuizen niet overbelast raken en mensen worden gered. Maar je zal immuniteit moeten opbouwen, daarbij zullen mensen sterven. De impact op de mens zal vooral groot zijn door de niet-medische gevolgen.'

We leven in een wereld van veranderlijke factoren en complexe systemen. Deze werken niet volgens wetmatigheden, maar volgens een instabiele dynamiek. Dat vraagt niet om een AI-aanpak gebaseerd op categorieën en labels, maar om een interdisciplinaire aanpak gebaseerd op ervaringen uit de echte wereld, cognitieve flexibiliteit, gezond verstand en contextbewuste kennis.

AI is inderdaad een krachtig wapen, maar niet tegen corona. Het is vooral een wapen waarmee we een ongemakkelijke les afwenden. Want terwijl we op het virus schieten met onze hightech tools, hoeven we onszelf en onze collectieve systemen niet kritisch te bevragen. Iemand die dat gelukkig wel doet is filosoof en psychiater Damiaan Denys:

'De crisis van het coronavirus draagt het DNA van onze moderne levensstijl: consumering, globalisering, mediatisering, individualisering, technocratisering en een hunkering naar verloren sacraliteit. Is het virus onze vijand, of is het onze levensstijl die het ontwierp, de angst die het onderhoudt of de controle waar we naar hunkeren? Als het virus onze excessen bevraagt, waarom omhelzen we het niet als vriend in plaats van het als vijand te bevechten. Maar kunnen we nog wel buigen voor wat ons overstijgt?'

In het post-corona en AI-wintertijdperk zijn we hopelijk een lesje bescheidenheid rijker. Hoeveel rekenkracht en gezondheidsdata we er ook tegenaan smijten, ingrijpende tragiek, risico's en onvoorspelbaarheid blijven altijd onderdeel van het leven. Dat is zowel een vloek als een zegen. Een gesurveilleerd bestaan uit naam van totale risico-uitbanning is namelijk net zo bedrieglijk onschuldig als het coronavirus zelf.

Deze tekst verscheen eerder op SETUP, platform voor een technologie-kritische samenleving.