Sennay Ghebreab is hoogleraar Socially Intelligent AI aan de Universiteit van Amsterdam en directeur van het Civic AI Lab. In het lab wordt AI ontwikkeld en toegepast die bijdraagt aan een inclusieve en rechtvaardige samenleving. Daarbij trekken de universiteit, de overheid, de industrie en het maatschappelijk middenveld samen op. Charisa Chotoe en Calvin van Laaren gingen met hem in gesprek.
Artificial intelligence ontwikkelt zich razendsnel. Een sollicitatiebrief of een nieuwe zomerhit, AI draait het in een paar seconden in elkaar. Moeten we bang zijn voor die ontwikkelingen? Nee, denkt hoogleraar Socially Intelligent AI Sennay Ghebreab. Volgens hem moeten we vooral inzien dat AI een weerspiegeling is van onszelf, de mens. Als we dat weten, kunnen we AI in ons voordeel gaan inzetten, voor een rechtvaardige samenleving.
"Als AI een reflectie is van de data die wij gebruiken, dan vertelt die iets over ons als mens, als maatschappij."
lezen
Bij AI denken we aan van alles, van robots, tot algoritmes en ChatGPT. Hoe definieer jij AI eigenlijk?
“Dat is een goede vraag, want er zijn heel veel definities. Artificiële Intelligentie gaat met name over lerende systemen, die bijvoorbeeld kunnen leren van de fouten die ze maken. Ze krijgen daarbij geen voorbeelden voorgeschoteld, maar wel een beloning. Zo komen ze met nieuwe inzichten.”
Vaak hoor je dat de ontwikkeling van AI nu ineens wel heel snel gaat, dat iets als ChatGPT een gamechanger is. Hoe zie jij dat, als iemand die al decennia met kunstmatige intelligentie bezig is?
“Het is niks nieuws, deze technologie zat er de afgelopen twintig jaar al aan te geven. Om een voorbeeld te geven: Elon Musk is nu bezig met Neuralink, het implementeren van chips in de hersenen om de hersenen te kunnen aflezen. Dat is iets waar ik zelf ook aan heb bijgedragen in 2004, toen was de technologie om hersenactiviteit te kunnen lezen en die vertalen naar woordjes en plaatjes al in ontwikkeling.
Wat er nu gebeurt is dat partijen als OpenAI of Elon Musk deze ideeën oppakken en uitvergroten. De schaal waarop ze die toepassen en commercialiseren is nieuw, maar de technologie an sich niet.”
Wat valt jou op in de discussies over de ontwikkeling van AI?
“Wat mij opvalt is het wij-zij denken: veel mensen hebben het idee hebben dat wij mensen tegenover de technologie staan. Vooral als ze weinig weten van AI, informatica of computer science. Die beelden zijn ingegeven door allerlei Hollywood-scenario’s: daar komen de machines, ze worden groter en slimmer. Kijk maar, ze kunnen al tekst en plaatjes maken! Nieuwe generatieve technologieën, zoals ChatGPT, vergroten de wij-zij-spanning, terwijl ze die volgens mij zouden moeten verkleinen. Iets als ChatGPT is helemaal geen tegenstelling met ons mensen, maar juist een reflectie van ons. Toch worden ze gezien als een eigen, levende entiteit.”
Als een soort magie.
“Ja, terwijl je toch zou verwachten dat hoe meer AI in de haarvaten van de maatschappij zit, hoe meer kennis en bewustwording er zou moeten komen en hoe minder magisch het wordt. We moeten inzien dat AI als een spiegel werkt.”
AI zien als een spiegel, hoe bedoel je dat precies?
“Ik maak vaak een vergelijking tussen de spiegel en AI omdat er veel overeenkomsten zijn in de manier waarop ze zijn ontwikkeld en de narratieven die er omheen hangen.
In de 11e eeuw werkten heel veel techneuten op een interdisciplinaire manier samen aan de spiegel, ze hadden een gezamenlijke missie om een zo goed mogelijke en heldere spiegel te maken. In die tijd zei de kerk dat de spiegel iets duivels en dystopisch was, terwijl anderen het juist iets goeds vonden.
In de 12e, 13e en 14e eeuw was er een grote competitie tussen spiegelmakerijen in Venetië en in de Alpen, zoals je dat nu in Silicon Valley ziet. Tot aan de Renaissance, toen de spiegel na al die eeuwen van ontwikkeling een mechanisme van emancipatie werd. De armen konden zichzelf zien in de spiegel en gingen zich vergelijken met de rijken, door zich anders te gaan kleden. De spiegel werd zo een soort emancipatiemotor.
De huidige discussie over AI lijkt op de vroege discussie over de spiegel. Ook AI wordt nu als iets utopisch of juist dystopisch gezien.”
Wat leert die vergelijking met de spiegel ons over hoe we nu met AI omgaan?
“De spiegel heeft door de eeuwen heen verschillende functies gehad. In de eerste plaats was dat reflectie: je visuele eigenschappen terugzien. Dan volgt introspectie: je ziet jezelf zitten en vraagt je af, wie is die persoon? De spiegel zet je dus aan om na te denken over jezelf. Daarna komt verbeelding van wie je wilt zijn. Tot slot nodigt de spiegel uit tot transformatie, om die verbeelding van jezelf werkelijkheid te maken.
Met AI zitten we nu pas aan het begin van die ontwikkeling. De vraag is nu: is de spiegel die AI is, goed genoeg? Reflecteert die ons mensen, of moet die nog verder gepolijst worden? En waar de spiegel al wel goed werkt, kijken we dan goed in de spiegel, maken we de stap naar introspectie?
Als AI een reflectie is van de data die wij gebruiken, dan vertelt die iets over ons als mens, als maatschappij. Laten we niet terugschrikken voor wat we in die AI-spiegel zien, maar daarvan leren. Om het concreet te maken: de Toeslagenaffaire. Daar wordt de stap naar introspectie helemaal niet gemaakt. Wat hebben we gedaan en waarom? Men wil nog niet in de spiegel kijken om fouten te erkennen.”
Wat zien we als we wel goed in die spiegel kijken?
“Dat onderbuikgevoelens heel bepalend zijn. Dat zag je ook in de enquête na de Toeslagenaffaire. Onderbuikgevoelens die niet hard gemaakt of gekwantificeerd konden worden, werden in de algoritmes wél gekwantificeerd. Nationaliteit werd als kenmerk gebruikt en etniciteit ligt in het verlengde daarvan. Maar men blijft miskennen dat er discriminerend te werk is gegaan.”
Jij bent al langer bezig met hoe AI kan discrimineren. Is het bewustzijn daarover sinds het Toeslagenschandaal niet toegenomen?
“Toen ik in 2009 begon over discriminerende AI zei iedereen, inclusief mijn collega’s: AI en discriminatie, hoe kom je erbij? Nu wordt AI bijna alleen maar geassocieerd met disrciminatie en manipulatie. De aandacht daarvoor is een beetje doorgeslagen.
Er is dus meer aandacht voor, maar die functioneert ook als een afleiding van de bron van discriminatie, namelijk de maatschappij zelf. Door elke keer over de discrimenerende kracht van AI te praten, leid je de aandacht daarvan af. Discriminatie kun je niet uit AI halen als je discriminatie niet uit de maatschappij haalt.
Daarom houd ik me nu vooral bezig met hoe je AI kunt inzetten om discriminatie en ongelijkheid tegen te gaan.”
Hoe kan dat eruitzien?
“Daarvoor kom ik weer terug bij mijn spiegelmetafoor. We hebben een nieuw soort spiegel nodig, een kaleidoscopische spiegel met drie spiegels: de private sector (bedrijven), de publieke sector (overheden) en de civiele sector (community’s, de mensen zelf). Die derde spiegel mist nu: gemeenschappen worden nauwelijks meegenomen in de ontwikkeling van AI. Er moet veel meer ruimte komen voor co-creatie.
Een voorbeeld uit ons Civil AI Lab is onderzoek naar transportlijnen in de stad. Niet alle gemeenschappen hebben evenveel toegang tot openbaar vervoer, wat leidt tot mobiliteitsarmoede en -ongelijkheid. Met AI en algoritmes proberen we te kijken hoe optimaal transport eruit kan zien, als je rekening houdt met factoren zoals kosten voor gebruikers, toegang tot gezondheidszorg, etcetera. Op basis daarvan proberen wij verschillende scenario’s te ontwikkelen die gemeentes aan hun burgers kunnen voorleggen, zodat ze op een collectieve en eerlijke manier een keuze kunnen maken.
Ook zie ik steeds meer AI-toepassingen die de relatie tussen mens en natuur kunnen verbeteren. Zoals sensoren die stress bij bomen kunnen meten of AI die geluiden van dolfijnen kan interpreteren. Die nieuwe informatie stelt ons in staat om de natuur beter te begrijpen en ermee om te gaan.
Uiteindelijk geloof ik dat AI ons menselijker zal maken, omdat die helpt elkaar beter te leren kennen.”
Interviews elke twee weken bezorgd in je inbox?
abonneer je op onze nieuwsbrief