Kunstmatige intelligentie voor iedereen
Sennay Ghebreab is neuro-informaticus aan de Universiteit van Amsterdam en oprichter van het Civic AI Lab. Het Civic AI Lab is onderdeel van het Innovation Center for Artificial Intelligence (ICAI), een nationaal netwerk van kennisinstituten, de overheid en private partijen die samenwerken op het gebied van kunstmatige intelligentie.
fotografie: De Beeldunie/Guus Dubbelman“Ik hou mij al ruim tien jaar bezig met ‘Artificial Intelligence for social good’. Het Civic AI Lab zet zich in voor kunstmatige intelligentie voor iedereen, maar met name voor mensen die buiten de boot vallen, omdat er geen representatieve data over ze bestaan, of omdat er geen algoritmes voor ze worden ontwikkeld. Wat we bijvoorbeeld voor Amsterdam willen doen, is al aanwezige ongelijkheden in de stad blootleggen. Bijvoorbeeld in het onderwijs, de gezondheidszorg en de arbeidsmarkt. Daarnaast willen we nieuwe technologieën ontwikkelen om de kansen te vergroten van verschillende groepen binnen de stad. Eén van de manieren om kunstmatige intelligentie voor iedereen te ontwikkelen, is om de data te verbeteren. Bestaande data representeren maar een deel van de bevolking goed. Meestal zijn dat witte mannen. Dat heeft bijvoorbeeld tot gevolg dat zelfrijdende auto’s zwarte mensen minder goed zien en sensoren in bijvoorbeeld draaideuren of waterkranen niet werken omdat ze zwarte mensen niet herkennen. Maar hoe krijg je meer representatieve data? Onder meer door ervoor te zorgen dat de mensen die data collecteren en analyseren zo divers mogelijk zijn.Ook is het belangrijk om data mee te nemen die mensen vrijwillig afstaan in de digitale wereld. Gemeenten werken traditioneel veel met datakenmerken als woonplaats, sekse en salaris. Ik noem dat top-down kijken naar burgers. Het is belangrijk om ook gegevens mee te nemen die door burgers gegenereerd worden en wat vertellen over hun interesse of talent. Dat heet bottom-up datapush en dat kan de digitale representatie van burgers verrijken. Een voorbeeld: het Massachusetts Institute of Technology (MIT) maakte de atlas of inequality. Deze online atlas laat zien welke ongelijkheden er in de stad bestaan. Daarvoor gebruikte MIT geanonimiseerde locatiedata van smartphones. Om de sociaaleconomische status van stadsbewoners te bepalen, baseerden ze zich op gegevens over de buurt waar mensen wonen. Ik snap dat mensen zich ongemakkelijk kunnen voelen over dit soort projecten, ook al gaat het om geanonimiseerde data. Maar bedenk hoeveel data er nu worden weggegeven. Google houdt bij waar je loopt! Dan kunnen die data maar beter transparant worden ingezet, vóór de burger in plaats van voor grote techbedrijven.”Deze reeks interviews verscheen in Werkplaats 30.
