Het meten van resultaten in ontwikkelingssamenwerking is complex en kostbaar, met VKA zijn we op weg naar een efficiëntere en robuuste wijze van dataverzameling, analyse en rapportage

Inzet van deep learning bij Amref

Amref Flying Doctors is onder meer bezig met het verbeteren van de sanitatie voor mensen in Oost-Afrika. Een van de programma’s die het uitvoert is ‘FINISH Mondial’. Het FINISH Mondial programma wordt door Amref Flying Doctors samen met Waste en Aqua for All uitgevoerd in 6 landen: Kenia, Oeganda, Tanzania, Ethiopië, Bangladesh en India. Het programma wordt voor een groot deel gefinancierd door het Ministerie van Buitenlandse Zaken.

foto: Jeroen van Loon

FINISH staat voor Financial Inclusion Improves Sanitation and Health (https://www.finishmondial.org/) en heeft als doel om een markt te creëren waarin mensen in staat zijn om (eventueel met behulp van leningen) een goede en goedkoop toilet te bouwen waar ze nu slechte faciliteiten gebruiken. Het programma bouwt zelf dus geen toiletten, maar traint en faciliteert alle benodigde partijen om tot de juiste omstandigheden te komen om de bouw en gebruik van goede toiletten mogelijk te maken voor huishoudens. Denk hierbij aan het trainen van ambachtslieden in het maken van goede toiletten, lokale banken over het aanbieden van zachte leningen en overheden om campagnes over goede sanitatie te promoten.

Vanaf 1 januari 2021 is er een nieuwe periode van 5 jaar ingegaan waar we tot doel hebben om 2 miljoen toiletten te verwezenlijken.

Monitoren met data

Een belangrijk onderdeel van het programma is het monitoren van de voortgang van het project om te begrijpen wat de voortgang is. Zowel voor intern gebruik om het project tijdig bij te sturen, als extern naar donoren en een algemeen publiek. Traditioneel wordt dat gedaan met een nulmeting bij aanvang van het project, halverwege en aan het einde. Zulke metingen zijn niet alleen kostbaar, het is vaak een schatting aangezien er wordt gewerkt met steekproeven.

De ambitie van het programma is om met een zo hoog mogelijke zekerheid iets te kunnen zeggen over het aantal toiletten dat is gebouwd als resultaat van het programma. En er zijn inmiddels verschillende mogelijkheden om gemakkelijker en completer data te krijgen, door middel van enquêtes die via mobieltjes in een centrale database komen bijvoorbeeld.

“Het meten van resultaten in ontwikkelingssamenwerking is complex en kostbaar, met VKA zijn we op weg naar een efficiëntere en robuuste wijze van dataverzameling, analyse en rapportage.”

Maarten Kuijpers, 2021

foto: Adrian Mgaya

In de afgelopen jaren heeft het programma geëxperimenteerd in Oeganda en Kenia met het 1-op-1 monitoren van de voortgang door elk nieuw toilet in te meten. Dit gebeurt door middel van vragenlijsten die door lokale marketeers worden ingevuld op hun smartphone. In Oeganda hebben we alleen al het afgelopen jaar meer dan 5,000 toiletten ingemeten. Dit proces is geëvalueerd en een van de zwakke plekken is de kwaliteitsbewaking van de data. De continue stroom aan veel data maakt dat het te arbeidsintensief is om handmatig alle antwoorden te verifiëren.

De verzamelde data biedt een tal van mogelijkheden om met deep learning antwoorden te valideren. Een van de oplossingen dat met VKA onlangs is getest is de mogelijkheid om foto’s die zijn genomen van nieuwe toiletten automatisch te categoriseren in het type toilet. Dit kan worden vergeleken met de antwoorden die zijn gegeven door dataverzamelaar. Waar er afwijking is kan vervolgens een kwaliteitsmedewerker een oordeel geven.

foto: Adrian Mgaya

Deep learning inzetten om de kwaliteit van de data te waarborgen is de ambitie voor het FINISH programma in 2021. Daarvoor willen we met verschillende partijen aan tafel om het dataproces sterker te maken en zien hoe deep learning in productie kan worden genomen.

“Met hulp van Bas Bloemberg (VKA) wordt onze droom van impactmeting en robuuste data werkelijkheid.”

Maarten Kuijpers, 2021

Een tweede mogelijkheid heeft betrekking op het meten van impact. In het kort komt het erop neer dat je met goede monitoring een beeld krijgt van de voortgang van een programma in het projectgebied. Tegelijkertijd is het van belang om te weten hoe deze ontwikkelingen in het projectgebied zich verhouden tot andere gebieden waar het programma niet actief is. Op die manier kan de toegevoegde waarde van het programma worden bepaald.

De conventionele manier om dit te meten is door het uitvoeren van random controlled trials waarin een gellijkwaardige gebieden worden ingemeten om zo het verschil tussen projectgebied en niet-projectgebied duidelijk te maken. Dit is altijd een dure en intensieve oplossing.

Met name in rurale gebieden worden door huishoudens latrines gebouwd in de tuin van het huishouden. Met de grote hoeveelheid latrines in tuinen wordt met VKA getest of het mogelijk is om over gedetailleerde satellietfoto’s te beschikken en die te onderwerpen aan deep learning. De eerder genoemde metingen op de grond dienen hierbij als trainingsdata.

“In onze zoektocht om onze impact ondubbelzinnig aan te tonen vinden we in VKA een partner die van grote waarde is en met ons meedenkt.”

Maarten Kuijpers, 2021

foto: Jeroen van Loon

Als het mogelijk is latrines te identificeren op satellietfoto’s, of de kans daartoe te berekenen dan is het wellicht ook mogelijk om satellietfoto’s te beoordelen waar het programma niet actief is. Het huidige idee is dat je voor verschillende perioden en verschillende gebieden ‘heatmaps’ kan maken met de aanwezigheid van latrines. En natuurlijk zien wij het liefst dat die heatmap donkerrood kleurt waar FINISH Mondial actief is.

“Het meten van resultaten in ontwikkelingssamenwerking is complex en kostbaar, met VKA zijn we op weg naar een efficiëntere en robuuste wijze van dataverzameling, analyse en rapportage.”

Maarten Kuijpers, 2021

Ook voor dit onderdeel hopen we in 2021 stappen te zetten om te zien of het ontwikkelen van dergelijk materiaal haalbaar is op basis van satellietfoto’s.