We moeten het hebben over AI….

Tijdens mijn wereldreis heb ik veel gelezen en nagedacht over de opkomst van al die mooie AI (ja, het woord ‘intelligence’ is verkeerd gekozen) tools als ChatGPT, Midjourney en ga zo nog maar even door. Er is een gevaar om meegenomen in de hype of haat rondom deze tools. Echt genuanceerd is de discussie doorgaans niet. En dat is een gemiste kans.

Ik heb gelezen over de manier waarop deze systemen worden getraind en de beperkingen die hier bij komen kijken. Niet alleen beperkingen in kwaliteit van data, maar ook in de scheve verdeling van wie de vruchten (lees: opbrengsten) plukt van deze nieuwe organisaties.

Ik zal je niet lastigvallen met een allesomvattend stuk over deze ontwikkeling, dan zou ik er een boek van moeten maken, maar wil in deze editie aan de hand van publicaties 3 vraagstukken met je willen delen:

  1. We zijn de mensen achter AI?
  2. De grote gevaren van de bias in dataset en hoe AI dit kan versterken
  3. De vraag of AI de grootste dataroof in de geschiedenis is

Wie zijn de mensen achter AI?

Om hier laagdrempelig meer over te leren is het aan te raden om de de editie ‘Microwerkers trainen AI voor hongerloontje‘ van de podcastserie ‘De Technoloog’ op BNR te beluisteren. In deze aflevering interviewen Herbert en Ben onderzoekster Claartje ter Hoeven. Claartje doet veel onderzoek naar ‘crowd- en clickworkers’: de groep werkenden die via platformen als Amazon Mechanical Turk de losse eindjes van AI aan elkaar knopen. Zij geeft waardevolle inzichten over wie deze groep is, wat hun motivatie is en ga zo nog maar even door. Belangrijkste om te onthouden: AI is een heel stuk minder intelligent dat je zou denken (het woord ‘intelligence’ is dan ook een misleidend frame) en duizenden mensen trainen én corrigeren AI via verschillende online platformen. Uitdaging hierin is dat dit (te) weinig wordt gecontroleerd en er zo weer nieuwe biasses in de software sluipen die wordt gebruikt om steeds belangrijkere beslissingen te maken.

Wil je wat verder lezen, dan is het artikel ‘Cleaning Up ChatGPT Takes Heavy Toll on Human Workers – Contractors in Kenya say they were traumatized by effort to screen out descriptions of violence and sexual abuse during run-up to OpenAI’s hit chatbot‘ in de Wall Street Journal een aanrader. Dit stuk maakt je niet alleen (nog veel) meer bewust over de rol van mensen in het trainen en corrigeren van AI, maar ook op de impact die dit werk op hen heeft. Niet iets om vrolijk van te worden, zeker wanneer je beseft dat deze mensen zeker niet degenen zullen zijn die er met de miljardenwinsten vandoor zullen gaan. Ook in dat opzicht is er weinig ‘nieuw’ aan deze technologie.

De grote gevaren van de bias in dataset en hoe AI dit kan versterken

Dit onderwerp kwam al een beetje naar voren in de vorige paragraaf, maar toch heb ik hem even apart gezet. Dit omdat ik het stuk ‘The people paid to train AI are outsourcing their work… to AI – It’s a practice that could introduce further errors into already error-prone models.‘ bij je onder de aandacht wil brengen. Want als je dacht dat AI alleen gebruikt wordt door de hoogopgeleide en te goed betaalde kenniswerkers, dan heb je het mis. In dit stuk wordt een interessant experiment omschreven:

“The workers are poorly paid and are often expected to complete lots of tasks very quickly. No wonder some of them may be turning to tools like ChatGPT to maximize their earning potential. But how many? To find out, a team of researchers from the Swiss Federal Institute of Technology (EPFL) hired 44 people on the gig work platform Amazon Mechanical Turk to summarize 16 extracts from medical research papers. Then they analyzed their responses using an AI model they’d trained themselves that looks for telltale signals of ChatGPT output, such as lack of variety in choice of words. They also extracted the workers’ keystrokes in a bid to work out whether they’d copied and pasted their answers, an indicator that they’d generated their responses elsewhere.

They estimated that somewhere between 33% and 46% of the workers had used AI models like OpenAI’s ChatGPT. It’s a percentage that’s likely to grow even higher as ChatGPT and other AI systems become more powerful and easily accessible, according to the authors of the study, which has been shared on arXiv and is yet to be peer-reviewed.”

Ik heb geen idee of deze groep werkenden AI niet zouden gebruiken wanneer ze hier beter voor betaald zouden worden (ik zie niet in waarom dat zo zou zijn), maar het is duidelijk dat er een groot risico zit in het trainen van AI door… AI:

“Using AI-generated data to train AI could introduce further errors into already error-prone models. Large language models regularly present false information as fact. If they generate incorrect output that is itself used to train other AI models, the errors can be absorbed by those models and amplified over time, making it more and more difficult to work out their origins, says Ilia Shumailov, a junior research fellow in computer science at Oxford University, who was not involved in the project.

Even worse, there’s no simple fix. “The problem is, when you’re using artificial data, you acquire the errors from the misunderstandings of the models and statistical errors,” he says. “You need to make sure that your errors are not biasing the output of other models, and there’s no simple way to do that.”

Het is dus allemaal niet zo eenvoudig als je misschien zou denken. Belangrijk om hier god onderzoek naar te doen en de modellen transparant te maken. Dit laatste wil de sector graag doen in de vorm van zelfregulering. Dat snap ik: ik vermoed dat dat op pagina 3 staat van het boek ‘lobby voor Dummies’. Het is daarom des te belangrijk dat hier goede regulering en overzicht voor komt. Of, zoals Marietje Schaake het op Twitter verwoordde: “Nobody elected Big Tech to govern the entire digital world. If democracy means anything, leaders must take responsibility for protecting the freedom of the American people from the ever-changing whims of powerful companies and their unaccountable C.E.O.s”.

De vraag of AI de grootste dataroof in de geschiedenis is.

Er is naar mijn mening nog te weinig discussie over de vraag hoe legitiem het is dat deze bedrijven data van anderen gebruiken om de eigen modellen te trainen. Om hier vervolgens zelf met de opbrengsten mee vandoor te gaan. Je kunt dit ontzettend politiek correct omschrijven of verdedigen, maar ik denk dat het interessanter is om het beestje bij de naam te noemen. En de vraag te stellen of het trainen van deze AI modellen niet de grootste data roof in de geschiedenis is. Ik weet: het is een flinke beschuldiging. Zeker omdat data roof voor de advertising industry niet geheel vreemd is. Maar ik zou je toch willen uitdagen om eens na te denken waarom dit NIET zo zou zijn.

En natuurlijk is dit geen nieuwe zorg. Deze zomer zijn genoeg stukken verschenen over rechtszaken tegen AI bedrijven als ChatGPT van hen wiens data is gebruikt voor het trainen van deze modellen. Zoals in het stuk ‘ChatGPT maker OpenAI faces a lawsuit over how it used people’s data‘. Ik verwacht de komende jaren nog flink wat rechtszaken rondom dit onderwerp, maar het is de vraag of het kwaad dan niet al is geschied.

Ik zou dan ook willen pleiten om parallel aan deze rechtszaken ook na te denken over modellen waarbij de leveranciers van data wél worden gecompenseerd voor de data die van hen wordt gebruikt. Het moet op de een of andere manier toch mogelijk zijn om dit te organiseren? Het is denk ik onmogelijk dit 1-op-1 te herleiden, maar er zijn vast andere creatieve manieren om hier mee om te gaan. Volgens mij een ideaal model waar blockchain fanaten op los kunnen gaan.

Een interessante casus komt voorbij in dit artikel in Time: ‘AI by the people, for the people: The Workers Behind AI Rarely See Its Rewards. This Indian Startup Wants to Fix That‘. Een mooi stuk, al valt ook hier wel het een en ander op aan te merken.

Super-apps en groene vestjes: lessen over de kluseconomie uit Indonesië

Super-apps zoals Grab en Gojek centraliseren en formaliseren de informele arbeidsmarkt van Indonesië. Welke problemen horen daarbij? En wat leert dat ons over de kluseconomie wereldwijd? Martijn Arets gaat op onderzoek uit in The Gig Work Podcast.

Werken via online platformen is overal ter wereld in opkomst, maar het debat over de kluseconomie is veelal gericht op de westerse wereld. Om een completer beeld te krijgen, is het goed om eens een kijkje te nemen in landen met een ander institutioneel landschap. Bijvoorbeeld Indonesië.

Deze zomer reisde ik zes weken door deze bijzondere eilandstaat en bestelde ik tientallen keren taxi’s via de Aziatische platformen Gojek en Grab. Deze ‘super-apps’ bieden talloze diensten aan op één platform: van taxiritten tot maaltijdbezorging, van schoonmaak tot hotels. Ze zijn razend populair en dat zie je ook op straat. In grote steden als Jakarta, Soerabaja en Yogyakarta een zee van mannen in groene jasjes op motoren.

Wat betekent de kluseconomie voor de Indonesische platformwerkers? Om dat te weten te komen sprak ik Suci Lestari Yuana, promotieonderzoeker aan de Universiteit Utrecht en werkzaam bij het Department of International Relations aan de Faculty of Social and Political Science van de universiteit van Gadjah Mada in Yogyakarta, Indonesië.

Informele arbeid als ruggengraat van de samenleving

Yuana heeft sinds 2015 een fascinatie voor de platformeconomie en de invloed ervan op de arbeidsmarkt. Ze deed onderzoek naar de ontwikkelingen in zowel Nederland als Indonesië. “Europese collega’s zien informele arbeid en zwartwerk als minderwaardig”, vertelt ze. “Zij zijn direct op zoek naar manieren om het werk te formaliseren. In Indonesië denken we heel anders over de informele economie: het is niet ondergeschikt, het is de ruggengraat van de samenleving.”

In Indonesië zijn er veel meer mensen met een informele dan een formele baan: zo’n 65% van de bevolking werkt zonder formele regelgeving, wettelijke bescherming of officiële registratie (2023). “De overheid is niet in staat om voldoende werkgelegenheid te creëren in de formele economie”, vertelt de onderzoeker. “Dagelijks leven is afhankelijk van informele arbeid. Dat geldt voor meer landen in het zuiden van de wereld.”

Van formele baan naar kluswerk

Platformen digitaliseren deze informele economie. Gojek en Grab beloven een hogere beloning en meer werk. Dat de platformeconomie floreert in Indonesië is dus eigenlijk niet zo verrassend. Sinds de opkomst van online werkplatformen wordt het informele werk zichtbaarder en meer gewaardeerd.

Dat de informele economie meer structuur en status krijgt is positief, maar er is ook een keerzijde. “De mooie beloftes van de platformen leiden ertoe dat mensen met een formele baan of een hogere opleiding aan de slag gaan als kluswerkers”, vertelt Yuana. “Dat gaat ten koste van de oorspronkelijke taxichauffeurs en maaltijdbezorgers, die vaak geen startkwalificatie hebben. Kortom, de concurrente in de informele economie neemt toe.”

Bovendien maken de platformen hun mooie beloftes vaak niet waar, zegt ze. “Ze adverteren bijvoorbeeld met salarissen van 700 euro per maand, vier keer het minimum in Jakarta. In de praktijk valt dat vaak tegen, omdat dit inkomen gekoppeld is aan prestatiebonussen, waardoor het een onvoorspelbare achtbaanrit wordt voor de werkenden.”

Gebrek aan langetermijnvisie

Yuana doet onderzoek naar debatten en conflicten rondom de kluseconomie in Indonesië. “Discussies en protesten zijn meestal gericht op kortetermijnwinst”, vertelt ze. “Dat is zo in meer andere armere landen op het zuidelijk halfrond. Werknemersorganisaties in Indonesië maken zich bijvoorbeeld vooral sterk voor hogere tarieven, maar niet voor betere arbeidsomstandigheden.”

Volgens Yuana denkt de overheid te weinig na over de lange termijn. Dat is geen nieuw probleem, legt ze uit. “Zo is vervoer via motortaxi’s niet legaal, maar het wordt al sinds de jaren ’70 gedoogd. Er zijn geen wetten en regels, omdat de overheid dit soort taxivervoer eigenlijk te gevaarlijk vindt. Maar handhavers treden er ook niet tegen op, want er is nog geen fatsoenlijk alternatief openbaar vervoer. Dit soort vervoer werd als een transitie in het vervoerssysteem gezien. Het is alleen de vraag: tot wanneer?”

Platformwerkers aan tafel

Overheidsbeleid veranderen is lastig, maar zij en haar collega-onderzoekers doen hun best. Zo organiseren ze regelmatig bijeenkomsten en seminars over de platformeconomie, waarbij ze niet bang zijn om kritiek te uiten. Zij pleiten voor meer regulering van de platformeconomie om werkomstandigheden te verbeteren en meer mensen een eerlijke kans te geven op werk.

Volgens Yuana is het belangrijk is dat platformwerkers een plek aan tafel hebben tijdens discussies die over hen gaan. “Om tot werkbare wet- en regelgeving te komen, moeten alle stemmen gehoord worden. De werkende wordt nog te vaak overgeslagen. Natuurlijk weten wij wetenschappers veel van platformwerkers, maar ik heb niet het gevoel dat ik namens hen zou kunnen spreken.”

Die plek aan tafel is steeds vaker beschikbaar. Zo waren tijdens een bijeenkomst van het ministerie van Transport over mogelijke regulering van motortaxi’s ook de platformwerkers aanwezig.

Wensen van werkenden

Wat wil de platformwerker in Indonesië? Yuana deed onderzoek naar de behoeftes van taxichauffeurs en andere betrokkenen die werken via de digitale apps. Ze ontdekte 19 criteria, die ze binnenkort publiceert in haar onderzoekspaper. Slechts vier hiervan zijn puur technisch. “De meeste criteria gaan over de positionering van taxi-platformen binnen huidige en toekomstige sociale, economische en juridische omstandigheden”, vertelt ze. “Hoe kunnen we zorgen dat klanten beter beschermd zijn? Op welke manier kunnen we zorgen dat chauffeurs een beter inkomen en rechtvaardigere arbeidsomstandigheden krijgen?”

Yuana ziet een gezamenlijke taak voor de overheid, wetenschap, platformwerkers en platformbedrijven om dit voor elkaar te krijgen. Begin je een platform dat een deel van de informele arbeidsmarkt bij elkaar brengt? Betrek dan eerst de mensen die daar al in werkten”, zegt ze. “Het is niet eerlijk om mensen die al een formele baan hadden weg te lokken met de vaak loze belofte van een mooi salaris.”

Gelijkwaardigere discussie

Yuana onderzoekt ook hoe de platformwerkers meer invloed kunnen uitoefenen tijdens een discussie met de overheid. “Ten eerste is de groepsgrootte van belang. Hoe beter platformwerkers zich verenigen, hoe beter ze gehoord worden”, vertelt ze.

Verder maakt het uit op welke plek in de ruimte iemand zit. Yuana: “Als er twee rijen stoelen zijn, dan hebben de mensen op de eerste rij vaak het meeste te zeggen. Dit soort inzichten zijn zowel waardevol voor de platformwerkers zelf, als de organisaties die dit soort bijeenkomsten organiseren. Hiermee kunnen we zorgen voor een gelijkwaardigere discussie.”

Lessen uit Indonesië

Ik heb veel geleerd van Yuana en mijn reis van zes weken door Indonesië. Net als in andere landen profileren klusplatformen in Indonesië zich als nieuw en anders, terwijl ze slechts bestaand werk faciliteren via een digitaal platform. De naam ‘Gojek’ is zelfs afgeleid van het bestaande woord ‘Ojek’, wat ‘motortaxi’ betekent. Het is opmerkelijk dat beleidsmakers hier zo makkelijk intrappen.

Dat klusplatformen populair zijn in landen als Indonesië is best logisch. Persoonlijke dienstverlening zoals motortaxi’s zijn daar tenslotte al gemeengoed. Daarnaast is er hoge werkloosheid, waardoor ook steeds meer geschoolde mensen hun diensten aanbieden via de platformen. Kortom, er is gesprek aan perspectief. Dit is een onderwerp dat naar mijn mening in discussies over de kluseconomie te vaak ontbreekt.

Samen sterk

Dankzij het gesprek met Yuana kijk ik met een nieuwe bril naar de ontwikkelingen in de platformeconomie. Vooral de manier waarop zuidelijke landen de informele economie zien is interessant. Op een grote informele markt zijn werkenden misschien wel weerbaarder voor de kluseconomie, omdat zij al gewend zijn zich informeel te organiseren. Dat bevestigen leden van het WageIndicator-team in Jakarta. Zij vertelden mij dat maaltijdbezorgers nauw contact houden via WhatsApp-groepen. Als er iets met iemand aan de hand is, staat er binnen no-time een zwerm groene jasjes omheen.

Hoewel de bezorgers naar mijn gevoel sterker staan door hun solidariteit, is het lastig opboksen tegen platformen. Apps in Indonesië worden steeds vaker ‘super-apps’ met verschillende diensten. Zo kun je niet alleen een taxi bestellen, maar ook boodschappen laten bezorgen, een dokter spreken, pakketjes verzenden of een klusjesman inhuren. Makkelijk voor klanten, maar het betekent ook dat werkenden steeds afhankelijker worden van de apps. Het wordt namelijk moeilijker om een eigen klantenbestand op te bouwen los van de app. Dat is weer een argument voor meer overheidsregulering. Wat dat betreft heeft Indonesië nog flink wat stappen te zetten.