Bronnen

Taalgebruik

In dit project wordt het woord "algoritmes" gebruikt waar het eigenlijk om "machine learning modellen" gaat. Het woord "artificial intelligence" of "AI" is bewust ontweken, omdat dat woord nogal misbruikt wordt. Machine Learning kun je beter zien als geavanceerde vorm van statistiek dan als enige vorm van 'intelligentie'.

Machine Learning modellen

Alle gebruikte algoritmes zijn "kant en klaar" gedownload, en niet zelf getraind. En dat is precies het punt. We zeggen vaak dat we deze systemen minder kunnen laten discrimineren door ze beter te trainen. Maar dat gaat uit van de aanname dat alle bedrijven uberhaupt hun eigen algoritmes trainen. De meesten zijn echter afhankelijk van een leverancier (die de modellen graag zo generiek toepasbaar mogelijk houdt). En dan heb je dus nog partijen die gewoon een kant en klaar model 'ergens' vandaan toveren en inbouwen, en hopen dat niemand moeilijke vragen stelt.

Het schoonheidsmodel is op Github gevonden (deze of deze). De modellen voor leeftijd, geslacht en gezichtsexpressie zijn onderdeel van in FaceApiJS. De maker daarvan geeft overigens niet helemaal prijs op welke foto's zijn modellen getraind zijn. Daarnaast is FaceApiJS slecht in het herkennen van "Asian guys" - sorry als je daar last van had.

Public domain videos

De videos zijn voornamelijk samengesteld uit 'public domain' stock-footage van videos.pexels.com, of zelf geanimeerde public domain foto's van Pixabay.com. Aan de video- en fotografen die hun werk daar beschkbaar hebben gemaakt: dank jullie wel!

Specifieke bronnen zijn:

Aantrekkelijkheid

• TikTok (voorpagina, opgenomen met een screenrecorder). Meer over hun voorkeur voor knappe mensen is hier te vinden.
• Microsoft (opgenomen met een screenrecorder)
• Dit onderzoek bevat het plaatje van de beoordelings interface voor de SCUT-FCB dataset.

Ik kan nu even niet terugvinden waar ik specifiek het gebruik van algoritmes door TikTok vandaan haalde, maar soortgelijke praktijken waarin je aantrekkelijkheid wordt bepaald kun je vinden bij andere diensten.

Leeftijd

• Innovatrix biedt op machine learning gebaseerde diensten aan winkels.
• Future Store Arnhem speelt met camera's die de leeftijd van bezoekers schatten.

Gezichtsuitdrukking

• Hirevue, en Unilever's gebruik daarvan.

Surf gedrag

• Visual Website Optimizer - Video bron
• HotJar
• FullStory

Je muisbewegingen worden geregistreerd en weer afgespeeld met een klein scriptje genaamd Wix client recorder (MIT license). Ook deze draait uiteraard weer volledig in je eigen browser - de data verlaat nooit jouw apparaat.

Tip: je kunt jezelf enigszins tegen deze praktijken beschermen door browser plugins zoals uBlock Origin te installeren. Daarbovenop zou je ook naar uMatrix kunnen kijken.

Conclusie

• Jon PenneyDeed onderzoek naar het gebruik van Wikipedia na de Snowden onthullingen, en zag dat pagina's over onderwerpen als Al Qaeda, Hezbollah, dirty bomb, chemical weapon, en jihad significant minder bezocht werden. Later onderzoek versterkte het idee dat dit door zelf-censuur kon komen.