Responsible AI Platform
👁️Biometrie

Het verhaal van FeedFair

Wanneer dark patterns niet meer verborgen kunnen blijven — en een rechter €100.000 per dag oplegt

Fictief scenario — gebaseerd op realistische situaties

Scroll
01

De Aanleiding

Hoe het begon

📧

FeedFair had een technisch werkende chronologische feed-optie. Het probleem: elke keer dat gebruikers de app sloten, een andere sectie bezochten, of van apparaat wisselden, werd hun keuze automatisch gereset naar de algoritmische "Voor jou"-feed. De optie bestond — maar was in de praktijk illusoir.

Een burgerrechtenorganisatie spande een kort geding aan. De rechter oordeelde: dit is een verboden dark pattern onder de Digital Services Act. FeedFair kreeg twee weken om het te fixen — of betaalde €100.000 per dag. Dit was de eerste keer dat een rechter een groot platform dwong tot concrete code-wijzigingen.

"We dachten dat de reset naar de algoritmische feed een design-keuze was. De rechter noemde het een verboden dark pattern."
02

De Vragen

Wat moesten ze uitzoeken?

1Vraag

Waarom is een automatische reset een dark pattern?

Het team begreep aanvankelijk niet waarom hun implementatie problematisch was. De optie bestond toch? Je kon toch kiezen voor chronologisch? De rechter legde uit waarom dat niet genoeg was.

💡 Het inzicht

Een keuze die steeds opnieuw gemaakt moet worden is geen echte keuze. Als de standaard-instelling automatisch terugkeert, worden gebruikers psychologisch gedwongen om de default te accepteren. Dit is precies wat de DSA Artikel 25 verbiedt: interfaces ontwerpen die het vermogen van gebruikers om vrije en geïnformeerde beslissingen te nemen "wezenlijk verstoren of schaden."

🌍 Waarom dit ertoe doet

De rechter citeerde Recital 67 DSA die specifiek noemt: "het moeilijker maken om een dienst te annuleren dan om zich aan te melden" en "standaardinstellingen moeilijk wijzigbaar maken." De automatische reset past in hetzelfde patroon: het is makkelijker om algoritmisch te accepteren dan om chronologisch te behouden.

2Vraag

Wat vereist de DSA Artikel 38 precies?

Het compliance-team ging terug naar de letter van de wet. Artikel 38 DSA vereist dat Very Large Online Platforms (VLOP's) "ten minste één versie" van hun recommender system aanbieden die "niet gebaseerd is op profilering."

💡 Het inzicht

De sleutel zit in "aanbieden" — niet alleen technisch beschikbaar maken, maar werkelijk aanbieden als reële optie. Een chronologische feed die verborgen zit in menu's en systematisch gereset wordt, wordt niet "aangeboden" — het wordt gedoogd. De wet vraagt om respect voor gebruikerskeuze, niet om window-dressing.

🌍 Waarom dit ertoe doet

De rechter stelde dat FeedFair's praktijk "inbreuk maakt op de vrijheid van informatievergaring" van gebruikers. Dit is een grondrechtelijk frame: het algoritme bepaalt wat mensen zien, en als ze daar geen controle over hebben, wordt hun autonomie geschonden.

3Vraag

Hoe implementeer je echte gebruikerskeuze?

Het development team moest fundamenteel herontwerpen. Wat betekent "permanente keuze" technisch? En hoe maak je het "direct toegankelijk"?

💡 Het inzicht

Permanente keuze betekent: opgeslagen als user preference die synchroon blijft over alle apparaten en sessies. Direct toegankelijk betekent: zichtbaar op de homepage, niet verborgen in settings. Best practice: tabs zoals "Voor jou" / "Volgers" die altijd zichtbaar zijn en waar je keuze blijft waar je hem achterlaat.

🌍 Waarom dit ertoe doet

Twitter/X implementeert dit met zichtbare tabs. De keuze is één klik, blijft permanent, en synchroniseert over apparaten. FeedFair moest deze UX-standaard overnemen — engagement-optimalisatie moest wijken voor gebruikersautonomie.

4Vraag

Kan civiele rechtspraak platforms echt veranderen?

De juridische afdeling was sceptisch. Een nationale rechter die een globaal platform dwingt tot code-wijzigingen? Dat kon toch niet standhouden? Ze gingen in beroep — maar de dwangsom bleef.

💡 Het inzicht

De DSA creëert een ecosystem van handhaving: toezichthouders (Europese Commissie), nationale autoriteiten (Digital Services Coordinators), én civiele rechtspraak. Burgerrechtenorganisaties kunnen platforms aanklagen. Rechters kunnen dwangsommen opleggen. De vraag "wie handhaaft de DSA?" blijkt te zijn: iedereen.

🌍 Waarom dit ertoe doet

FeedFair's beroep op "fragmentatie van de Digital Single Market" — 27 rechters met 27 interpretaties — werd niet geaccepteerd. Het alternatief — dat gebruikers volledig afhankelijk zijn van toezichthouders — zou hun rechtsbescherming beperken. Platforms kunnen niet ontsnappen aan nationale rechters.

03

De Reis

Stap voor stap naar compliance

Stap 1 van 6
⚖️

De dagvaarding

Een burgerrechtenorganisatie spande een kort geding aan. De claim: FeedFair's automatische reset naar algoritmische feed was een verboden dark pattern.

Stap 2 van 6
🔨

Het vonnis

De rechter oordeelde scherp: dit is een DSA-schending. Twee weken om te fixen, anders €100.000 per dag dwangsom. Maximaal €5 miljoen.

Stap 3 van 6
💡

De reality check

Voor het eerst moest een platform niet "beloven beter te doen," maar daadwerkelijk code wijzigen onder druk van een rechterlijk bevel.

Stap 4 van 6
🖥️

Interface-herontwerp

Zichtbare tabs op de homepage: "Voor jou" en "Volgende." Eén klik om te switchen. Keuze blijft permanent.

Stap 5 van 6
⚙️

Backend-aanpassingen

User preferences werden persistent gemaakt: synchronisatie over iOS, Android en web. Geen reset bij sessie-einde.

Stap 6 van 6
🌍

Bredere uitrol

In plaats van 27 verschillende nationale implementaties, koos FeedFair voor EU-brede uitrol. Efficiënter en minder juridisch risico.

04

De Obstakels

Wat ging er mis?

Obstakel 1

Uitdaging

Automatische reset naar algoritmische feed was een verboden dark pattern

Oplossing

Permanente opslag van gebruikerskeuze, gesynchroniseerd over alle apparaten en sessies

Obstakel 2

Uitdaging

Chronologische optie was verborgen in menu's, niet "direct toegankelijk"

Oplossing

Zichtbare tabs op homepage, één klik om te switchen

Obstakel 3

Uitdaging

Beroep op "fragmentatie van Digital Single Market" werd niet geaccepteerd

Oplossing

EU-brede implementatie in plaats van per-land aanpak

We dachten dat we slim waren door de keuze te bieden maar niet echt te respecteren. De rechter zag door de facade heen. Design-keuzes zijn compliance-keuzes.
Henrik Müller, VP Product, FeedFair
05

De Lessen

Wat kunnen we hiervan leren?

Les 1 / 4
⚖️

Dark patterns zijn rechtens verboden

Manipulatieve design is geen slimme UX — het is een DSA-schending met dwangsommen als gevolg.

Les 2 / 4

Gebruikerskeuze moet echt zijn

Een optie die reset, verborgen zit, of moeilijk vindbaar is, is geen optie.

Les 3 / 4

Civiele rechtspraak werkt

Burgerrechtenorganisaties kunnen platforms aanklagen. Rechters kunnen code-wijzigingen afdwingen.

Les 4 / 4
🌍

EU-breed is efficiënter

In plaats van 27 nationale implementaties: rol compliant design direct EU-breed uit.

Gebruikt jouw platform algoritmische content-curatie?

Check of je users een echte, permanente keuze biedt voor niet-geprofileerde alternatieven.