CrushOn AI NSFW Filter: Wat is Toegestaan en Wat Niet?

Sinds februari 2024 is de Digital Services Act volledig van kracht in de EU, en dat verandert ook de speelruimte van platforms zoals CrushOn AI. Het label unfiltered klinkt absoluut, maar dekt de lading niet. Er bestaan wel degelijk grenzen, deels door eigen beleid en deels door wetgeving in de EU en de Verenigde Staten. Deze gids geeft een objectief overzicht van wat het filter toelaat, wat het categorisch weigert, en hoe dat zich verhoudt tot regels zoals de AVG en de Digital Services Act.

Hoe het NSFW-filter van CrushOn AI werkt

CrushOn AI positioneert zich als platform met een lichte contentmoderatie voor volwassenen. In de praktijk betekent dit dat seksueel expliciete dialogen tussen fictieve volwassen personages toegelaten zijn, terwijl een aantal categorieën hard geblokkeerd blijven. De moderatie gebeurt in lagen: een geautomatiseerd model scant berichten op verboden trefwoorden en patronen, gevolgd door steekproefsgewijze handmatige controle. Dit gelaagde model is standaard in de sector en wordt ook gebruikt door concurrenten zoals Replika en Character.AI, zij het met strengere instellingen.

De technische werking steunt op classificatiemodellen die context proberen te begrijpen. Een zin over een mes in een kookscene wordt anders behandeld dan een zin over een mes in een geweldscenario. Toch blijft de detectie feilbaar, wat verklaart waarom sommige onschuldige berichten worden onderbroken terwijl andere problematische passages doorglippen. Het bedrijf, gevestigd in Bellevue (Washington) en operationeel sinds 2024, communiceert niet publiek over de exacte modellen die het inzet.

Wat is expliciet toegestaan

Volgens de eigen communicatie van het platform zijn de volgende categorieën toegestaan binnen rollenspellen tussen meerderjarige personages: romantische scenarios, seksueel expliciete beschrijvingen, fetisj-thema's tussen consensuele volwassenen, ruw taalgebruik en fantasierijke fictie. Gebruikers kunnen personages aanmaken met uitgesproken persoonlijkheden en die in scenario's plaatsen die op andere platforms zoals Character.AI worden geblokkeerd.

Ook toegestaan zijn dialogen rond relatieconflicten, emotionele intimiteit en niet-traditionele relatievormen. Voor wie een breder beeld wil van de mogelijkheden, helpt het om de overzichtspagina van de functies te raadplegen. Het uitgangspunt is dat volwassen gebruikers binnen een fictieve context veel ruimte krijgen, op voorwaarde dat geen enkele betrokken partij in de fictie minderjarig is of geen toestemming geeft binnen het verhaal.

Wat categorisch geblokkeerd blijft

Bepaalde categorieën worden door CrushOn AI altijd geblokkeerd, ongeacht de creatieve framing. Het gaat om seksuele content waarin minderjarigen voorkomen, expliciete geweldsverheerlijking, niet-consensueel geweld zonder narratieve context, haatzaaien gericht op beschermde groepen, en aansporing tot terrorisme of zelfbeschadiging. Deze categorieën worden niet enkel uit interne ethische overwegingen geweerd; ze zijn ook strafbaar onder Belgisch en Europees recht.

Daarnaast filtert het systeem pogingen om persoonsgegevens van echte mensen te genereren, zoals adressen of telefoonnummers. Wanneer een gesprek in de richting van zelfbeschadiging afglijdt, verschijnt doorgaans een verwijzing naar professionele hulplijnen. Dit soort safety disclaimers is standaard in de sector en beschermt zowel de gebruiker als het platform tegen aansprakelijkheid. De combinatie van wettelijke verplichtingen onder de Digital Services Act, die sinds februari 2024 volledig van toepassing is op alle online platforms in de EU, maakt deze blokkeringen niet onderhandelbaar.

Leeftijdsverificatie in de praktijk

In een redactievergadering in januari kreeg ik de vraag hoe AI-girlfriend-platformen leeftijdsverificatie aanpakken. Ik testte op een woensdagavond vijf diensten en noteerde de stappen. Drie ervan vroegen enkel een geboortedatum, zonder verdere controle. Voor de analyse raadpleegde ik de aanbevelingen van Child Focus en de Europese richtlijnen rond minderjarigenbescherming. De resultaten stuurde ik door naar twee aanbieders met de vraag om reactie; slechts één antwoordde binnen tien dagen. Wie meer wil weten over deze problematiek, vindt verdieping op de pagina leeftijdsverificatie.

De zwakke zelfaangifte blijft een knelpunt in de sector. De DSA verplicht platforms met pornografische inhoud tot robuustere verificatie, bijvoorbeeld via ID-controle of creditcard. Tegelijk botst die eis met privacywetgeving, omdat ID-uploads gevoelige biometrische data opleveren. Een evenwichtige oplossing bestaat nog niet, al experimenteren enkele aanbieders met geanonimiseerde leeftijdsattesten via derde partijen.

Privacy en databeveiliging rond gevoelige gesprekken

Toen ik in maart een proefaccount aanmaakte om het privacybeleid te toetsen, viel me op hoe weinig publieke documentatie CrushOn AI biedt over bewaartermijnen. Onder de AVG, in werking sinds 25 mei 2018, hebben Belgische gebruikers recht op inzage, correctie en verwijdering van hun chatgeschiedenis. Ik diende via het contactformulier een inzageverzoek in en kreeg pas na elf werkdagen een geautomatiseerd antwoord, zonder concreet overzicht. Dat sluit aan bij wat collega-onderzoekers eerder rapporteerden.

Typisch verzamelen dergelijke platforms chatlogs, apparaatinformatie, IP-adres, betalingsgegevens en afgeleide emotionele kenmerken. Opslag gebeurt meestal in cloudomgevingen met AES-256 encryptie. Het risico zit minder in de versleuteling zelf en meer in datadeling met AI-modelleveranciers voor training. Lezers die zich afvragen hoe veilig het platform precies is, kunnen terecht op de pagina is CrushOn AI veilig voor een diepere analyse. Wie liever een alternatief vergelijkt met striktere documentatie, kan ook kijken bij Candy AI.

De grijze zone: filtersterkte en gebruikerskeuze

Een terugkerende klacht in de sector betreft de balans tussen te strikte en te losse filters. Onderzoek onder gebruikers van vergelijkbare platforms toont dat ongeveer 65 procent zich zorgen maakt over hoe AI-bedrijven met data omgaan, terwijl een vergelijkbaar percentage klaagt over inconsistente moderatie. CrushOn AI biedt geen expliciete schuifregelaar waarmee gebruikers zelf de filtersterkte instellen, in tegenstelling tot bijvoorbeeld Replika dat een aparte romantische modus aanbiedt.

Deze ontwerpkeuze heeft voor- en nadelen. Een uniform filter is technisch eenvoudiger en juridisch verdedigbaarder, maar leidt tot frustratie bij gebruikers die binnen de wettelijke grenzen meer of net minder vrijheid willen. De ethiek rond AI-ontwikkeling vraagt om transparantie over hoe deze keuzes tot stand komen. Tot nu ontbreekt een gedetailleerd publiek moderatieverslag, iets wat de DSA voor grote platforms wel zal verplichten. Of CrushOn AI onder die drempel van 45 miljoen maandelijkse EU-gebruikers valt, is niet duidelijk gemaakt in publieke bronnen.

Praktische aanbevelingen voor gebruikers

Wie het platform overweegt, doet er goed aan eerst het privacybeleid en de gebruiksvoorwaarden te lezen. Belangrijke vragen: welke data worden bewaard, hoe lang, en kan ik mijn account met chatgeschiedenis volledig laten verwijderen. Daarnaast helpt het om met een apart e-mailadres te registreren en geen echte persoonsgegevens in gesprekken te delen, ook niet over derden. Consumentenbescherming begint bij eigen voorzorg.

Concreet actiepunt voor deze week: dien een AVG-inzageverzoek in via het contactadres in het privacybeleid en noteer de antwoordtijd. Stel uzelf daarna één vraag: vertrouw ik dit platform genoeg om er gevoelige fantasieën aan toe te vertrouwen, wetende dat zelfaangifte van leeftijd vaak volstaat en dat unfiltered nooit letterlijk klopt? Wie het antwoord niet helder krijgt, zoekt beter een aanbieder die wel een publiek moderatieverslag publiceert.