Apps de citas: filtrar desnudos y acoso sin arruinar la experiencia

Las apps de citas tienen el problema de moderación más difícil de toda la tecnología de consumo. Si te pasas de estricto, las conversaciones mueren; los matches se quedan sin mensaje y los usuarios se van. Si te pasas de laxo, tu app se hace conocida como aquella en la que acosan a las mujeres, los menores corren peligro y la prensa escribe sobre ti. El margen para acertar es estrecho, y la mayoría de las plataformas no dan con él.

Dónde aparece cada problema

Fotos de perfil

• Desnudos (parciales o completos).
• Armas, drogas o contenido extremo en el fondo.
• Suplantación (fotos robadas de famosos o de modelos de bancos de imágenes).
• Menores, por accidente o a propósito.
• Perfiles generados por IA a gran escala.

Biografías

• Números de teléfono, usuarios de Instagram o de Telegram: intentos de sacar la conversación de la plataforma de inmediato.
• Captación comercial (servicios de escort haciéndose pasar por usuarios normales).
• Discurso de odio o lenguaje discriminatorio.

Mensajes privados

• Imágenes explícitas no solicitadas ("fotopollas").
• Acoso que va a más tras un rechazo.
• Presión para quedar fuera de la app.
• Estafas económicas (el "pig butchering" está a la orden del día en las citas).

La cuerda floja de la experiencia de usuario

El principio básico: nunca bloquees una conversación con un "mensaje no enviado". En cuanto un usuario de una app de citas piensa "¿por qué no se ha enviado mi mensaje?", se pone a investigar, se frustra y a menudo se va a la competencia.

Lo que funciona mejor:

• Avisos en el propio chat antes de enviar. "Este mensaje incluye un número de teléfono. Mantén la conversación en [App], es más seguro." Con un "enviar de todos modos" claro para los falsos positivos y un registro para aprender de esas excepciones.
• Entrega diferida para el contenido dudoso. El remitente ve su mensaje como enviado. El destinatario lo recibe 15 segundos después, tras una comprobación más profunda. Los usuarios rara vez notan este retardo, y detecta una cantidad sorprendente de acoso.
• Imágenes explícitas difuminadas al recibirlas. En lugar de rechazar una imagen explícita detectada, difumínala y muestra encima "Esta foto puede ser explícita. Toca para verla.". Se respeta el consentimiento, el destinatario mantiene el control y la app se ahorra la queja de "me habéis censurado contenido legal".

Hombres y mujeres: amenazas asimétricas

El esfuerzo de moderación no se reparte por igual. En la mayoría de las apps de citas:

• Las mujeres reciben de 20 a 50 veces más imágenes explícitas no deseadas que los hombres.
• Las mujeres sufren acoso con más frecuencia tras no responder o rechazar a alguien.
• Los hombres son con más frecuencia objetivo de estafas económicas.

Esto no es un argumento para tener reglas distintas. Es un argumento para calibrar la agresividad de la moderación según el perfil de quien recibe. El difuminado proactivo al recibir debería ser por defecto más agresivo cuando la destinataria es una mujer. La detección de estafas debería saltar antes cuando un usuario hombre empieza a hablar con matches nuevos que sacan el tema de las criptomonedas. Aquí la asimetría es justa; la simetría es peligrosa.

Menores: tolerancia cero, ambigüedad cero

La verificación de edad es un problema de producto, no de moderación, pero la moderación es tu última línea de defensa. Cualquier foto de perfil sospechosa de mostrar a un menor debe retenerse para revisión humana al subirla, no publicarse. Cualquier mensaje que sugiera contacto con un menor debe provocar la suspensión inmediata de la cuenta y la denuncia obligatoria que exijan tus leyes locales (EE. UU.: NCMEC; UE: líneas de denuncia nacionales). Aquí el modelo no puede decidir solo. Todas las apps de citas con las que hemos trabajado combinan la automatización con un equipo interno dedicado de trust & safety para esta categoría.

El marco legal

Según dónde operes, puede que tengas que cumplir con:

• UK Online Safety Act: deber de diligencia para los servicios en los que los usuarios comparten contenido entre sí, incluido el abuso basado en imágenes.
• El DSA de la UE (Reglamento de Servicios Digitales): informes de transparencia sobre las decisiones de moderación.
• SB 253 y AB 1394 de California: obligaciones de información sobre explotación.
• Leyes estatales sobre "imágenes íntimas": varios estados de EE. UU. imponen multas por imagen para las imágenes íntimas no consentidas que siguen publicadas después de denunciarse.

"Ya nos ocuparemos cuando seamos grandes" ya no es una estrategia. Muchas de estas leyes se aplican desde el primer día.

Cómo es un sistema que funciona

1. Moderación de fotos síncrona al subirlas: rechazar o retener, nunca publicar y comprobar después.
2. Moderación de biografías síncrona al guardar, con avisos en el momento para datos personales y captación fuera de la plataforma.
3. Moderación de mensajes síncrona (bloquear lo claramente dañino) + comprobación profunda asíncrona para el acoso sutil.
4. Difuminado al recibir para cualquier imagen clasificada como posiblemente explícita, con un paso de consentimiento "Toca para verla".
5. Puntuación por usuario que pondera tanto las señales del modelo como las denuncias; los reincidentes pasan automáticamente a medidas más duras.
6. Un flujo de denuncias propio conectado a una cola de revisión humana 24/7 para las denuncias de amenazas a la seguridad.

Las apps de citas que tratan la moderación como un pilar del producto y no como un centro de costes tienen sistemáticamente mejor retención, sobre todo entre las mujeres y sobre todo entre los usuarios en su primera semana. No tienes que elegir entre "seguro" y "divertido". Tienes que elegir los patrones de experiencia de usuario que te permiten ser las dos cosas a la vez.