Moderación para marketplaces: proteger las reseñas y los mensajes entre usuarios

En un marketplace, la moderación no es una "funcionalidad de trust & safety". Es el producto. En cuanto los compradores dejan de fiarse de las reseñas o los vendedores dejan de sentirse seguros en su bandeja de entrada, la curva del GMV empieza a caer y ya no se recupera.

Los dos frentes donde más importa la moderación en un marketplace son las reseñas (públicas, permanentes, visibles en buscadores) y los mensajes entre usuarios (privados, muy frecuentes, donde se concentra el acoso). Necesitan enfoques distintos.

Reseñas: el problema público y permanente

Una reseña es un contenido generado por usuarios del que depende tu equipo de SEO, en el que se basan tus compradores para decidir y por el que a veces te demandan tus vendedores. El listón de la moderación está alto.

Las amenazas que vas a ver

Parte de lo que falla en las reseñas es abuso sin más, y parte es alguien haciendo trampas con las valoraciones. Cuenta con las dos cosas:

• Reseñas positivas falsas: vendedores que inflan sus propias valoraciones, a veces mediante "redes de reseñas".
• Reseñas negativas falsas: competidores o compradores descontentos que hunden la reputación de un vendedor con reseñas inventadas.
• Represalias: un vendedor que deja una contrarreseña dura después de recibir una mala.
• Desahogos fuera de tema: ataques personales, política, contenido que no tiene que ver con el producto.
• Filtración de datos personales: reseñas que incluyen números de teléfono, direcciones, números de pedido.
• Spam e inyección de enlaces: "visita mi tienda en" dentro de una reseña.

Qué tiene que comprobar el modelo

La moderación de texto clásica detecta el spam y la toxicidad. Para la autenticidad necesitas señales adicionales que una API de moderación no puede darte por sí sola:

• Antigüedad de la cuenta e historial de compras de quien escribe la reseña.
• Correlación de IP y dispositivo entre reseñas del mismo vendedor.
• Coincidencias de huella lingüística (las redes de reseñas falsas suelen usar frases parecidas).
• Agrupaciones en el tiempo: 20 reseñas de cinco estrellas en 30 minutos es un indicio.

ToxicFilter se encarga de la clasificación del contenido, en las reseñas igual que en los anuncios que venden copias. Las señales de fraude salen de los datos de tu propia plataforma. Combínalas en un flujo de puntuación de reseñas antes de publicar.

Un flujo de reseñas sensato

Si juntas las dos mitades, te queda un flujo que comprueba primero el contenido y después el riesgo de fraude, y que deja que ese riesgo decida cómo sale la reseña:

1. El comprador envía una reseña.
2. La moderación del contenido se ejecuta de forma síncrona, así que la toxicidad o el spam evidentes se rechazan con un motivo que le dice al comprador qué corregir.
3. Si el contenido pasa, se calcula una puntuación de fraude a partir de las señales de la plataforma.
4. Riesgo de fraude bajo → se publica en el acto.
5. Riesgo de fraude medio → se publica, pero marcada como pendiente de verificación (no cuenta para la valoración del vendedor hasta que se aclare).
6. Riesgo de fraude alto → se retiene para revisión humana.

Mensajes entre usuarios: el problema privado y frecuente

En los mensajes privados es donde se concentra el peor comportamiento. A los compradores los acosan, a los vendedores los extorsionan y unos y otros reciben contactos sexuales inapropiados. Aquí la gente espera privacidad de verdad: no puedes enseñar los mensajes privados a los moderadores como enseñas las reseñas públicas.

Las amenazas habituales

Lo que llega por mensaje privado tiene menos que ver con las valoraciones y más con las personas, y suele tomar una de estas formas:

• Acoso tras una transacción fallida.
• Presión para salir de la plataforma: "dame tu WhatsApp y te pago por fuera".
• Estafas: confirmaciones de pago falsas, esquemas de sobrepago, enlaces de phishing.
• Acoso sexual, sobre todo hacia quienes prestan servicios.

Un flujo de moderación que respeta la privacidad

El patrón al que acaban llegando la mayoría de los marketplaces maduros:

1. Todos los mensajes privados pasan por una clasificación automática (por defecto, ninguna persona los lee).
2. Los mensajes de gravedad alta confirmada activan una acción automática: advertencia, límite de envío, bloqueo temporal.
3. Solo los mensajes que activan categorías concretas (acoso, amenazas a la seguridad, contenido ilegal) pasan a una persona, y solo cuando el usuario lo pide expresamente con "Denunciar este mensaje".
4. Al denunciar, el usuario puede dar su consentimiento para compartir el historial de la conversación. Sin consentimiento, el revisor solo ve el mensaje denunciado y una ventana corta de contexto.

Así mantienes la privacidad por defecto y a la vez tienes las herramientas para actuar con firmeza cuando algo va mal.

Llevarse la venta fuera de la plataforma merece categoría propia

Los marketplaces tienen una forma de abuso muy suya: usuarios que intentan llevarse la transacción fuera de la plataforma para no pagar comisiones. Detectarlo pide algo específico: números de teléfono, usuarios de mensajería, frases concretas ("págame por X", "mi correo personal es..."). Un modelo genérico de toxicidad no ve nada de esto. Necesitas detectores hechos a propósito: las comprobaciones instantáneas de ToxicFilter buscan números de teléfono y usuarios de mensajería, y el patrón "sigamos fuera de la plataforma, págame directamente", y archivan las dos bajo spam para que cada marketplace fije su propio umbral.

Las métricas que de verdad importan

El DAU y el GMV no te van a decir si tu moderación funciona. Hay indicadores mejores:

• Proporción de denuncias por mensaje: cuántas veces denuncian los usuarios a mano por cada 1.000 mensajes. Debería ir bajando.
• Reincidencia tras una denuncia: ¿vuelve el usuario denunciado a hacerlo otra vez? Si es así, tus sanciones son demasiado blandas.
• Tasa de autenticidad de las reseñas: porcentaje de reseñas que superan la puntuación de fraude. Volátil, pero orientativa.
• Retención de vendedores nuevos: los vendedores nuevos a los que acosan en su primera semana no se quedan. Es una métrica de moderación, aunque nadie la llame así.

La moderación de un marketplace es una de las inversiones más rentables que puede hacer una plataforma. Los compradores que se sienten seguros compran más. Los vendedores que se sienten seguros publican más. Y el efecto se acumula mientras no lo dejes.