Marketplaces
Anuncios, mensajes entre comprador y vendedor y reseñas, revisados en el momento en que se escriben. ToxicFilter detecta la propuesta de pagar por fuera, la cuenta alquilada, el teléfono en un anuncio y la réplica que se vende como original, y te explica el motivo con una frase que puedes enseñar al vendedor.
Comprador y vendedor se ponen de acuerdo en tu web y cierran el trato en otro sitio: un teléfono en el anuncio, un "escríbeme por WhatsApp", un "hazme una transferencia y nos ahorramos la comisión". Tú pierdes la comisión y el comprador pierde todas las garantías que le ofreces en cuanto el dinero sale de tu plataforma.
Un piso que no existe y una fianza que hay que pagar antes de verlo, una oferta de trabajo que te cobra por empezar, un freelance que alquila la cuenta que pasó tus verificaciones. Frase a frase, todos parecen honrados; lo que los delata es la forma de la oferta completa.
Los vendedores pegan su teléfono, su IBAN o un número de tarjeta en el anuncio sin pensarlo. Rechazar el anuncio entero por eso te hace perder una venta; publicarlo deja expuesto a tu usuario, y el responsable pasas a ser tú.
"1:1", "calidad AAA", "precio de mayorista, envíos a todo el mundo": las falsificaciones tienen su propio vocabulario. Las reseñas que escribe el vendedor sobre sí mismo, o que paga con un descuento, también.
Juzgado ahora mismo por el mismo motor que usa la API, con la plantilla de este tipo de plataforma y sin intervención del modelo.
Una propuesta de pagar por fuera
POST /v1/conversation
¡Hola! ¿Sigue disponible la bici? Puedo pasar a recogerla el sábado.
Sí, sigue disponible. Para ahorrarnos la comisión, seguimos fuera de la plataforma: escríbeme por WhatsApp y me pagas directamente por transferencia.
Llevarse la conversación a otro sitio y pagar directamente son, cada una por separado, cosas que dice cualquiera. Juntas y de la misma persona son la salida de tu plataforma, y la plantilla de marketplace la rechaza.
{
"decision": "block",
"flagged": [
"spam"
],
"scores": {
"spam": 0.7
},
"signals": [
{
"category": "spam",
"score": 0.7,
"reason": "Proposes taking the payment outside the platform, where neither side is protected by it.",
"evidence": [
"fuera de la plataforma",
"escribeme por whatsapp",
"me pagas directamente",
"pagas directamente",
"ahorrarnos la comision"
]
}
],
"model": {
"read": false
},
"took_ms": 29
}
Una cuenta alquilada
POST /v1/text
¡Hola! Tú vas a las entrevistas con tu cuenta de Upwork, yo hago todo el trabajo y nos repartimos el pago a medias.
Prestar la identidad, hacer el trabajo y repartirse el dinero: la oferta completa, así que se rechaza. Cualquiera de las tres por separado es una frase normal y pasa.
{
"decision": "block",
"flagged": [
"scam"
],
"scores": {
"scam": 0.85
},
"signals": [
{
"category": "scam",
"score": 0.85,
"reason": "Asks the reader to lend their account or identity while somebody else does the paid work, for a share of the money.",
"evidence": [
"tu cuenta de upwork",
"tu vas a las entrevistas",
"con tu cuenta",
"yo hago todo el trabajo",
"hago todo el trabajo",
"nos repartimos",
"a medias"
]
}
],
"model": {
"read": false
},
"took_ms": 14
}
Un teléfono y un IBAN en un anuncio
POST /v1/text con redact: true
Bici de carga, casi sin uso, 900 €. Llámame al +44 7700 900123 o haz la señal a ES91 2100 0418 4502 0005 1332.
Queda retenido en vez de rechazado, y el anuncio vuelve con el teléfono y el IBAN ocultos, así que el resto se puede publicar.
{
"decision": "review",
"flagged": [
"personal_data"
],
"scores": {
"personal_data": 0.9
},
"signals": [
{
"category": "personal_data",
"score": 0.5,
"reason": "Contains what looks like a phone number.",
"evidence": [
"447•••••••23"
]
},
{
"category": "personal_data",
"score": 0.9,
"reason": "Contains 1 bank account number(s) (IBAN). Publishing one invites fraud against whoever owns it.",
"evidence": [
"ES••••••••••••••••••1332"
]
}
],
"redacted": "Bici de carga, casi sin uso, 900 €. Llámame al [redacted] o haz la señal a [redacted].",
"model": {
"read": false
},
"took_ms": 8
}
Una réplica que se vende como original
POST /v1/text
Rolex Submariner réplica 1:1, calidad AAA, precio de mayorista, envíos a todo el mundo. Más modelos en mi álbum de yupoo.
Las falsificaciones son un tema y no un daño, así que solo cuentan donde una regla lo dice. La plantilla de marketplace lo dice; un foro de zapatillas que enseña a reconocer falsificaciones queda tranquilo.
{
"decision": "block",
"flagged": [
"topic:counterfeit"
],
"topics": {
"counterfeit": 0.98
},
"signals": [],
"model": {
"read": false
},
"took_ms": 8
}
Un anuncio honrado
POST /v1/text
Vendo mi bici de carretera, cuadro de 54 cm, revisada en mayo. Recogida en Valencia o envío a cargo del comprador.
Así son casi todos los anuncios. Lo resuelven las comprobaciones gratuitas en torno a un milisegundo, sin pagar nada más.
{
"decision": "allow",
"flagged": [],
"signals": [],
"model": {
"read": false
},
"took_ms": 9
}Juzgado ahora mismo por el mismo motor que usa la API, con la plantilla de este tipo de plataforma y sin intervención del modelo.
Una propuesta de pagar por fuera
POST /v1/conversation
¡Hola! ¿Sigue disponible la bici? Puedo pasar a recogerla el sábado.
Sí, sigue disponible. Para ahorrarnos la comisión, seguimos fuera de la plataforma: escríbeme por WhatsApp y me pagas directamente por transferencia.
Llevarse la conversación a otro sitio y pagar directamente son, cada una por separado, cosas que dice cualquiera. Juntas y de la misma persona son la salida de tu plataforma, y la plantilla de marketplace la rechaza.
{
"decision": "block",
"flagged": [
"spam"
],
"scores": {
"spam": 0.7
},
"signals": [
{
"category": "spam",
"score": 0.7,
"reason": "Proposes taking the payment outside the platform, where neither side is protected by it.",
"evidence": [
"fuera de la plataforma",
"escribeme por whatsapp",
"me pagas directamente",
"pagas directamente",
"ahorrarnos la comision"
]
}
],
"model": {
"read": false
},
"took_ms": 29
}
Una cuenta alquilada
POST /v1/text
¡Hola! Tú vas a las entrevistas con tu cuenta de Upwork, yo hago todo el trabajo y nos repartimos el pago a medias.
Prestar la identidad, hacer el trabajo y repartirse el dinero: la oferta completa, así que se rechaza. Cualquiera de las tres por separado es una frase normal y pasa.
{
"decision": "block",
"flagged": [
"scam"
],
"scores": {
"scam": 0.85
},
"signals": [
{
"category": "scam",
"score": 0.85,
"reason": "Asks the reader to lend their account or identity while somebody else does the paid work, for a share of the money.",
"evidence": [
"tu cuenta de upwork",
"tu vas a las entrevistas",
"con tu cuenta",
"yo hago todo el trabajo",
"hago todo el trabajo",
"nos repartimos",
"a medias"
]
}
],
"model": {
"read": false
},
"took_ms": 14
}
Un teléfono y un IBAN en un anuncio
POST /v1/text con redact: true
Bici de carga, casi sin uso, 900 €. Llámame al +44 7700 900123 o haz la señal a ES91 2100 0418 4502 0005 1332.
Queda retenido en vez de rechazado, y el anuncio vuelve con el teléfono y el IBAN ocultos, así que el resto se puede publicar.
{
"decision": "review",
"flagged": [
"personal_data"
],
"scores": {
"personal_data": 0.9
},
"signals": [
{
"category": "personal_data",
"score": 0.5,
"reason": "Contains what looks like a phone number.",
"evidence": [
"447•••••••23"
]
},
{
"category": "personal_data",
"score": 0.9,
"reason": "Contains 1 bank account number(s) (IBAN). Publishing one invites fraud against whoever owns it.",
"evidence": [
"ES••••••••••••••••••1332"
]
}
],
"redacted": "Bici de carga, casi sin uso, 900 €. Llámame al [redacted] o haz la señal a [redacted].",
"model": {
"read": false
},
"took_ms": 8
}
Una réplica que se vende como original
POST /v1/text
Rolex Submariner réplica 1:1, calidad AAA, precio de mayorista, envíos a todo el mundo. Más modelos en mi álbum de yupoo.
Las falsificaciones son un tema y no un daño, así que solo cuentan donde una regla lo dice. La plantilla de marketplace lo dice; un foro de zapatillas que enseña a reconocer falsificaciones queda tranquilo.
{
"decision": "block",
"flagged": [
"topic:counterfeit"
],
"topics": {
"counterfeit": 0.98
},
"signals": [],
"model": {
"read": false
},
"took_ms": 8
}
Un anuncio honrado
POST /v1/text
Vendo mi bici de carretera, cuadro de 54 cm, revisada en mayo. Recogida en Valencia o envío a cargo del comprador.
Así son casi todos los anuncios. Lo resuelven las comprobaciones gratuitas en torno a un milisegundo, sin pagar nada más.
{
"decision": "allow",
"flagged": [],
"signals": [],
"model": {
"read": false
},
"took_ms": 9
}Cada cosa con su propia puntuación y sus propios umbrales, y el motivo explicado en una frase cada vez que actúa.
Elígela al crear una política y estas reglas se escriben por ti, listas para editar. Todo lo que no menciona sigue nuestros valores por defecto.
Lo fija la plantilla
Envía el texto indicando dónde va a aparecer y actúa según la decisión.
curl https://toxicfilter.com/api/v1/text \
-H "Authorization: Bearer $TOXICFILTER_KEY" \
-d content="¡Hola! ¿Sigue disponible la bici? Puedo pasar a recogerla el sábado." \
-d surface=listingEntra en el plan Max. Ver los planes →
Qué revisar, cuándo hacerlo y cómo fijar las reglas, en anuncios, mensajes y reseñas.
Llama a la API antes de publicar un anuncio o un mensaje y actúa según una de tres respuestas: publicarlo, retenerlo para que lo vea una persona o rechazarlo. Casi todo el tráfico de un marketplace es alguien describiendo una bici o preguntando si sigue disponible, y eso lo resuelven las comprobaciones gratuitas en torno a un milisegundo. El modelo solo lee lo que ellas dejan abierto, así que moderar no añade una espera que se note al publicar y la mayoría de elementos cuesta un crédito. Lo que llega como review espera en una cola, en tu panel o por la API, y un webhook firmado avisa a tu web cuando alguien lo aprueba.
Salirse de tu plataforma son dos cosas a la vez: una invitación a seguir en otro sitio y una propuesta de pagar por fuera. Ofrecer pagar directamente es normal por sí solo ("sin comisión a este precio"), y un filtro que salta con eso acaba desactivado en una semana. ToxicFilter lo clasifica como spam, junto a los teléfonos y los usuarios de mensajería que suelen acompañarlo, y lo puntúa según cuánto del par ve en la misma persona, en un mensaje o a lo largo de una conversación. Por defecto, las dos mitades juntas quedan retenidas para revisión. La plantilla de marketplace es más estricta: retiene también la invitación a sacar el trato de la plataforma aunque venga sola, y rechaza el par completo.
En un marketplace, las estafas se escriben para parecer anuncios normales, así que ninguna palabra suelta es la prueba. Lo que las delata es la forma de la oferta: el propietario que está en el extranjero y quiere la fianza antes de enseñar el piso, el trabajo que pide dinero para empezar, la cuenta que alguien presta a otro para pasar tus verificaciones. Cada forma es un conjunto de familias de frases, y un anuncio solo se marca cuando reúne suficientes. Denunciar una estafa ("¿esto es una estafa?") nunca cuenta como cometerla.
Un vendedor que escribe su teléfono en el anuncio no ha hecho nada malo, y rechazar el anuncio te hace perder la venta. Con redact, la respuesta trae el mismo texto con el teléfono, el correo, el IBAN o la tarjeta ocultos, y el resto se puede publicar tal cual. Las tarjetas y los IBAN se validan con su dígito de control, y el DNI con su letra, así que un número de pedido de dieciséis cifras no se toma por una tarjeta.
Hablar de réplicas está bien; venderlas es lo que tu norma prohíbe. Por eso las falsificaciones son un tema que se mide y no una categoría de daño: cada respuesta trae la puntuación y no pasa nada hasta que una regla le pone un umbral. La plantilla de marketplace se lo pone, así que un anuncio centrado en una réplica se rechaza, mientras que el comprador que pregunta si un reloj es auténtico queda tranquilo.
Empieza por la plantilla de marketplace, que baja los umbrales de estafas, spam y texto camuflado y añade uno para las falsificaciones. Después, prueba cualquier cambio como una segunda política que funciona en paralelo con la que está activa: se calculan los dos veredictos sobre tu propio tráfico, solo uno decide, y el panel te enseña en qué no coinciden antes de que cambies.
ToxicFilter lee cada mensaje, y a la misma persona a lo largo de una conversación, buscando las dos mitades del movimiento: sacar el trato de la plataforma ("fuera de la plataforma", "sin pasar por la web") y pagar por fuera ("me pagas directamente", "nos ahorramos la comisión"). Por defecto, las dos juntas y de la misma persona quedan retenidas para revisión. La plantilla de marketplace es más estricta: retiene la invitación a salir aunque venga sola y rechaza las dos juntas. Un teléfono o un usuario de mensajería en un anuncio se señala por su cuenta, como dato personal o como spam.
Sí, siempre que lo llames antes de publicar, lo que lleva en torno a un milisegundo en un anuncio que resuelven las comprobaciones gratuitas. Reconoce la forma de las estafas de alquiler, de empleo y románticas y de las cuentas alquiladas en ocho idiomas, y en una conversación lee a la misma persona a lo largo de varios mensajes, porque estas ofertas suelen llegar por partes.
Queda retenido para revisión en lugar de rechazado y, si pides redact, la respuesta trae el mismo texto con el teléfono, el IBAN o la tarjeta ocultos. Las tarjetas y los IBAN se validan con su dígito de control, así que una referencia de pedido de dieciséis cifras no se confunde con una tarjeta.
Las comprobaciones instantáneas tienen listas de palabras y patrones de frases en inglés, español, portugués, francés, italiano, alemán, catalán y neerlandés. El modelo entiende muchos más, y tus propias listas de palabras sirven en cualquier idioma.
Una comprobación cuesta un crédito y, cuando la lee el modelo, se suman los tokens que ha usado: unos ocho en total por mensaje. La mayoría de anuncios y mensajes los resuelven las comprobaciones gratuitas, así que la factura depende de cuánto tráfico tuyo es dudoso, no de cuánto tráfico tienes.
En la UE, sí: el artículo 17 del Reglamento de Servicios Digitales exige una declaración de motivos por cada retirada o restricción, sea cual sea el tamaño de la plataforma. ToxicFilter puede redactarla por ti con cada anuncio bloqueado.
2.000 créditos al mes en el plan gratuito, sin tarjeta. Suficiente para pasarle una semana de tu propio contenido y ver qué opina de él.