Temas no deseados

Un tema no es un daño: se mide, no se juzga

Un mensaje limpio sobre Bitcoin no es un abuso, y un anuncio de casino no es un delito. Si caben en tu web es una norma de la casa, y la pones tú. ToxicFilter mide cuánto trata cada mensaje de cada tema y solo actúa donde tu política lo dice: la plantilla de marketplace rechaza los anuncios de réplicas, y las apuestas y la cripto se devuelven con su puntuación hasta que les pongas una línea.

Cómo funciona

  1. Se mide cada mensaje

    Cada respuesta de texto trae `topics`, junto a `scores`: cuánto trata el mensaje de apuestas, cripto o falsificaciones, de 0 a 1. Se mide en todas las llamadas, gratis y sin modelo.

  2. Lo que importa es el peso del tema

    La puntuación sube con las palabras del tema que lleva el mensaje en relación con su longitud y con cuántas familias distintas usa. Un anuncio nombra una casa de apuestas, un juego y un bono; un artículo nombra una de esas cosas.

  3. La promoción suma, la ayuda no

    El lenguaje de promoción, como un código promocional o un "regístrate", suma 0,15. Las palabras de quien cuenta una adicción o pregunta si le han vendido una falsificación dejan la puntuación en 0,2 como mucho.

  4. Tu línea, o nada

    Un tema no decide nada hasta que una regla de tu política, o `rules.topics` en la llamada, le pone una línea de review o de block. Mientras tanto se informa y no se toca.

Míralo en acción

  1. 01 Un anuncio de réplicas
  2. 02 Alguien que pregunta si el suyo es auténtico
  3. 03 Un anuncio de casino
  4. 04 Alguien que cuenta su problema con el juego
  5. 05 Una oferta para duplicar bitcoins

Un anuncio de réplicas POST /v1/text

Réplicas Rolex Submariner 1:1, calidad AAA, al por mayor y con envíos a todo el mundo. Precio por privado.

block 12 ms

Marca, modelo, calidad de la copia y venta al por mayor: el tema falsificaciones marca 0,98. La plantilla de marketplace le pone la línea de block en 0,80, así que el anuncio se rechaza.

La respuesta, resumida
{
  "decision": "block",
  "flagged": [
    "topic:counterfeit"
  ],
  "topics": {
    "counterfeit": 0.98
  },
  "signals": [],
  "model": {
    "read": false
  },
  "took_ms": 12
}

Alguien que pregunta si el suyo es auténtico POST /v1/text

¿Este Rolex Submariner es original o falso? Lo compré de segunda mano, ¿alguien sabe cómo distinguir si la esfera es buena?

allow 8 ms

La misma marca y las mismas palabras que usaría una tienda de réplicas, pero con la pregunta "original o falso". Eso deja el tema en 0,2, por debajo de todas las líneas de la plantilla.

La respuesta, resumida
{
  "decision": "allow",
  "flagged": [],
  "topics": {
    "counterfeit": 0.2
  },
  "signals": [],
  "model": {
    "read": false
  },
  "took_ms": 8
}

Un anuncio de casino POST /v1/text

Bono de bienvenida en el casino: 100 giros gratis en tragaperras y ruleta, sin depósito. Usa mi código promocional y regístrate hoy.

allow 8 ms

Apuestas marca 0,98: un casino, dos juegos, un bono, un código promocional. Ninguna plantilla trae línea para las apuestas, así que pasa como allow con la puntuación en la respuesta. Añade una regla para el tema y este es el mensaje que caza.

La respuesta, resumida
{
  "decision": "allow",
  "flagged": [],
  "topics": {
    "gambling": 0.98
  },
  "signals": [],
  "model": {
    "read": false
  },
  "took_ms": 8
}

Alguien que cuenta su problema con el juego POST /v1/text

Perdí mis ahorros jugando al póker y a las tragaperras en un casino online. Tengo ludopatía, voy a Jugadores Anónimos desde el mes pasado y quiero dejar de apostar.

allow 8 ms

Todas las palabras de un anuncio y, en el mismo mensaje, ludopatía: la puntuación se queda en 0,2. Una línea pensada para dejar fuera a los casinos no llega a quien pide ayuda.

La respuesta, resumida
{
  "decision": "allow",
  "flagged": [],
  "topics": {
    "gambling": 0.2
  },
  "signals": [],
  "model": {
    "read": false
  },
  "took_ms": 8
}

Una oferta para duplicar bitcoins POST /v1/text

Envía 0,1 BTC a bc1qxy2kgdygjrsqtzq2n0yrf2493p83kkfjhx0wlh y te devuelvo 0,2 BTC en 24 horas, rentabilidad garantizada con tu bitcoin.

block 9 ms
  • Contains a cryptocurrency wallet address, with an instruction to send to it or beside another scam shape.

Se rechaza por estafa, no por el tema: una dirección de monedero junto a una rentabilidad prometida es la parte delictiva, y bloquea digas lo que digas de la cripto. La puntuación de cripto sigue saliendo, en su propio eje.

La respuesta, resumida
{
  "decision": "block",
  "flagged": [
    "scam"
  ],
  "scores": {
    "scam": 0.85
  },
  "topics": {
    "crypto": 0.444
  },
  "signals": [
    {
      "category": "scam",
      "score": 0.85,
      "reason": "Contains a cryptocurrency wallet address, with an instruction to send to it or beside another scam shape.",
      "evidence": [
        "bc1qxy2kgdygjrsqtzq2n0yrf2493p83kkfjhx0wlh"
      ]
    }
  ],
  "model": {
    "read": false
  },
  "took_ms": 9
}

Míralo en acción

Un anuncio de réplicas POST /v1/text

Réplicas Rolex Submariner 1:1, calidad AAA, al por mayor y con envíos a todo el mundo. Precio por privado.

block 12 ms

Marca, modelo, calidad de la copia y venta al por mayor: el tema falsificaciones marca 0,98. La plantilla de marketplace le pone la línea de block en 0,80, así que el anuncio se rechaza.

La respuesta, resumida
{
  "decision": "block",
  "flagged": [
    "topic:counterfeit"
  ],
  "topics": {
    "counterfeit": 0.98
  },
  "signals": [],
  "model": {
    "read": false
  },
  "took_ms": 12
}

Alguien que pregunta si el suyo es auténtico POST /v1/text

¿Este Rolex Submariner es original o falso? Lo compré de segunda mano, ¿alguien sabe cómo distinguir si la esfera es buena?

allow 8 ms

La misma marca y las mismas palabras que usaría una tienda de réplicas, pero con la pregunta "original o falso". Eso deja el tema en 0,2, por debajo de todas las líneas de la plantilla.

La respuesta, resumida
{
  "decision": "allow",
  "flagged": [],
  "topics": {
    "counterfeit": 0.2
  },
  "signals": [],
  "model": {
    "read": false
  },
  "took_ms": 8
}

Un anuncio de casino POST /v1/text

Bono de bienvenida en el casino: 100 giros gratis en tragaperras y ruleta, sin depósito. Usa mi código promocional y regístrate hoy.

allow 8 ms

Apuestas marca 0,98: un casino, dos juegos, un bono, un código promocional. Ninguna plantilla trae línea para las apuestas, así que pasa como allow con la puntuación en la respuesta. Añade una regla para el tema y este es el mensaje que caza.

La respuesta, resumida
{
  "decision": "allow",
  "flagged": [],
  "topics": {
    "gambling": 0.98
  },
  "signals": [],
  "model": {
    "read": false
  },
  "took_ms": 8
}

Alguien que cuenta su problema con el juego POST /v1/text

Perdí mis ahorros jugando al póker y a las tragaperras en un casino online. Tengo ludopatía, voy a Jugadores Anónimos desde el mes pasado y quiero dejar de apostar.

allow 8 ms

Todas las palabras de un anuncio y, en el mismo mensaje, ludopatía: la puntuación se queda en 0,2. Una línea pensada para dejar fuera a los casinos no llega a quien pide ayuda.

La respuesta, resumida
{
  "decision": "allow",
  "flagged": [],
  "topics": {
    "gambling": 0.2
  },
  "signals": [],
  "model": {
    "read": false
  },
  "took_ms": 8
}

Una oferta para duplicar bitcoins POST /v1/text

Envía 0,1 BTC a bc1qxy2kgdygjrsqtzq2n0yrf2493p83kkfjhx0wlh y te devuelvo 0,2 BTC en 24 horas, rentabilidad garantizada con tu bitcoin.

block 9 ms
  • Contains a cryptocurrency wallet address, with an instruction to send to it or beside another scam shape.

Se rechaza por estafa, no por el tema: una dirección de monedero junto a una rentabilidad prometida es la parte delictiva, y bloquea digas lo que digas de la cripto. La puntuación de cripto sigue saliendo, en su propio eje.

La respuesta, resumida
{
  "decision": "block",
  "flagged": [
    "scam"
  ],
  "scores": {
    "scam": 0.85
  },
  "topics": {
    "crypto": 0.444
  },
  "signals": [
    {
      "category": "scam",
      "score": 0.85,
      "reason": "Contains a cryptocurrency wallet address, with an instruction to send to it or beside another scam shape.",
      "evidence": [
        "bc1qxy2kgdygjrsqtzq2n0yrf2493p83kkfjhx0wlh"
      ]
    }
  ],
  "model": {
    "read": false
  },
  "took_ms": 9
}

Cómo moderar temas no deseados

Por qué un tema no es una categoría de daño y cómo se calcula la puntuación.

Qué es un tema no deseado

Cada categoría de ToxicFilter afirma que algo va mal en el contenido: odio, una amenaza, una estafa. Las apuestas, las criptomonedas y las falsificaciones no son ese tipo de afirmación. Un foro de cripto no habla de otra cosa, un foro de crianza no quiere ni oír hablar de ella y una comunidad de zapatillas enseña cada día a reconocer las falsas. Por eso los temas van en su propio eje: topics en la respuesta, junto a scores y fuera de la lista de daños.

Cómo filtrar los mensajes de apuestas

Cada respuesta mide, de 0 a 1, cuánto pesan las apuestas en el mensaje. No pasa nada hasta que le pones una línea al tema, como regla en tu política o como rules.topics en la llamada. Ninguna de nuestras plantillas la trae, porque si las apuestas caben en tu web lo decides tú. Empieza por mirar las puntuaciones que saca tu propio tráfico, pon una línea de review donde empiezan los anuncios y una de block por encima.

Por qué cuenta el peso del tema y no las palabras sueltas

Un filtro de palabras salta con la palabra. La puntuación de un tema pregunta cuánto del mensaje trata de él. La densidad cuenta las palabras del tema frente a la longitud del mensaje, nunca sobre menos de quince palabras, para que una respuesta de tres no llegue arriba. La diversidad cuenta cuántas familias aparecen: casas de apuestas, juegos y actividad en las apuestas; monedas, plataformas y actividad en la cripto. Las dos se multiplican, y así un artículo largo que menciona dos tipos de palabra de apuestas no parece un anuncio. El lenguaje de promoción, como un código promocional o un "regístrate", suma 0,15, porque es lo que separa hablar de algo de venderlo.

Dejar fuera a los casinos sin echar a quien pide ayuda

Quien cuenta su propio problema con el juego usa todas las palabras de un anuncio: las marcas, los juegos, el dinero. Expresiones como ludopatía, Jugadores Anónimos o dejar de apostar dejan la puntuación en 0,2, y ninguna densidad puede pasar por encima. La cripto tiene una lista corta, para quien cuenta "me estafaron" o "perdí todo". En las falsificaciones, el tope protege a quien pregunta si lo suyo es auténtico, a quien ha sido víctima y a las noticias de una incautación.

La cripto como tema, la estafa como daño

Una dirección de monedero con una rentabilidad prometida es un fraude, va a scam y tiene su propia línea de block. Hablar de Bitcoin no lo es. Mantenerlos separados permite a una comunidad de finanzas no tocar el tema sin apagar también la detección del fraude. Los tickers cortos como SOL, ADA y DOT faltan a propósito: también son el sol, un nombre y un punto en inglés. Las palabras se buscan entre espacios, así que ico no salta dentro de "público".

Falsificaciones en un marketplace

Hablar de réplicas está bien; venderlas es lo que prohíbe la casa. El tema falsificaciones lee cuatro familias en ocho idiomas: lo que el mensaje dice que es, la calidad de copia que promete, las marcas más copiadas y la forma de vender de una tienda de réplicas. Se quitaron las palabras que chocan con mensajes normales: "reps" a secas sale en cualquier rutina de gimnasio, Hermes es una empresa de mensajería, Omega es un ácido graso y Police es una marca de gafas de sol. Las plantillas de marketplace y de clasificados le ponen al tema una línea de review en 0,50 y una de block en 0,80.

Cómo se reparte el trabajo

Las comprobaciones instantáneas resuelven los casos claros en torno a un milisegundo, el modelo lee lo que depende del contexto, y tus reglas y tu equipo tienen la última palabra.

  • Centralidad, no palabras sueltas

    La puntuación mide cuánto del mensaje trata del tema, contado sobre al menos quince palabras, así que una mención de pasada queda muy por debajo de cualquier línea y un anuncio que nombra locales, juegos y una promoción puntúa alto.

  • Pensado para no pasarse

    Las palabras que chocan con mensajes normales se dejan fuera a propósito: SOL, ADA y DOT son el sol, un nombre y un punto, y un reps a secas es cualquier rutina de gimnasio. Una moneda cuenta como cashtag, $SOL, donde no puede significar otra cosa.

  • Tus reglas deciden

    Nada actúa sobre un tema hasta que le das una línea, y la puntuación viene en cada respuesta desde la primera llamada, así que puedes leer un mes de tu propio tráfico antes de elegir el número.

Preguntas frecuentes

¿Cómo bloqueo los mensajes de apuestas en mi web?

Ponle una línea al tema apuestas en tu política, por ejemplo review en 0,5 y block en 0,8, o mándala como `rules.topics` en la llamada. Cada respuesta trae ya la puntuación, así que puedes mirar un mes de tu propio tráfico antes de elegir el número.

¿Va a quitar los mensajes de gente que habla de su adicción al juego?

Por el tema, no. Expresiones como ludopatía, adicción al juego, autoexclusión, Jugadores Anónimos o "no puedo parar" dejan la puntuación de apuestas en 0,2, por debajo de cualquier línea razonable, por muchas marcas y juegos que nombre el mensaje.

¿Se trata la cripto como una estafa?

No. Hablar de Bitcoin es un tema y se mide como tal. La parte delictiva, una dirección de monedero con una rentabilidad prometida, es otra comprobación que va a scam, y bloquea con las líneas de serie decidas lo que decidas sobre la cripto como tema.

¿Cómo distingue una tienda de réplicas de un foro de zapatillas?

Un anuncio de réplicas usa varias familias a la vez: lo que dice que es, la calidad de copia que promete, la marca y cómo vende (al por mayor, a todo el mundo, con los agentes y álbumes con los que funciona ese comercio). Quien pregunta o enseña a reconocer falsificaciones, quien ha sido víctima y las noticias de una incautación se reconocen y se quedan en 0,2.

¿Puede una palabra de casino bloquear una frase que habla de otra cosa?

Por sí sola, no. La densidad se mide sobre al menos quince palabras, así que una respuesta corta no llega arriba con una sola, y un mensaje que usa una familia de palabras puntúa menos que uno que usa varias. Una mención de pasada queda muy por debajo de las líneas de las plantillas.

¿Qué idiomas cubre?

Las palabras de falsificaciones cubren los ocho idiomas de las comprobaciones instantáneas. Las listas de apuestas y cripto son sobre todo nombres de marcas, juegos y monedas en inglés y en español. Tus propias listas de palabras en la política funcionan en cualquier idioma.

Sigue leyendo

Pruébalo con tu tráfico real

2.000 créditos al mes en el plan gratuito, sin tarjeta. Suficiente para pasarle una semana de tu propio contenido y ver qué opina de él.