El problema del contexto cultural: por qué "tonto" no significa lo mismo en España y en México

Las palabras cruzan fronteras y no siempre llegan enteras. "Tonto" es una palabra suave en el español peninsular, algo que le dirías a un amigo en broma. En partes de América pesa más, más cerca de "idiota" que de "bobo". En italiano, "tonto" se usa de forma parecida a como se usa en España. En inglés es un nombre propio, cargado con su propio bagaje cultural.

Una palabra, cuatro significados distintos, cuatro decisiones de moderación distintas. Por eso no basta con "un modelo en español". Detectar el idioma sin tener en cuenta la región y el dialecto pasa por alto justo el matiz del que depende la moderación.

El alcance del problema

Algunas de las trampas, sin ánimo de ser exhaustivos:

• Mismo idioma, distintas regiones. El español de España, México, Argentina y Colombia tiene insultos distintos, registros aceptables distintos y palabras tabú distintas. El portugués de Brasil y el de Portugal están igual de divididos.
• Palabras reapropiadas. Un término que una comunidad usa sobre sí misma puede ser cariñoso; el mismo término dicho desde fuera es un insulto.
• Insultos al mezclar idiomas. Una palabra neutra en el idioma A pero cercana a un insulto en el idioma B aparece en conversaciones que mezclan idiomas y despista a los modelos monolingües.
• Jerga nueva. Las plataformas desarrollan su propio vocabulario. "Simp" pasó de ser un oscuro término dialectal del sur de Estados Unidos a jerga gamer en pocos años. Los modelos entrenados antes del cambio lo marcan o lo dejan pasar cuando no toca.
• Cambios entre generaciones. Las palabras que le parecen aceptables a alguien de 45 años no se lo parecen a uno de 15, y al revés.

Un ejemplo concreto

Toma la palabra "negrito" y piensa en cómo es probable que la lean distintos modelos:

• Un modelo pensado primero para el inglés tiende a marcarla como insulto con mucha confianza. Aprendió "negro" → insulto, y generaliza mal al diminutivo español.
• Un modelo genérico en español no tiene claro qué hacer con ella, y con razón. En España a veces se usa con cariño ("un apelativo cariñoso"). En México, depende del contexto. En la comunidad hispanohablante de Estados Unidos, a menudo es ofensiva.
• Un modelo que tenga en cuenta la región la puntuaría distinto según la variante: baja en España, intermedia en México, alta en el español de Estados Unidos.

Cualquier respuesta única y fija se equivoca con dos de los tres públicos. Solo teniendo en cuenta la región se acierta, más o menos, con los tres.

Cómo funciona una moderación que tiene en cuenta la región

En un sistema que tiene en cuenta la región, una llamada de moderación pasa por tres fases:

1. Detección del idioma. Rápida, <1 ms. Devuelve el idioma candidato más probable.
2. Inferencia de la región o el dialecto. Un clasificador ligero que predice la variante regional a partir de marcas léxicas y gramaticales. Usa los metadatos del usuario (locale, región declarada) como punto de partida cuando los hay.
3. Puntuación condicionada por la región. El modelo de clasificación recibe la etiqueta regional como entrada y produce puntuaciones ajustadas a esa región.

Es más complejo que un único modelo multilingüe, y en el contenido culturalmente delicado la diferencia se nota.

Sobre lo nuestro, para que quede claro: ToxicFilter hoy no hace la segunda ni la tercera fase. locales nombra un idioma, no una región, y el modelo lee las palabras con el contexto que le envíes. Así que las medidas de abajo son también las que te recomendaríamos nosotros.

Qué puedes hacer sin un modelo que tenga en cuenta la región

Si tu proveedor de moderación no tiene en cuenta la región, hay medidas parciales:

• Usa la región de la plataforma. Si tu app sabe que el usuario está en México, endurece los umbrales para términos que se sabe que allí son más ofensivos. Es tosco, pero mejor que nada.
• Deja que los usuarios se identifiquen. Las comunidades suelen incluir el contexto regional en su perfil. Úsalo como punto de partida, con el consentimiento del usuario.
• Más contexto. Una palabra aislada le da poco al modelo para trabajar. Los dos o tres mensajes de alrededor suelen deshacer la ambigüedad (un chat familiar con historia compartida frente a hostilidad entre desconocidos).
• Listas de permitidos por comunidad. Una regla de comunidad al estilo de un subreddit puede, con toda legitimidad, imponerse a una decisión de moderación global. "Aquí este término se usa con cariño" es un contexto local válido.

El límite de la automatización

Ningún modelado regional resuelve del todo el problema del contexto cultural. El criterio humano sigue siendo imprescindible, sobre todo en idiomas minoritarios, donde hay pocos datos de entrenamiento, y en términos ligados a la identidad, donde hay mucho en juego.

Lo que sí consigue una moderación que tiene en cuenta la región es reducir los casos que necesitan ojos humanos. El modelo ya no marca "negrito" en un chat familiar español. El revisor ya no tiene que perder tiempo explicando por qué aquello era un falso positivo. La cola sigue siendo manejable, la comunidad sale indemne y nadie escribe un hilo en Twitter sobre la ignorancia cultural de la app.

Conclusión para producto

Si tu plataforma opera en varias regiones o idiomas, trata la región como una señal de primer orden en la moderación, no como un añadido de última hora. Pregúntale a tu proveedor: "¿Sabe tu modelo la diferencia entre España y México?" Si la respuesta es vaga, estás a punto de aprender por las malas que tus usuarios sí la notan.