#791 · Seguridad y moderación

Escáner de frases de contenido violento

Revisa textos para localizar expresiones que pueden describir violencia física, amenazas de daño, armas o lesiones. El escáner trabaja con patrones lingüísticos y muestra las coincidencias encontradas para que puedas priorizar una revisión humana. No determina por sí solo la intención, la legalidad ni la gravedad real del contenido; su función es señalar fragmentos que merecen contexto adicional.

Entrada de texto

Análisis local en el navegador
Espacio publicitario

Cómo usar esta herramienta de texto

  1. Pega el texto que quieres revisar.
  2. Elige un alcance estricto o amplio.
  3. Activa el contexto si quieres ver palabras cercanas a cada coincidencia.
  4. Pulsa «Escanear contenido» y revisa manualmente los fragmentos señalados.

Qué hace esta herramienta

Busca patrones de vocabulario y construcciones frecuentes asociados con daño físico, amenazas, armas y lesiones. Devuelve la categoría, la expresión detectada y, opcionalmente, su contexto inmediato.

El análisis usa expresiones regulares locales y no envía el texto a servicios externos.

Los falsos positivos son posibles en ficción, periodismo, citas, juegos, historia o conversaciones sobre seguridad.

Ejemplo

Entrada: «Voy a romperte la cara si vuelves». Resultado: detecta una posible amenaza y muestra su ubicación.

Casos de uso

  • Preclasificar comentarios en una cola de moderación.
  • Revisar mensajes antes de publicarlos en una comunidad.
  • Detectar fragmentos que requieren contexto humano adicional.

Consejos para obtener mejores resultados

  • Usa el modo estricto para reducir falsos positivos.
  • Lee siempre la oración completa antes de tomar una decisión.
  • No interpretes una palabra aislada como prueba de amenaza.
  • Conserva el contexto cuando documentes una revisión.

Detalles del procesamiento

Los patrones distinguen varias categorías y calculan cuántas líneas contienen coincidencias. El resultado se genera completamente en el navegador.

No sustituye políticas de moderación ni evaluación profesional de amenazas reales.

Preguntas frecuentes

¿Cómo detectar frases violentas sin bloquear automáticamente textos de ficción?

Usa el alcance estricto y revisa el contexto de cada coincidencia. Las palabras sobre armas o lesiones pueden aparecer legítimamente en ficción, noticias o análisis.

¿El escáner distingue una amenaza directa de una noticia sobre violencia?

No de forma fiable. Señala patrones lingüísticos, pero la intención y el contexto deben revisarse manualmente.

¿Puedo encontrar en qué línea aparece cada expresión violenta?

Sí. El resultado cuenta las líneas afectadas y el archivo CSV incluye categoría, expresión y posición.

¿El texto que analizo se envía a un servidor?

No. El procesamiento de esta página se realiza en el navegador con JavaScript.

¿Qué hago si una palabra de violencia aparece en una cita o ejemplo?

Trátala como una coincidencia contextual. Comprueba quién habla, el propósito del texto y la política aplicable antes de moderar.

Resumen del módulo

ElementoValor
Número791
CategoríaSeguridad y moderación
ProcesamientoLocal en el navegador
ExportaciónTXT, CSV y JSON cuando corresponda