Saltar al contenido
NOWNLETTER

Poder / 27.08.2026 / 6 min

El mensaje que el algoritmo no perdonó:Cómo una historia de Instagram terminó en detención

Una adolescente de 17 años apretó el botón de publicar en Instagram, confiando en que una historia restringida a su círculo de “Mejores Amigos” era un refugio privado para lanzar una amenaza de muerte contra la rectora de su ex colegio, el Instituto Nacional. Nunca imaginó que sus propios contactos no tendrían que denunciarla para que la policía se enterara. En cuestión de minutos, los algoritmos de Meta escanearon el contenido, cruzaron la línea de esa falsa intimidad y catalogaron el mensaje como un delito inminente.

Redacción NOWN
NOWN / Poder

A miles de kilómetros de distancia, un sistema automatizado empaquetó su dirección IP, correo electrónico, número de teléfono y metadatos, enviando una alerta directa y silenciosa a la Brigada del Cibercrimen de la Policía de Investigaciones (PDI) en Chile. La consecuencia de esa transmisión de datos fue física y contundente. Con la información provista por la plataforma, los detectives triangularon la identidad de la joven, se presentaron en su domicilio, la detuvieron y confiscaron su teléfono mó́vil como evidencia.

Enfrentó a la justicia no por violar los términos de una red social, sino porque el Código Penal castiga las amenazas graves con penas de prisión, sin importar si se pronuncian en la vía pública o se teclean en una pantalla.

Su historia ilustra una maquinaria de vigilancia que no es una anomalía. Recientemente, otros usuarios chilenos han sido arrestados bajo la misma mecánica tras publicar amenazas contra el presidente José́ Antonio Kast o anunciar bombas en universidades. Para efectos de moderación, nada es privado; la promesa de privacidad de Meta solo oculta los mensajes ante otros usuarios, nunca ante los ojos de la empresa.

El doble estándar corporativo

Sin embargo, esta pro actividad policial devela un doble estándar corporativo. Mientras la publicación de una estudiante desata un operativo en horas, la empresa responde con lentitud frente a crisis más profundas.

La proliferación de material de abuso infantil, pornografía, las estafas financieras o el acoso digital masivo suelen depender de la denuncia reactiva de las víctimas, enfrentando filtros laxos o litigios prolongados. Investigaciones recientes mostraron que, pese a sus políticas, Meta aprobó y monetizó anuncios que incluían material de abuso sexual infantil generado por IA y herramientas para crear desnudos falsos (“nudify”) de mujeres, incluyendo figuras políticas. Meta luego eliminó esos anuncios, pero el hecho de que pasaran el filtro ilustra las brechas en la aplicación de sus propias reglas.

En paralelo, la compañía ha sido acusada de restringir sistemáticamente contenido palestino en Facebook e Instagram, con más de 3.500 casos documentados entre 2021 y 2025, lo que críticos describen como una forma de censura política indirecta o “plataformicidio”. En múltiples países, organizaciones de derechos digitales han denunciado que Meta ha cedido a presiones de gobiernos para bajar contenido político, silenciar activistas o reducir la visibilidad de ciertas narrativas, a menudo sin transparencia sobre los criterios ni los solicitantes.

La defensa frente a la maquinaria

Decir que hay vías de defensa no significa avalar las amenazas: amenazar de muerte es un delito y, cuando hay riesgo real, la intervención estatal puede estar justificada. El problema no es que Meta colabore con la justicia; es que lo hace de forma selectiva y opaca, elevando la seguridad de la plataforma mientras traslada el riesgo a los usuarios.

La justicia según Meta: criterios ocultos, consecuencias reales

En la práctica, Meta opera como un intermediario judicial opaco, decidiendo unilateralmente qué́ exabruptos se silencian con un bloqueo de cuenta y cuáles justifican que los detectives llamen a tu puerta. No hay un manual público que explique por qué una amenaza de muerte en Chile se convierte en alerta policial en minutos, mientras miles de anuncios fraudulentos, cuentas de bots, contenido de abuso infantil o campañas de acoso masivo siguen circulando o se tratan solo como violaciones de normas comunitarias.

Sin embargo, hay indicios fuertes de que la “medición del riesgo” no es puramente técnica:

  • Presión gubernamental y censura política: documentos internos revisados por The Intercept muestran que el gobierno de Israel pidió a Meta eliminar contenido sobre la guerra con Irán (apoyo a Irán, imágenes de impactos de misiles, críticas a operaciones militares), y que Meta cumplió con una parte significativa de esas solicitudes, en algunos casos basándose en sus propias políticas de “organizaciones peligrosas” más que en leyes locales.
  • Autocensura por presión política: en audiencias en EE.UU., ejecutivos de Meta reconocieron haber eliminado contenido tras “contactos” del Departamento de Justicia, y se discutió si la compañía se sintió presionada por la administración Biden para moderar ciertas narrativas.
  • Censura proactiva sin pedido explícito: en India y Kerala, Meta eliminó noticias y contenidos críticos al gobierno alegando “requisitos legales locales”, incluso cuando autoridades dijeron no haber pedido esas bajas.
  • Modelo de negocio y monetización del daño: demandas y análisis internos revelan que los sistemas publicitarios de Meta amplifican y monetizan anuncios fraudulentos y desinformación, porque priorizan engagement e ingresos sobre la seguridad del usuario; el condado de Santa Clara, por ejemplo, acusó a Meta de lucrarse de miles de millones en anuncios engañosos que afectan especialmente a adultos mayores.
  • Presión de bloques regulatorios: un informe del Congreso de EE.UU. acusa a la Comisión Europea de haber presionado durante más de una década a plataformas como Meta para adoptar reglas de moderación más restrictivas a nivel global, lo que derivó en la eliminación de contenidos políticos legítimos bajo el rótulo de “discurso de odio” o “desinformación”.

Estos elementos no prueban una conspiración única, pero sí dibujan un patrón: la “evaluación de riesgo” de Meta está atravesada por incentivos políticos (evitar conflictos con gobiernos, mantener acceso a mercados) y económicos (maximizar ingresos publicitarios, minimizar sanciones regulatorias).

En ese contexto, la certeza absoluta (“Meta mide el riesgo solo por conveniencia política”) es imposible, porque la compañía no publica sus criterios internos de priorización. Pero la carga de la prueba debería invertirse: cuando una plataforma tiene el poder de decidir quién termina en un juzgado y quién no, y además muestra un historial de cumplimiento casi automático con gobiernos y de monetización de contenidos dañinos, no es razonable asumir neutralidad.

El caso de la adolescente detenida por una amenaza en Instagram es solo la punta del iceberg de un sistema más amplio: una plataforma privada que escanea todo, decide qué reporta y a quién, y coopera con Estados en un marco opaco para la mayoría de los usuarios.

Ese poder no es solo técnico; es político. Define qué voces se amplifican, cuáles se silencian y quiénes terminan en un juzgado. Entender cómo funciona ese mecanismo y cómo nos afecta, es una condición mínima para hablar de privacidad, libertad de expresión y democracia en la era de las plataformas.