Un error en Instagram la inundó de vídeos violentos. Meta ha tenido que disculparse por ello

Un fallo en los sistemas de moderación de instagram priorizó por accidente contenidos vilentos en lugar de filtrarlos. Por culpa de este fallo los usuarios vieron peleas callejeras, intentos de retos virales peligrosos y contenido de automutilación sin censura, entre otras lindezas. El problema persistió incluso al intentar reportar o bloquear los vídeos.

Esto ha llevado, según recoge el New York Post, a que Meta, compañía matriz de Instagram, haya tenido que emitir una disculpa pública publicada por Adam Mosseri. Tras esta disculpa se eliminaron miles de vídeos y se anunció una colaboración con ONGs especializadas en salud mental para asistir a los usuarios afectados. Para Meta todo ha tenido que ver con "fallos técnicos en los algoritmos de moderación", según su director.

Pasó lo que no tenía que pasar y se vio lo que no se tenía que ver

De acuerdo con la fuente, muchos usuarios han dicho haber visto contenidos extremadamente violentos o gráficos, lo que llevó a que se usasen los hashtags #InstagramFailed y #MetaDanger. Ambos fueron tendencia en redes sociales durante horas, con padres quejándose de que sus hijos adolescentes habían estado expuestos a este tipo de contenido.

La situación se agrava cuando se tiene en cuenta que Instagram ya ha tenido fallos de moderación garrafales en el pasado. En 2023 se acusó a la red social de permitir cuentas que promovían trastornos de la conducta alimenticia, especialmente dañinos para adolescentes. Como respuesta Instagram lanzó una notificación par que los adolescentes cerrasen la app que se activaba por la noche, pero daba la sensación de ser un ejercicio de matar mosquitos a cañonazos.

En 2024 la UE multó a Instagram por moderación deficiente, aunque de su parte Meta ya lleva unas cuantas multas millonarias. La más reciente es de noviembre del año pasado, lo que hace pensar que o bien la empresa no se toma en serio a los organismos reguladores, o bien no piensa mejor los pasos que da.

Sea como fuere, ahora se van a ver en más problemas legales. Autoridades de EE.UU. y la UE van a investigar si Meta violó las leyes de protección digital, mientras que los usuarios de California presentarán una demanda colectiva exigiendo una compensación por "daño emocional". Algunos anunciantes también pausaron sus campañas en la plataforma por riesgo reputacional.

Aprovechamos para recordar que Meta anunció que actualizaría sus sistemas de moderación antes de abril de 2025. Les queda un mes y el tiempo corre; parece que van a tener que darse mucha prisa si quieren cumplir ese objetivo.

Puedes seguir a Andro4all en Facebook, WhatsApp, Twitter (X) o consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.