Spotify no puede controlar la pornografía: sus sistemas de moderación fallan y aparecen vídeos explícitos en las búsquedas
La crisis estalla tras numerosas denuncias en redes sociales, salpicando de lleno a la empresa mientras los usuarios reportan contenido inapropiado masivo
La popular plataforma de streaming musical está enfrentando una crisis sin precedentes en sus sistemas de moderación. Los usuarios están encontrando vídeos pornográficos al realizar búsquedas de artistas populares en Spotify, una situación que se ha convertido en viral en redes sociales y ha llevado a medios especializados como The Verge a solicitar explicaciones oficiales.
Según informa PhoneArena, aunque un representante de Spotify ha confirmado la eliminación de los ejemplos denunciados, el problema persiste. La situación se ha agravado significativamente en los últimos meses, pasando de simples clips de audio explícitos a vídeos completos, especialmente en la pestaña 'Video' de la aplicación, donde los sistemas de moderación con IA han demostrado ser sorprendentemente ineficaces.
El problema de la moderación en plataformas digitales se extiende más allá de Spotify
La situación me recuerda por qué prefiero alternativas más éticas a Spotify, especialmente cuando observamos cómo docenas de cuentas aparecen en cuestión de horas para inundar la plataforma con cientos de videos inapropiados. Este comportamiento sistemático sugiere una operación coordinada cuyo objetivo, más allá de conseguir visitas, permanece sin explicación.
Como creador de contenido que trabaja con artistas independientes, he podido comprobar que subir música a Spotify puede ser contraproducente para los músicos, y esta falta de control sobre el contenido solo empeora la situación. La plataforma parece más preocupada por sus beneficios que por proteger tanto a usuarios como a artistas de este tipo de contenido nocivo.
Este problema refleja una crisis más amplia que afecta también a YouTube, donde el contenido inapropiado dirigido a menores ha sido un problema persistente durante años. La respuesta de las plataformas revela sus verdaderas prioridades: mientras que YouTube puede bloquear instantáneamente un video por tararear una canción durante cinco segundos, la publicidad con contenido inadecuado circula libremente por la plataforma.
A pesar de las medidas tomadas por Spotify para eliminar los ejemplos denunciados, los expertos anticipan que el problema continuará. La efectividad de los sistemas de moderación basados en IA está en entredicho, especialmente cuando se enfrentan a oleadas coordinadas de contenido inapropiado. Esta situación plantea serias dudas sobre la capacidad real de las plataformas digitales para mantener entornos seguros para sus usuarios, incluso con las tecnologías más avanzadas.
Puedes seguir a Andro4all en Facebook, WhatsApp, Twitter (X) o consultar nuestro canal de Telegram para estar al día con las últimas noticias de tecnología.