Carnicería transmitida en directo: Las duras lecciones de la tecnología en los asesinatos en masa
Hoy en día, los tiradores de masas como el ahora detenido en el ataque al supermercado de Buffalo, Nueva York, no se limitan a planificar sus brutales ataques. También crean planes de marketing mientras organizan la transmisión en directo de sus masacres en las plataformas sociales con la esperanza de fomentar más violencia.
Sitios como Twitter, Facebook y ahora la plataforma de retransmisión de juegos Twitch han aprendido la dolorosa lección de lidiar con los vídeos violentos que ahora suelen acompañar a estos tiroteos. Pero los expertos reclaman un debate más amplio sobre las retransmisiones en directo, incluida la cuestión de si deben existir, ya que una vez que esos vídeos están en línea, son casi imposibles de borrar por completo.
El pistolero autodenominado supremacista blanco que, según la policía, mató a 10 personas, la mayoría de ellas negras, en un supermercado de Buffalo el sábado, había montado una cámara GoPro en su casco para transmitir su asalto en vivo en Twitch, la plataforma de transmisión de videojuegos utilizada por otro tirador en 2019 que mató a dos personas en una sinagoga en Halle, Alemania.
Anteriormente había esbozado su plan en un conjunto detallado pero incoherente de entradas de diario en línea que aparentemente se publicaron antes del ataque, aunque no está claro cuántas personas podrían haberlas visto. Su objetivo: inspirar a imitadores y difundir sus creencias racistas. Después de todo, él mismo era un imitador.
Decidió no retransmitir en Facebook, como hizo otro tirador en masa cuando mató a 51 personas en dos mezquitas de Christchurch (Nueva Zelanda) hace tres años. A diferencia de Twitch, Facebook requiere que los usuarios se registren para obtener una cuenta para poder ver las transmisiones en directo.
Sin embargo, no todo salió según lo previsto. En la mayoría de los casos, las plataformas respondieron más rápidamente para detener la difusión del vídeo de Buffalo que tras el tiroteo de Christchurch de 2019, dijo Megan Squire, miembro senior y experta en tecnología del Southern Poverty Law Center.
Otro usuario de Twitch que estaba viendo el video en vivo probablemente lo marcó a la atención de los moderadores de contenido de Twitch, dijo, lo que habría ayudado a Twitch a retirar la transmisión menos de dos minutos después de los primeros disparos según un portavoz de la compañía. Twitch no ha dicho cómo se marcó el vídeo.
“En este caso, lo hicieron bastante bien”, dijo Squire. “El hecho de que el vídeo sea tan difícil de encontrar ahora mismo es una prueba de ello”.
En 2019, el tiroteo de Christchurch se retransmitió en directo en Facebook durante 17 minutos y se extendió rápidamente a otras plataformas. Esta vez, las plataformas parecieron coordinarse mejor en general, sobre todo al compartir “firmas” digitales del vídeo utilizadas para detectar y eliminar copias.
Pero los algoritmos de las plataformas pueden tener más dificultades para identificar un vídeo copiado si alguien lo ha editado. Eso ha creado problemas, como cuando algunos usuarios de foros de Internet rehicieron el vídeo de Buffalo con retorcidos intentos de humor. Las empresas tecnológicas habrían tenido que utilizar “algoritmos más sofisticados” para detectar esas coincidencias parciales, dijo Squire.
“Parece más oscuro y cínico”, dijo sobre los intentos de difundir el vídeo del tiroteo en los últimos días.
Twitch tiene más de 2,5 millones de espectadores en un momento dado; aproximadamente 8 millones de creadores de contenido transmiten vídeo en la plataforma cada mes, según la empresa. El sitio utiliza una combinación de informes de usuarios, algoritmos y moderadores para detectar y eliminar cualquier tipo de violencia que se produzca en la plataforma. La compañía dijo que eliminó rápidamente la transmisión del pistolero, pero no ha compartido muchos detalles sobre lo que sucedió el sábado – incluyendo si la transmisión fue reportada o cuántas personas vieron el alboroto en vivo.
Un portavoz de Twitch dijo que la compañía compartió la transmisión en vivo con el Foro Global de Internet para Contrarrestar el Terrorismo, un grupo sin fines de lucro creado por las empresas de tecnología para ayudar a otros a controlar sus propias plataformas para las retransmisiones. Sin embargo, algunos fragmentos del vídeo llegaron a otras plataformas, incluido el sitio Streamable, donde estuvo disponible para millones de personas. Un portavoz de Hopin, la empresa propietaria de Streamable, dijo el lunes que está trabajando para eliminar los vídeos y dar de baja las cuentas de quienes los subieron.
De cara al futuro, las plataformas pueden enfrentarse a futuras complicaciones de moderación debido a una ley de Texas -restablecida por un tribunal de apelación la semana pasada- que prohíbe a las grandes empresas de redes sociales “censurar” los puntos de vista de los usuarios. El tirador “tenía un punto de vista muy específico” y la ley es lo suficientemente poco clara como para crear un riesgo para las plataformas que moderan a personas como él, dijo Jeff Kosseff, profesor asociado de derecho de la ciberseguridad en la Academia Naval de Estados Unidos. “Realmente pone el dedo en la llaga de mantener el contenido dañino”, dijo.
Alexa Koenig, directora ejecutiva del Centro de Derechos Humanos de la Universidad deCalifornia, Berkeley, dijo que ha habido un cambio en la forma en que las empresas tecnológicas están respondiendo a tales eventos. En particular, dijo Koenig, la coordinación entre las empresas para crear repositorios de huellas dactilares para los vídeos extremistas, de modo que no puedan volver a cargarse en otras plataformas, “ha sido un avance increíblemente importante.”
Un portavoz de Twitch dijo que la compañía revisará cómo respondió al livestream del pistolero.
Los expertos sugieren que sitios como Twitch podrían ejercer un mayor control sobre quién puede transmitir en vivo y cuándo, por ejemplo, mediante la construcción de retrasos o la lista blanca de usuarios válidos mientras se prohíbe a los infractores de las reglas. En términos más generales, Koenig dijo que “también hay una conversación general de la sociedad que tiene que suceder en torno a la utilidad de livestreaming y cuando es valioso, cuando no lo es, y cómo ponemos normas seguras en torno a cómo se utiliza y lo que sucede si lo usas.”
Otra opción, por supuesto, sería acabar con el livestreaming por completo. Pero eso es casi imposible de imaginar dado lo mucho que las empresas tecnológicas dependen de las transmisiones en directo para atraer y mantener a los usuarios comprometidos con el fin de obtener dinero.
La libertad de expresión, dijo Koenig, es a menudo la razón que dan las plataformas tecnológicas para permitir esta forma de tecnología, más allá del componente tácito de los beneficios. Pero esto debe equilibrarse “con el derecho a la privacidad y algunas de las otras cuestiones que surgen en este caso”, dijo Koenig.
