El desarrollador de Taser, Axon, dijo esta semana que está trabajando para construir drones armados con las armas eléctricas de aturdimiento que podrían volar en las escuelas y “ayudar a prevenir el próximo Uvalde, Sandy Hook o Columbine”. Pero sus propios asesores tecnológicos no tardaron en tachar la idea de fantasía peligrosa.
La empresa, que cotiza en bolsa y vende pistolas paralizantes y cámaras corporales para la policía, presentó el año pasado la idea de un nuevo producto de drones para la policía a su consejo de ética de inteligencia artificial, un grupo de expertos muy respetados en tecnología, policía y privacidad.
Algunos de ellos expresaron sus reservas acerca de la utilización de drones en comunidades de color excesivamente vigiladas. Pero no esperaban el anuncio del jueves de Axon de que quiere enviar esos drones equipados con pistolas Taser a las aulas para prevenir tiroteos masivos inmovilizando a un tirador intruso.
En una entrevista con The Associated Press, el fundador y director ejecutivo de Axon, Rick Smith, dijo que se sintió obligado a hacer pública la idea después del tiroteo masivo en una escuela primaria de Uvalde, Texas, diciendo que estaba “catastróficamente decepcionado” por la respuesta de la policía que no se movió para matar al sospechoso durante más de una hora.
Pero subrayó el viernes que no se había lanzado ningún producto y que cualquier posible lanzamiento sería más adelante. En su opinión, la idea debía compartirse ahora, debido a la conversación pública sobre las formas efectivas de que la policía se enfrente a los atacantes de forma segura y sobre cómo las escuelas pueden aumentar la seguridad.
“Esta es una idea que debe entrar en la conciencia del público mientras nuestras mentes están abiertas a ella y sentí que si espero otros seis meses, el mundo va a cambiar y la gente va a olvidar este dolor y vamos a ver un cambio en los sentimientos donde la gente va a centrarse mucho más en lo que podría salir mal, en lugar del dolor de este problema que tenemos que resolver”, dijo.
El precio de las acciones de Axon subió con la noticia. Pero el anuncio enfureció a los miembros del consejo de ética, algunos de los cuales probablemente renuncien en señal de protesta.
“Esta idea en particular es una locura”, dijo Barry Friedman, un profesor de derecho de la Universidad de Nueva York que forma parte de la Junta de Ética de Axon AI. “Los drones no pueden volar a través de puertas cerradas. Las propiedades físicas del universo siguen siendo válidas. Así que, a menos que tengas un dron en cada aula de Estados Unidos, lo que parece una locura, la idea simplemente no va a funcionar.”
Friedman dijo que era una “idea peligrosa y fantástica” que iba mucho más allá de la propuesta de un dron policial equipado con Taser que los miembros de la junta -algunos de ellos antiguos o actuales funcionarios de policía- habían estado debatiendo en los últimos meses.
“Le rogamos a la empresa que no lo hiciera”, dijo Friedman sobre el anuncio de la empresa. “Era innecesario y vergonzoso”.
La idea del producto había sido pateada en Axon desde al menos 2019 y la compañía ha estado trabajando para tratar de averiguar si un dron con una pistola eléctrica era incluso una idea factible. A lo largo del último año, la empresa creó renders artísticos generados por ordenador para hacer una maqueta del diseño del producto y realizó una prueba interna para ver si los dardos Taser -que transmiten una sacudida eléctrica inmovilizadora- podían dispararse desde un dron volador, dijo Smith. Añadió que había discutido la posibilidad de desarrollar un producto de este tipo con el comité de ética.
Los miembros del consejo que hablaron con The Associated Press dijeron que les sorprendió la propuesta del dron escolar -de la que se enteraron a principios de esta semana- y redactaron una declaración unánime de preocupación que describía la decisión de Axon como “profundamente lamentable.” La empresa tuiteó el desacuerdo de la junta directiva poco después de su propia declaración del jueves.
“No me sorprendería que hubiera dimisiones”, dijo otro miembro del consejo de ética, Ryan Calo, profesor de derecho de la Universidad de Washington. “Creo que todos los miembros de la junta tienen que tomar una decisión sobre si quieren seguir participando”.
Tanto Friedman como Calo describieron el proceso de esta semana como un giro brusco respecto a la relación respetuosa que los ejecutivos de Axon han tenido con la junta en los últimos años en temas controvertidos como el reconocimiento facial -que Axon decidió no utilizar en sus cámaras corporales- y los lectores automáticos de matrículas.
“A veces la empresa sigue nuestros consejos y a veces no”, dijo Friedman. “Lo importante es que eso ocurra después de un debate y una coordinación reflexivos. Eso se tiró por la ventana aquí”.
Smith dijo que la empresa todavía está en las primeras fases de desarrollo del producto y que seguiría consultando a la junta de ética, junto con los agentes de la ley, los líderes de la comunidad y los funcionarios escolares. Reconoció que la empresa podría determinar más adelante que la ideano es factible y abandonarlo.
Sin embargo, discrepó con la idea de que había ignorado las preocupaciones del consejo de ética, cuyo objetivo es proporcionar orientación y compartir opiniones. En última instancia, la decisión sigue recayendo en Smith como director ejecutivo de la empresa.
“No he ignorado lo que han dicho. La gente puede debatir y estar en desacuerdo”, dijo Smith. “Creo que hay una cosa que el mundo puede ver: nuestra junta directiva no es una calada”.
“Espero que no dimitan”, añadió. “Espero que se sientan algo orgullosos quizá después de esto de que tengamos este debate público”.
El viernes, en una charla de “Pregúntame lo que quieras” en el foro online Reddit. Smith reconoció que “los drones en las escuelas pueden parecer una locura”, pero pasó a responder a preguntas detalladas sobre ellos. Podrían viajar a través de los conductos de ventilación de las escuelas, dijo, y posarse en puertas y paredes cerca de los techos. Podría ser una “cosa buena” si un pistolero intentara derribar uno porque le distraería de intentar matar a la gente.
“Hacemos esto porque nos importa”, dijo Smith. “Somos un negocio, así que en última instancia tenemos que encontrar un modelo financiero que funcione, pero al final del día hemos tenido éxito porque nuestra misión impulsa nuestro negocio y resolvemos problemas que nos preocupan”, añadió.
Smith dijo a un usuario de Reddit que Axon “en absoluto” estaba tratando de capitalizar las tragedias recientes para atraer a los inversores. Señaló los desacuerdos de la junta consultiva, pero dijo que el tiroteo masivo en Uvalde, Texas – y lo que describió como propuestas equivocadas para armar a los maestros con armas – lo obligó a hacer pública la idea de los drones para dar cabida a una “gama mucho más amplia de voces.”