‘El curso de choque de Elon Musk’ expone los peligros de la función Autopilot de Tesla

Los Tesla son vehículos eléctricos elegantes, vanguardistas e inmensamente populares. Con sus elegantes exteriores, lujosos interiores y salpicaderos dominados por una única y enorme pantalla táctil, son preeminentes 21^st-de siglo. Sin embargo, aunque su factor sorpresa es innegable, su historial de seguridad y fiabilidad es más discutible, como demuestra el hecho de que la semana pasada Tesla retirara del mercado más de 130.000 coches debido a un nuevo fallo nada insignificante: el sistema de infoentretenimiento de a bordo tenía la costumbre de sobrecalentarse hasta un grado peligroso, lo que hacía que se desconectaran varias funciones básicas necesarias para su funcionamiento. Aunque lo único que se necesitaba era una actualización de software para arreglar el fallo, no era más que el último dolor de cabeza tecnológico de la empresa, que -según los informes que se crean- ha retirado del mercado entre una cuarta parte y la mitad de todos sus coches vendidos.

Eso es, digamos, no muy bueno. Y para mayor evidencia de que el argumento de venta de Elon Musk sobre los Teslas puede no alinearse totalmente con la realidad, ahora hay Elon Musk’s Crash Course, la última entrega de The New York Timesen FX. El documental, que se estrenará el 20 de mayo, se centra en la función Autopilot de Tesla, anunciada por primera vez por Musk en 2014. A finales de ese año, todos los coches nuevos de Tesla se fabricaban con el hardware necesario para el Autopilot, y su software inicial se puso en marcha en 2015. Le siguieron actualizaciones posteriores, siempre pregonadas por Musk como el inicio de un proceso que cambiaría el futuro de los viajes en automóvil. Año tras año, en un escenario tras otro, Musk proclamó que la conducción totalmente autónoma era nuestro destino, y que era inminente -en los clips que se muestran aquí, anuncia repetidamente que Tesla está aproximadamente “a dos años” de entregar un sistema que llevará a los pasajeros de sus casas a sus oficinas sin ninguna intervención humana.

El problema, por supuesto, es que esas promesas aún no se han hecho realidad, y de hecho han provocado, en varios casos, accidentes mortales.

Curso de choque de Elon Musk comienza con las llamadas al 911 del accidente de 2016 de Joshua Brown, de 40 años, cuyo Tesla Model S Sedan fue demolido cuando colisionó con un remolque de tractor que estaba girando hacia el tráfico en una carretera de Florida. En el momento del accidente, Brown tenía activada la función Autopilot, y no hay pruebas de que ni él ni el coche hicieran un intento de frenar o de tomar una acción de dirección evasiva. Las conclusiones posteriores achacaron este fatal accidente al hecho de que el Piloto Automático -que en aquel momento se basaba en una combinación de cámaras y radares, pero no en LiDAR, que es lo que emplean la mayoría de los demás fabricantes- no pudo diferenciar correctamente entre los camiones perpendiculares y los puentes; al confundir los primeros con los segundos, el coche siguió adelante, acabando así con la vida de Brown.

Como relatan los amigos en Elon Musk’s Crash CourseBrown era un militar al que le encantaba implementar y experimentar con nuevos dispositivos, por lo que su afición por el Autopilot de Tesla era una extensión natural de su visión global del mundo. Este tipo de fe en la capacidad de la tecnología para alterar los paradigmas globales es lo que motiva al propietario de Tesla, Kim Paquette, por ejemplo, a servir actualmente como uno de los conejillos de indias en pruebas reales de la compañía, conduciendo alrededor de Newport, Rhode Island, con Autopilot como medio para seguir perfeccionando el sistema. Sin embargo, también es una receta para el desastre, por lo que el ingeniero principal de proyectos de Tesla, JT Stukes, afirma que, aunque la muerte de Brown fue obviamente trágica, su reacción también fue que “iba a suceder.” Del mismo modo, el ex presidente de Tesla Jon McNeill admite que, al hablar del Autopilot con un ejecutivo de Big Pharma, se le advirtió sobre las inevitables muertes que se producirían con este tipo de experimentación, y que, a diferencia de lo que ocurre con los ensayos de medicamentos (que se espera que produzcan muertes), las pérdidas de vidas específicas del Autopilot serían mucho menos toleradas y mucho más escrutadas y condenadas públicamente.

Una investigación de la Junta Nacional de Seguridad en el Transporte (NTSB) sobre el accidente de Brown concluyó con recomendaciones de que el Autopilot no se utilizara en carreteras para las que no había sido diseñado, y que tenía que encontrar una mejor manera de determinar y facilitar el compromiso del conductor con el sistema, lo que significa, en efecto, que sus advertencias a los conductores de que tenían que volver a poner las manos en el volante, en lugar de jugar o ver películas, eran insuficientes. Según el documento, la posterior muerte en 2019 de Jeremy Banner en un accidente casi idéntico al de Brown sugiere que Tesla no hizo caso de esas advertencias. Por el contrario, el hecho de que desde entonces haya decidido prescindir del radar comocomponente de Autopilot en favor de confiar únicamente en las cámaras golpea a algunos de los presentados en Elon Musk’s Crash Course-incluyendo los periodistas del New York Times Cade Metz y Neal Boudette-como un síntoma del hábito de Musk de responder a las críticas y a los escépticos redoblando obstinadamente su misión.

Curso de choque de Elon Musk es una mirada minuciosa y agudamente editada de no ficción tanto al ascenso de Musk a la prominencia y el poder multimillonarios, como a la evolución de Autopilot, cuya función “Full Self Driving” está ahora ampliamente disponible. Además, a través de entrevistas con periodistas, antiguos empleados, miembros de la NTSB y consumidores, es un retrato de una función tecnológica que implica una cosa con su nombre, pero que ofrece algo mucho menos: concretamente, una serie de mejoras de asistencia al conductor que no son ni de lejos capaces de proporcionar la experiencia de manos libres que Musk pregona habitualmente en conferencias y en su querido Twitter. En pocas palabras, el documental de FX sostiene que Musk ha prometido de forma rutinaria y deliberada algo que no puede cumplir en la actualidad, siendo la cuestión que hay millones de propietarios de Tesla que pueden creer razonablemente que el Piloto Automático y la Conducción Automática Completa harán la dirección y el frenado por ellos, dando lugar a una peligrosa “complacencia de automatización”.

La cuestión más amplia planteada por Curso de Choque de Elon Musk es si Musk está poniendo en peligro vidas de forma cínica y/o imprudente para obtener un beneficio personal, o si tales riesgos -tanto a escala humana como social- son un coste necesario, aunque horrible, para el tipo de cambio transformador que busca. El jurado no se ha pronunciado al respecto, y es posible que siga sin hacerlo durante años (o décadas), dependiendo del tiempo que tarden los vehículos autónomos en adoptar realmente nuestras calles locales y carreteras interestatales. Piensa en esto The New York Times documental, pues, como una simple advertencia contra la compra de las grandiosas garantías que Musk está vendiendo actualmente, no sea que uno se convierta en una víctima de su revolución aún no asegurada.