Tras el telón: las estadísticas infladas de Tesla y sus demostraciones de competencia impulsada por IA

Segunda de dos partes
Parte uno

Mientras los empleados de Tesla veían videos de los errores del FSD, la junta directiva y el CEO de la empresa intensificaron sus afirmaciones sobre la seguridad de la tecnología y su preparación para la autonomía total. Durante gran parte del año pasado, los líderes de Tesla promovieron la afirmación de que era 10 veces más seguro.

"Un coche con FSD que sea 10 veces más seguro" impulsará las ventas, dijo el CFO de Tesla, Taneja, en una conferencia de resultados de julio. "Incluso a 99 dólares al mes, es como tener un chófer personal por casi 3,33 dólares al día."

Un problema clave con la metodología de Tesla proviene de un error de comparación que infló el nivel de seguridad declarado por Tesla en un factor de tres. El fabricante de automóviles contabilizó los accidentes de Tesla con despliegue de airbags y los comparó con datos federales sobre todos los accidentes en los que una grúa retiró un vehículo, un criterio mucho menos restrictivo. Los accidentes que requieren grúas a menudo no son lo suficientemente graves como para activar los airbags.

Tesla adoptó este enfoque de comparar peras con manzanas aunque las manzanas estaban fácilmente disponibles para la comparación: los datos federales que utilizó incluían accidentes en los que se desplegaron los airbags. Esta metodología defectuosa produjo el hallazgo de que los Tesla que usan FSD o Autopilot recorren 10 veces más kilómetros entre accidentes que el conductor humano promedio.

La comparación más válida, usando accidentes con airbags desplegados tanto para los Tesla como para todos los demás automóviles, revela que los Tesla que usan los sistemas de asistencia al conductor recorren aproximadamente tres veces más distancia entre accidentes con airbags desplegados, según un análisis realizado para Reuters por Marco Benedetti, científico investigador asistente del Instituto de Investigación de Transporte de la Universidad de Michigan y ex estadístico de la NHTSA. Otros dos investigadores de seguridad vial verificaron los cálculos de Benedetti y coincidieron con los hallazgos.

Pero eso no significa que FSD sea realmente tres veces más seguro que el conductor promedio, dijo Benedetti, debido a varias otras fallas en la metodología de Tesla.

Tesla modificó su enfoque en noviembre para incluir solo datos de vehículos que usan FSD y excluir los que usan Autopilot. La inclusión de Autopilot había aumentado los kilómetros reclamados por Tesla entre accidentes porque es un sistema menos sofisticado destinado únicamente a autopistas, donde los coches acumulan kilómetros y se accidentan con mucha menos frecuencia que en las calles urbanas. Sin embargo, la empresa continúa usando la comparación defectuosa de accidentes con airbags en su sitio web para afirmar que FSD es siete veces más seguro que el conductor humano promedio, o aproximadamente un 85% más seguro expresado como cambio porcentual.

Reuters encontró que varias otras mediciones defectuosas empleadas por Tesla generan dudas sobre si FSD es más seguro en absoluto.

El fabricante de automóviles, por ejemplo, no considera la antigüedad del vehículo al comparar la tasa de accidentes de sus coches con la tasa nacional. Tesla compara sus vehículos, que tienen solo 4,1 años de antigüedad en promedio, según datos de S&P Global Mobility, con todos los vehículos de EE. UU., que tienen una antigüedad promedio de 12,8 años. Eso distorsiona los resultados, dijeron 10 investigadores de seguridad a Reuters, porque casi todos los fabricantes de automóviles han comenzado a ofrecer recientemente características de seguridad revolucionarias, incluidos el monitoreo de punto ciego y el frenado de emergencia automático, en toda su gama.

Tesla también reduce su recuento de accidentes contando solo los siniestros que ocurren con FSD activado o dentro de los cinco segundos posteriores a que la función se desactiva. El gobierno de EE. UU., por el contrario, exige a los fabricantes de automóviles que reporten accidentes ocurridos dentro de los 30 segundos posteriores a la desactivación de un sistema avanzado de asistencia al conductor.

Tesla afirma que FSD podría salvar más de 32.000 vidas y prevenir más de 1,9 millones de lesiones anuales. Algunos investigadores de seguridad vial calificaron esas cifras de carentes de sentido porque se basan en la suposición poco realista de que todos los vehículos de EE. UU., incluidos los camiones de carga y las motocicletas propensas a accidentes, serían reemplazados por un Tesla con FSD, y que cada Tesla es, de hecho, al menos siete veces más seguro que el que reemplaza.

El enfoque más riguroso de Waymo

La premisa de las estadísticas de seguridad de Tesla también es defectuosa porque FSD no es un sistema verdaderamente autónomo, dijeron 10 investigadores de seguridad vial. Tesla no está comparando su tecnología con conductores humanos, como dicen los ejecutivos. En cambio, el fabricante de automóviles está comparando al conductor humano promedio con otro humano promedio, uno que conduce un Tesla usando FSD. Tesla tampoco tiene en cuenta que estos conductores pueden activar y desactivar FSD, y las investigaciones muestran que los conductores a menudo evitan usar sistemas avanzados de asistencia al conductor en situaciones de tráfico complicadas donde la tecnología les parece insegura. Los propios datos de Tesla muestran que FSD se usa principalmente en autopistas.

Waymo, de Alphabet, por el contrario, compara sus robotaxis totalmente sin conductor, ahora desplegados en 11 áreas metropolitanas de EE. UU., con vehículos conducidos por humanos en condiciones similares.

Waymo adopta un enfoque más riguroso que Tesla, examinando datos de accidentes en los mercados donde opera y ajustando según los tipos de carreteras y vecindarios que recorren sus robotaxis. Waymo se centra en tasas de accidentes específicas, como las que implican despliegue de airbags o lesiones graves, tanto para sus coches como para los conducidos por humanos en los mismos mercados.

"Tenemos que ser muy cuidadosos con el lenguaje que usamos", dijo John Scanlon, investigador de seguridad de Waymo. "Necesitas preguntas de investigación muy específicas y conclusiones muy específicas."

Waymo también señala las deficiencias en sus datos y colabora con investigadores externos para publicar sus estadísticas de seguridad en revistas revisadas por pares. Tesla, por el contrario, no busca revisión por pares y publica solo afirmaciones estadísticas de seguridad de alto nivel, mientras mantiene en secreto los datos subyacentes de accidentes de los Tesla.

Videos de Tesla atropellando perros, gatos y ciervos

Dentro de Tesla, los etiquetadores de datos tienen una visión sin filtros de la seguridad del FSD. Tres exempleados describieron varios videos que muestran a Tesla fallando en reconocer animales y golpeándolos a gran velocidad, sin frenar.

Cinco exempleados dijeron que equipos específicos se centraron en los problemas de FSD para reconocer autobuses escolares. Esa es una preocupación planteada por un grupo de seguridad tecnológica llamado Dawn Project, que emitió anuncios durante los Super Bowls de 2023 y 2024 mostrando videos de Tesla con FSD activado que no lograban detenerse ante autobuses con señales de stop y luces intermitentes.

Dos exempleados dijeron que vieron clips de video similares dentro de Tesla.

Cinco exetiquetadores de datos describieron un entorno de trabajo agitado y desarticulado, con prioridades que cambiaban según las directivas de Musk y los ingenieros de FSD. La unidad de etiquetado de datos luchó con una rotación crónica debido al trabajo monótono y el salario generalmente bajo, dijeron.

Los superiores de Tesla a menudo lanzaban nuevos proyectos en reacción a noticias periodísticas o publicaciones en redes sociales que mostraban errores del FSD, dijeron cuatro exempleados. Uno describió un esfuerzo para abordar cómo la luz solar podría oscurecer las cámaras exteriores de los coches. Eso fue motivado por un video en redes sociales que mostraba cómo el reflejo de la luz en el reloj de un pasajero cegó una de las cámaras, apagando el FSD. Otro esfuerzo sobre los cruces de ferrocarril siguió a noticias sobre Tesla con FSD que no lograban detenerse en ellos.

Los clips de FSD también mostraban regularmente exceso de velocidad, dijeron cinco de los empleados, lo que los ingenieros y otros más arriba en la cadena trataban como un problema de baja prioridad.

Un empleado dijo que los etiquetadores vieron a Tesla superando regularmente los límites de velocidad entre 20 y 30 millas por hora después de que el fabricante introdujera un modo FSD "Mad Max" que permitía una conducción más agresiva. Otro etiquetador informó haber visto un vehículo pilotado por FSD circulando a 60 mph en una zona de 25 mph.

Presentaciones públicas de robotaxis

Mientras los empleados de Tesla luchaban por entrenar el FSD, Musk presentó las capacidades de conducción autónoma de Tesla en octubre de 2024 en una vistosa presentación de robotaxi en el lote de estudios de Warner Bros. cerca de Los Ángeles. La multitud, solo por invitación, vitoreó mientras Musk señalaba unos 20 prototipos del "Cybercab" de dos puertas, que no tiene volante ni pedales, circulando por el estudio.

"Los coches solo pasan, sin personas", dijo.

Musk ha dicho que el software de Tesla está diseñado para funcionar en cualquier lugar, navegando por paisajes desconocidos en tiempo real. Pero durante las semanas previas al evento del Cybercab, el personal probó los prototipos todas las noches de las 18:00 hasta el amanecer, recopilando video de la ruta que seguirían los coches en el lanzamiento, según dos exempleados de etiquetado de datos. Los etiquetadores pasaron cientos de horas anotando bordillos y marcas viales en el video para evitar incidentes embarazosos, dijeron los empleados.

Waymo realiza ese mapeo a gran escala antes de lanzarse en ciudades específicas, un enfoque que Musk ha descartado repetidamente por ser demasiado costoso y lento. En 2024, Musk ridiculizó las "soluciones muy localizadas" de Waymo como "bastante frágiles".

Tras el evento de Warner Bros., Musk declaró en una conferencia de resultados de enero de 2025 que Tesla lanzaría robotaxis en junio de 2025 en Austin. Promocionó la tecnología como una "solución de IA generalizada" que no requería "mapas de alta precisión de una localidad".

Sin embargo, durante meses antes del lanzamiento en Austin, Tesla filmó extensamente características en una zona limitada de robotaxi para mapear el área, captando semáforos, señales de tráfico y otras características. Los etiquetadores de datos anotaron ese video para garantizar que el software pudiera manejar escenarios desafiantes, incluida la recogida de pasajeros y la respuesta a vehículos de emergencia, según dos empleados con conocimiento directo del asunto.

El personal de etiquetado de datos de Utah, dijeron tres de los empleados, se duplicó en el semestre anterior al lanzamiento de Austin hasta llegar a unos 300 trabajadores. El departamento, dijeron, trabajó principalmente en proyectos para que la prueba de Austin, cuidadosamente controlada, saliera bien.

Cuando los etiquetadores de datos de Tesla se preparaban para el lanzamiento, el software seguía siendo errático, dijeron dos de los empleados. Con cada actualización de FSD, algunos comportamientos de conducción mejoraban. Otros empeoraban. En la oficina de Utah, dos grandes pantallas mostraban estadísticas sobre los kilómetros entre las intervenciones del conductor para FSD, una métrica clave de seguridad en la conducción autónoma.

"Subía y bajaba como el mercado de valores" sin ninguna mejora consistente, dijo uno de los exempleados.

Los vehículos salieron a las calles con dos conjuntos de monitores de seguridad humanos disponibles para tomar el control: uno sentado en el asiento delantero del pasajero y otros observando de forma remota. En Utah, los etiquetadores podían ver en los videos cuándo los monitores remotos tomaban el control de los vehículos. Un exempleado dijo que las rutas de Austin estaban diseñadas para un área limitada para que el software de los coches pudiera entrenarse extensamente en maniobras específicas en calles particulares.

"Era como, 'OK, entrenamos un coche'" para operar en una zona restringida, dijo la persona. "No puedes ser creativo fuera de eso."

Cuatro de las fuentes dijeron que escalar de forma segura podría llevar años. En julio, un mes después del lanzamiento del robotaxi en Austin, Musk predijo que el servicio se expandiría para servir a la mitad de la población de EE. UU. para finales de 2025.

En enero, Musk afirmó falsamente que Tesla operaba 500 "vehículos robotaxi" en Austin y el Área de la Bahía de San Francisco, añadiendo que esperaba que eso "se duplicara cada mes" en una "curva exponencial". Musk ha dicho que Tesla opera un "servicio de robotaxi" en el Área de la Bahía cuando, de hecho, solo opera un servicio de transporte bajo un permiso estatal, típicamente utilizado por chóferes, que requiere un conductor humano.

En realidad, casi un año después del lanzamiento en Austin, Tesla todavía opera solo unos 50 robotaxis allí, según una presentación reciente de diapositivas de funcionarios de la ciudad. Los vehículos recorren una zona limitada y cuidadosamente mapeada, dijeron tres de las fuentes. Algunos todavía tienen monitores de seguridad humanos en el asiento delantero del pasajero, según observaciones recientes de un reportero de Reuters.

En abril, Tesla dijo que estaba lanzando robotaxis en Dallas y Houston, junto con mapas que muestran las áreas de servicio.

Los reporteros de Reuters que recientemente probaron el servicio en ambas ciudades encontraron largos tiempos de espera y disponibilidad errática. En tres ocasiones en que un reportero logró conseguir un viaje en Dallas, el robotaxi no lo dejó en su destino en el centro de la ciudad dentro del área de servicio anunciada por Tesla.

Cada vez, lo dejó a unos 15 minutos a pie. – Rappler.com