Hemos recibido una nota de prensa por parte de Intel, os la dejamos a continuación:
Preparando el camino para proporcionar unas carreteras más seguras para todos
El modelo de Seguridad Sensible a la Responsabilidad pone de manifiesto la necesidad de unos estándares para determinar la culpabilidad y la mejora de la seguridad de los vehículos para impulsar el sector de la conducción autónoma
Éste es el segundo artículo en una serie de documentos redactados por Amnon Shashua para explicar el modelo matemático para vehículos autónomos (AV) de Mobileye, una compañía de Intel. Shashua piensa que, para que el sector de los AV pase de ser un experimento científico para convertirse en un elemento de uso generalizado, el sector de la automoción debe demostrar la seguridad de su tecnología. El plan de Mobileye indica la necesidad de los estándares para la determinación de culpabilidad en los accidentes y la mejora de la seguridad de los vehículos para impulsar el sector.
El profesor Amnon Shashua es Viceresidente Senior de Intel Corporation y CTO de Mobileye, una compañía de Intel. (Credit: Intel Corporation)
Por Amnon Shashua
Hemos elaborado el modelo de Seguridad Sensible a la Responsabilidad (Responsibility-Sensitive Safety, RSS) como un catalizador para impulsar los debates en el sector entre los diferentes grupos participantes, fabricantes de automóviles y organismos reguladores. Desde su publicación, mis colegas autores y yo hemos recibido numerosas respuestas positivas, pero también hemos planteado algunas preguntas importantes, algo que era nuestro objetivo desde el inicio de este proyecto.
Una línea esencial de preguntas se centra en la idea que afirma que, en las decisiones humanas, intervienen consideraciones legales, de seguridad y culturales, mientras que el modelo RSS parece centrarse únicamente en el aspecto legal. La idea que afirma que el modelo RSS ha sido diseñado para hacer los fabricantes inmunes a cualquier responsabilidad es un malentendido que exige más explicaciones.
Matemáticas sin valores morales: El modelo RSS formaliza los dilemas relacionados con la conducción
Comencemos reiterando qué es el modelo RSS. El modelo RSS formaliza el sentido común de las decisiones humanas en un completo conjunto de situaciones en la carretera, estableciendo unas definiciones claras sobre el significado de la conducción segura en comparación con la conducción temeraria. Con los conductores humanos, la interpretación de la responsabilidad en colisiones y en otros incidentes puede encontrarse sujeta a una cierta imprecisión. Un error del conductor o, más concretamente, su culpabilidad, se aplica basándose en una información imperfecta o en otros factores interpretados después del hecho. Con las máquinas, las definiciones pueden ser formales y matemáticas: las máquinas tienen una información muy precisa sobre el entorno que les rodea, siempre saben sus tiempos de reacción y el poder del frenado, y nunca se distraen o dañan. Con las máquinas, no necesitamos interpretar las reacciones después del hecho: podemos programarlas para seguir un patrón determinado, siempre que tengamos los medios para formalizar dichos patrones.
Más información Conducción Autónoma de Intel (Dossier de Prensa) | Mobileye (Noticias) | “Un Plan para el Desarrollo de Vehículos Autónomos. Y para Probarlo” (documento de Shashua y Shalev-Shwartz) | Podemos Diseñar Vehículos Autónomos que no Causan Accidentes (The Hill Op-Ed)
En su pieza central, el modelo RSS ha sido creado para formalizar y contextualizar los dilemas actuales relacionados con la conducción, como los conceptos de la distancia de seguridad y los espacios seguros a la hora de incorporarnos a otros vehículos, la persona que realiza las acciones y, por lo tanto, la responsabilidad de mantener una distancia de seguridad, así como el derecho de prioridad que podemos incorporar en el modelo, la definición de conducción segura con detección limitada (por ejemplo, cuando los usuarios se encuentran escondidos detrás de edificios o en coches aparcados y pueden aparecer de repente), etc. Claramente, las decisiones humanas incluyen la capacidad para evitar accidentes y no solo para evitar la culpabilidad. El modelo RSS intenta establecer una base formal que pone dentro del contexto de la conducción todos los aspectos del enjuiciamiento humano, creando un “sello de seguridad” formal para los vehículos autónomos.
RSS = Menos accidentes en las carreteras
Seguiremos indicando lo que no es el modelo RSS. El modelo RSS no permite a los vehículos autónomos (AV) realizar juicios –incluso cuando el AV tenga preferencia– para causar un choque. Por otra parte, el RSS no permite a un AV realizar una maniobra ilegal, por ejemplo, cruzar una línea continua para evitar una colisión, o esquivar un vehículo aparcado en doble fila para evitar un peligro. Tampoco permite que un AV realice acciones peligrosas que podrían poner en riesgo al vehículo y causar una colisión de forma independiente.
El modelo RSS no permite a un AV evitar un accidente para causar otro potencialmente más grave. En otras palabras, para evitar una colisión causada por un conductor humano, el modelo RSS permite al AV realizar una acción (incluyendo la infracción de una norma de tráfico) si esta acción no causa un accidente por separado. Esta restricción es apropiada, porque el juicio de la gravedad de un accidente es algo subjetivo y podría dejar de lado unas variables ocultas y esenciales, como las de un bebé en la parte de atrás de un vehículo del accidente aparentemente “menos grave”.
Sin embargo, si la sociedad desea permitir evitar una solución causando otra, se puede añadir dicho escenario bajo ciertas condiciones a la fórmula del modelo RSS bajo una idea de “transitividad de la culpa”, en donde la responsabilidad del conjunto completo de incidentes podría asignarse a la persona que inició la cadena de eventos. Elegimos no incluir esta posibilidad en nuestro modelo, pero puede realizarse si fuera necesario.
La idea de sentido común de que “la prioridad se da, no se toma” también forma parte de las formalidades del modelo RSS. Podemos tener en cuenta el ejemplo de un vehículo que pasa por un cruce: una luz verde proporciona una prioridad al vehículo que cruza, pero hay otro automóvil bloqueando el cruce (cuando, por ejemplo, el otro vehículo pasa el semáforo en rojo). En este caso, el modelo RSS no proporciona al AV prioridad para colisionar contra el vehículo que boquea el paso. El AV tendría la culpa bajo el modelo RSS .
Un estado mental basado en software
Lógicamente, para estar en un lugar ideal para criticar el modelo RSS, necesitas encontrarte en el escenario del accidente, en donde la determinación de la culpa a través del modelo RSS discrepa del “sentido común” humano. No hemos encontrado un escenario de este tipo, incluyo después de revisar a fondo el estudio sobre tipologías de colisiones de la Highway Traffic Safety Administration, con 6 millones de colisiones agrupadas en 37 escenarios que abarcan el 99,4 % de todos los golpes. Todas se adjuntan al modelo RSS y publicaremos el análisis dentro del suministro abierto constate del modelo RSS.
Con el tiempo, a medida que colaboremos con otras empresas del sector, con organismos encargados de la elaboración de estándares y con reguladores, descubriremos seguramente más escenarios, los incorporaremos al modelo RSS y, si fuese necesario, actualizaremos el modelo – de la misma forma que, a veces las decisiones humanas necesitan una actualización.
Asimismo, necesitamos convencer al sector de que el software siempre puede tomar las decisiones más seguras. En su punto central, para que un modelo sea útil, debemos demostrar que es posible programar un software que nunca causa accidentes pero que, al mismo tiempo, mantiene un flujo normal de tráfico.
Esto puede parecer difícilmente trivial. Necesitamos probar que el modelo no sufre el “efecto mariposa”, en donde una acción aparentemente inocente puede desencadenar una cadena de acciones para provocar un evento catastrófico. Por ejemplo, imagina un escenario en donde una incorporación agresiva causa que el coche de atrás frene, pasando a otro carril y causando una colisión.
El peligro se encuentra en los detalles
Hemos publicado el modelo RSS para suscitar debate, diálogo y exploración – todas ellas rutas esenciales para obtener una solución apropiada. La triste realidad es que no hay en la actualidad alternativas apropiadas al modelo RSS. Por ello, en ausencia de un modelo claro, ¿qué puede hacer el sector? ¿Volver sencillamente a una postura de “buenas prácticas”? Esto podría degenerar en una posición del tipo: “mi AV tiene más sensores que el tuyo” o un “mi programa de pruebas incluye más kilómetros que el tuyo”. Estas declaraciones impulsadas por datos cuantitativos pueden proteger a los desarrolladores de AV en un mundo sin un modelo claro para evaluar la seguridad, pero no garantizan la seguridad. Lo peor es que nos llevará al diseño de unos AV demasiado elaborados y muy caros como para ofrecer un transporte flexible, asequible, ultra seguro y bajo demanda para el público en general y para las personas con menos recursos – las personas de edad avanzada y la población con discapacidad, por ejemplo –, quienes podrían obtener mayores beneficios con estas iniciativas.
No es suficiente tan solo la incorporación del modelo RSS en nuestra tecnología de AV. Para garantizar una auténtica seguridad, precisamos transparencia y la aceptación por parte de la sociedad sobre cómo vamos a incorporar el enjuiciamiento humano en la toma de decisiones de los AV. Pensamos que la seguridad – en términos de colisiones causadas por AV indebidamente diseñados – puede mejorarse en gran medida en comparación con los vehículos conducidos por seres humanos.
Para preparar el terreno para un despliegue con éxito de los AV, necesitamos aclarar una serie de asuntos, que van mucho más allá de las innovaciones técnicas o las comparaciones de los productos de diferentes compañías. Damos estos pasos en un intento para impulsar el sector, reconociendo que hay una necesidad definitiva de formalizar las reglas de las decisiones, la responsabilidad y la culpa, para proporcionar una gran cantidad de beneficios a la sociedad. Lejos del diseño de un sistema para evitar la responsabilidad, el modelo RSS es un modelo innovador que tiene como objetivo permitir a los AV circular por las carreteras cumpliendo con los más altos estándares de seguridad.
Deseamos fomentar un diálogo sobre estos temas, por lo que sugerimos que nos mandes tus preguntas y comentarios a autonomousdriving@intel.com. No vamos a lograr solos los objetivos establecidos, y, para obtener éxito en la conducción autónoma, precisamos la colaboración de todo un ecosistema para llevar al mercado los experimentos científicos.
Amnon Shashua es vicepresidente primero en Intel Corporation y CEO y CTO de Mobileye, una compañía de Intel.
