Diario de análisis, reflexión y valores   

 

Coches autónomos: la ética y el derecho, principales claves de su avance e implantación

El accidente mortal provocado por un coche autónomo en pruebas de Uber en Tempe (Arizona) aviva los interrogantes éticos y legales acerca de la inteligencia artificial y su aplicación a tecnologías tradicionalmente accionadas y dirigidas por las personas.

Los denominados coches autónomos o “inteligentes” han vuelto a ser noticia estos últimos días, no por sus continuos y emocionantes avances, punta de lanza del desarrollo de la inteligencia artificial, sino por un desgraciado acontecimiento: el atropello de un peatón en Tempe (Arizona, EE.UU.), segunda víctima mortal de esta tecnología emergente por la que Uber, empresa internacional más conocida por su servicio de transporte privado en todo el mundo, apuesta como valor alternativo y futuro de su servicio, y con la que hace pruebas en Phoenix, Pittsburgh, San Francisco y Toronto, ciudades en las que, tras el accidente, se han suspendido todos los ensayos.

La desaparición de los taxis es cuestión de tiempo . La competencia lo transforma todo

La víctima, una mujer que cruzaba por una carretera poco iluminada junto a su bicicleta, prácticamente a oscuras, fue arrollada por el coche, que pese a que sí detectó la presencia de la viandante 0,9 segundos antes del impacto, cuando el vehículo se encontraba a poco más de 15 metros, no frenó ni desaceleró, impactando a una velocidad de 48 km/h.

Esta diferenciación es importante tanto de cara a la investigación como para entender realmente el funcionamiento de esta tecnología, que no solo implica las modificaciones del coche para la instalación de sensores y cámaras, hardware para su autonomía implementado, en este caso, por Uber, sino que incluye además el uso de software avanzado de inteligencia artificial para la toma de decisiones autónomas por parte del automóvil. Con todo, Cortica, la compañía desarrolladora de programas para el reconocimiento informático de imágenes, deberá responder también de las acusaciones derivadas de la tragedia.

Inteligencia Artificial . Retos e interrogantes de esta tecnología, más allá de las exageraciones

El Departamento de Policía de la ciudad ha hecho público un extracto de la grabación en el que se puede apreciar la vista exterior e interior del vehículo en el momento del accidente, un vídeo que, al margen de permitirnos percibir el horror del conductor de seguridad (no conductor), que en ese momento supervisaba las maniobras del vehículo, y conmocionar a la opinión pública, aporta poco o nada a un debate tan antiguo como el desarrollo mismo de la autonomía de estos coches.

Un debate que incluye preguntas muy sugerentes con respuestas dificilísimas, basadas en cuestiones legales y éticas de gran calado, pero cuya solución es clave para el avance final y establecimiento de esta tecnología como el nuevo estándar de conducción. La llave que abrirá la cerradura del éxito para los coches autónomos a nivel global no está en la técnica desplegada, tampoco en su aceptación social; está en las directrices morales adoptadas y su regulación normativa.

Una sucesión de dilemas éticos

Una de las claves para comprender lo sucedido y terminar de centrar el debate reside en el funcionamiento de los coches autónomos y las condiciones a las que están sometidas sus mejoras. A excepción de Waymo, propiedad de Alphabet Inc. (matriz de la conocida Google), que sí ha desarrollado un coche al efecto, y Tesla, que está probando sistemas de inteligencia artificial en sus propios modelos, los automóviles con los que la mayoría de las empresas tecnológicas desarrollan sus ensayos son coches tradicionales (normalmente Toyota Prius o Lexus) modificados para albergar las herramientas de detección y reacción necesarias para dar autonomía al coche.

Estas herramientas son, en su generalidad, cuatro: sensores LIDAR (Laser Imaging Detection and Ranging) sobre la cubierta y en el frontal, que detectan los objetos que rodean al vehículo y su movimiento; cámaras de vídeo, que complementan la función de los sensores “leyendo” información, por ejemplo, de los avisos contenidos en la señalética urbana y carreteras, como los límites de velocidad o vías cortadas; y una computadora en el maletero, normalmente con la potencia de ocho ordenadores de gran nivel de procesamiento juntos. Los sensores y cámaras derivan toda la información recibida, en tiempo real y a gran velocidad, al ordenador de a bordo, que interpreta las imágenes y emite órdenes en consecuencia, teniendo en cuenta un cuarto dispositivo, el sistema de navegación GPS/WiFi, para seguir la ruta correcta y más adecuada.

Fuente: Waymo, proyecto de desarrollo de coches autónomos de Alphabet Inc., empresa matriz de, entre otras, Google | ¿Qué ve un coche? En este vídeo en 360º podemos apreciar el funcionamiento de los sensores LIDAR y la realidad percibida por los mismos.

Los ajustes, mejoras y avances de estas herramientas solo son posibles probando los vehículos en circunstancias reales, dentro y fuera del laboratorio, para que el ordenador registre el mayor número posible de situaciones y los programadores puedan configurar sus reacciones. En este sentido, la inteligencia artificial “aprende” como lo haría un niño, a base de ensayo y error, con la diferencia de que la máquina no posee sentido común ni capacidad real o total de analogía, y hay que someterla a todas las combinaciones posibles de ensayo y error.

Todo planteamiento que no haya sido considerado por el programador en las líneas de código generará un error, normalmente asociado por la máquina a un protocolo de seguridad que emite la orden de parada, si bien siempre existe margen de equívoco, la posibilidad de que la máquina malinterprete la situación y no reconozca lo inesperado, o registre lo inesperado como una circunstancia normal, y ahí es cuando se produce el accidente, la consiguiente investigación y comienzan los interrogantes, sobre todo cuando cada herramienta ha sido desarrollada por un fabricante distinto: ¿fue culpa del ordenador de a bordo, fueron los sensores LIDAR, las cámaras o el sistema de navegación? En el futuro, en situaciones reales con conductores reales, estas preguntas podrían multiplicarse: el responsable del accidente provocado por el coche, ¿es la marca del automóvil en cuestión o el propietario del vehículo a razón de su adquisición?

Y los interrogantes vuelven a multiplicarse exponencialmente en caso de entrar en detalles. Si el coche detecta la inminencia del desastre, y en caso de tener que elegir, ¿debe proteger la vida de su propietario o de la persona que va a arrollar? Y si hubiera más ocupantes en el coche y esos ocupantes fueran niños, ¿debería salvar a los pasajeros o a los viandantes que cruzan en ese momento y entre los que, por cierto, se cuentan dos ancianos? ¿Debe diferenciar por edades, por sexo, debe emitir en tiempo real un juicio sobre la culpabilidad de los agentes involucrados en el accidente antes de que se produzca? Estos y otros muchos dilemas éticos relativos a los coches autónomos son planteados por la plataforma Moral Machine del Massachusett Institute for Technology (MIT), que está construyendo su propia base de datos con las prioridades éticas aportadas por usuarios de todo el mundo.

Los automóviles inteligentes aumentan la velocidad de percepción del entorno, lo que supuestamente supone mayor seguridad de circulación… ¿para quién? Lo que antes era fruto del azar de la vida, ahora puede ser controlado, pero todavía no hemos resuelto quién establece las complejas reglas del juego. ¿Serán las marcas las que establezcan cada una de ellas la “política moral” a seguir, serán los gobiernos de cada país los encargados de impartir las directrices o se creará una normativa internacional vinculante? La nueva situación ofrece tantas fórmulas como variables presenta el problema.

Accidentes, preguntas y problemas de los que sí se derivan tres conclusiones fehacientes: primero, que la comercialización internacional de coches autónomos está lejos de ser una realidad a corto plazo; segundo, que los avances deben efectuarse bajo las condiciones de un cambio tecnológico incremental, nunca radical, para salvaguardar la seguridad; último, y más importante, que esta carrera desenfrenada por conquistar el mercado de los coches autónomos deben encabezarla la ética y el derecho o, dicho de otra manera, las humanidades deben liderar el cambio tecnológico.

Imagen de portada: Uno de los modelos de coches autónomos de la marca Tesla | Tesla.com
Escrito por

Director de eldebatedehoy.es, doctor en Comunicación Social y profesor de la CEU USP

...

Deja tu comentario

Simple Share Buttons
Simple Share Buttons