Primero he de aclarar que los coches autónomos no existen aún. Lo que existe es un control de crucero avanzado, que puede recibir muchos nombres, pero no debe confundirse con coche autónomo.
Accidentes
La muerte de un chofer que usaba el autopiloto de Tesla y un choque en China, ¿fue culpa del coche, o un error entre silla y volante? Esto es como si Juan le hablara a Pedro, Juan dice todo bien, y Pedro escucha todo, pero Pedro no entiende lo que dice porque hablan idiomas distintos. ¿De quien es la culpa?
Al conducir millón y medio de kilómetros, los coches de Google reportan 17 accidentes. 16 accidentes fueron causados por error humano de otros conductores, pero el accidente restante obedeció a la falta de habilidad social del coche. El coche encontró un obstáculo y trató de evadirlo, cambiando de carril. El coche asumió que el conductor del bus le daría campo, y el chofer de bus asumió que el coche esperaría a que pasara. Ocurre entonces la convergencia de los dos en el mismo lugar, un accidente. Esencialmente el coche de Google no pudo adivinar la intención del otro conductor. Hay un problema de interpretar intenciones de otros.
Lo que hace (y no hace) la tecnología
El contacto visual entre conductores es relevante, según los estudios de Anne Böckler (Max Planck Institute for Human Cognitive and Brain Sciences), Robrecht P. R. D. van der Wel (Rutgers University), y Timothy N. Welsh (University of Toronto). Según Clifford Nass de Stanford University, El ordenador puede automatizar la percepción, pero no estar "consciente de la situación" alrededor. Significa saber "qué ocurre" para definir "qué hacer". Esto implica:
- Obtener información relevante
- identificar el significado que tiene para el individuo
- Establecer la acción a seguir
Los desarrolladores enfatizan demasiado la percepción e ignoran la importancia de modelos mentales. Las computadoras pueden confundir señales, y ese es un problema social de la tecnología. Y además pueden sufrir "ilusiones ópticas", algo en lo que los magos son expertos.
Esto sugiere que el coche con autopiloto puede saber ver obstáculos, pero no entender la situación. Sólo mira lo que hace la tecnología, y lo verás:
- Maximizar la capacidad de ver
- Hacer visible al chofer lo que hace el ordenador
- Control "manos libres"
- Frenado con computadora que evita que las ruedas se detengan.
- Software para estabilizar el coche.
El peligro para el chofer:
- El chofer pone menos atención porque se empieza a sentir como pasajero. Ve pero ya no observa.
- El chofer no se da cuenta de que presta menos atención al camino.
- El chofer no ve la importancia de pagar por estar más seguro.
- No está claro lo que tú debes hacer y lo que el coche va a hacer, si los dos están conduciendo.
- No sabes de qué, cuando y cómo se preocupa la máquina, y por ende no sabes cubrir la diferencia.
- El momento y las circunstancias de pasar de control automático a control manual. me refiero a condición exterior del coche y condición interior del conductor (somnolencia, sueño)
- Estamos acostumbrados a ser alumno (pasajero) o maestro (chofer), pero no a tener a un ordenador haciendo de los dos al mismo tiempo. y eso va contra los modelos mentales que tenemos. ¿Cómo evitar la interferencia?
- Como pasajero puedes soñar e imaginar y pensar. Como conductor debes estar atento al momento presente y la realidad exterior. ¿Es posible hacer ambas o cambiar de una a otra con facilidad?
- Tenemos un problema con las distracciones y falta de atención en humanos, asi como habilidades disminuidas (sueño, borrachera, imprudencia) y en los ordenadores hay falta de entendimiento de la situación exterior, y la relevancia de cada cosa.
- ¿Debe el software adaptarse a los modelos menatles humanos o debe ocurrir al revés?
Dilema ético
Y si un choque es inevitable, ¿qué dice la ética acerca de lo que un coche con ordenador debe hacer? Eso crea un dilema casi de corte filosófico. Implementar las leyes de la robótica de Isaac Asimov parece la ruta correcta, pero esa ruta es filosófica, y asume que los dilemas éticos implicados se han resuelto. Pero `para efectos de código, no tenemos todavía los elementos de programación o conocimiento para efectuarlo 100% a cabalidad. ¿Qué pasa si el coche debe escoger quién muere? ¿La gente afuera debe morir, o la gente en el interior del coche? MIT ha creado un sitio web The Moral Machine que trata de estudiar este tema.
El problema es que no es como el de aviones o buques, donde los accidentes ocurren por un error, no por algo que estaba programado para actuar de esa manera. lo que puede ser bueno en una situación, puede ser malo en otra. y el software no sabe la diferencia. ¿Cuál es el algoritmo que usas para conducir tu coche?
El problema del coche autónomo no reside en la tecnología, sino en la psicología. Por supuesto, el trabajo conjunto entre hombre y máquina hace las calles más seguras, porque el ser humano se cansa y se duerme, o sufre un problema de salud, o conduce borracho o simplemente de manera imprudente. ¿Te subirías a un coche sin conductor para ayudarle con su "machine learning"?
nuTonomy, una filial del MIT, se adelanta a Uber y lanza en Singapur el primer vehículo autónomo que se puede alquilar. No ha sido cosa de grandes. Ni Uber, ni Google, ni Microsoft han participado en la creación del primer taxi sin conductor del mundo. Este vehículo ha llegado de la mano de nuTonomy, una pequeña empresa filial del prestigioso MIT de Massachusetts (EE UU), que ha puesto en funcionamiento este jueves el primer coche autónomo al servicio de los usuarios - Empieza a circular el primer taxi sin conductor del mundo
Para que puedas confiar en el coche autónomo, todos los coches deberían conocer las intenciones de otros coches y transeuntes o incluso animales en la vía. Deberían estar en un ambiente controlado, pero sabemos que la calle no es un ambiente controlado. Mientras tanto, piensa en los videos de choferes soltando el volante como esos chicos que andan en bicicleta, que dicen "mira mamá, sin manos", y que piensan comprarse una motocicleta de carreras y luego hacer lo mismo. Ahora que comprendes la limitación de la tecnología, ¿qué harías tú?
