Fernando Broncano R 9/3/22
Hace cuatro años, el 19 de marzo de 2018, ocurrió un accidente con un automóvil autónomo de Uber en una ciudad de Arizona. El Volvo Sub era "operado", por Rafaela Vásquez. Al salir del garaje puso el automático para circular por el barrio suburbano como había hecho 70 veces antes. A las 9:58, en su segunda vuelta al barrio, el automóvil detectó un vehículo a 300 mts y 5,6 sg. A los 2 sg el sistema identificó "bicicleta", a los 1,6 sg. decidió "otro" y articuló un plan para rodearlo y adelantarlo, pero decidió que no podía. A los 0,2 segundos para el impacto activó un sonido de alerta. Cuando Rafaela Vasquez tomó en sus manos el volante ya era tarde. Una mujer ciclista yacía en el asfacto. La operadora llamó a emergencias, pero no pudieron salvarla. La policía la detuvo y se inició un largo juicio que relata el artículo.
El caso abre uno de los problemas que son menos tratados en las cuestiones éticas sobre máquinas automáticas. Se discute la cuestión de la responsabilidad y si es la empresa, el seguro o la empresa de ingeniería. Pero aquí la que fue puesta como responsable era la trabajadora que estaba al cargo como operadora y que sabía que en las 70 veces anteriores la máquina era fiable. Podrá aducirse que ella podría haber mirado, pero lo cierto es que confiaba en que la máquina haría el giro oportuno.
Un famoso accidente de aviación, el del vuelo 5022 de Spanair en Barajas en agosto de 2008 ocurrió también por un fallo en los sistemas de alerta de despegue y también se acusó de fallo humano.
En ética de la ingeniería se suele proponer como exigencia la presencia humana como control último, pero la presencia humana suelen ser trabajadores sometidos a horarios, órdenes, protocolos y jerarquías que no son tenidos tan en cuenta como otros factores.
La ingeniería avanza, como nos contó el historiador Henry Petroski, a través de una senda de errores y accidentes. Pero una concepción de los sistemas que distingue las restricciones de la máquina y las del operador probablemente sea una ingeniería poco realista. Hay una película por ahí sobre un operador de drones a quien le pasa algo similar, solo que con bombas y destrucción.
En fin, ahora que vamos a entrar en la era de las máquinas autónomas (y lo que está pasando ahora lo va a acelerar) es un momento para que, comenzando por los sindicatos, empecemos a revisar qué significa "error humano" en la era de las máquinas inteligentes.
No hay comentarios:
Publicar un comentario