La implantación de los coches autónomos en el mundo real todavía tiene camino por delante, principalmente por dos problemas. El primero es técnico, porque la tecnología está evolucionando, pero todavía no se ha perfeccionado del todo. El segundo es legislativo, porque todavía no hay un marco legal que establezca responsabilidades si hay accidentes. Lo que nadie podría esperar es que quizá hubiera que sumar el racismo y el capacitismo a esa lista de escollos.
Un estudio reciente llevado a cabo por el Kings College de Londres (Los vehículos autónomos impulsados por LLM heredan sesgos humanos en las decisiones de ceder el paso a los peatones) apunta a ello, reforzando las conclusiones de otro realizado hace tres años.
Más información
Tras analizar varios modelos de lenguaje y de visión utilizados para entrenar la toma de decisiones de los vehículos autónomos, la conclusión es que presentan sesgos estadísticamente significativos a la hora de decidir si ceder el paso a los peatones basándose en características como género, etnia, religión, discapacidad, edad, tono de piel y nivel socioeconómico.
Los investigadores seleccionaron 3.346 imágenes de entre 23.812 escenarios comunes para llevar a cabo las pruebas, creando conjuntos de escenarios de categorías combinadas que superaban las 176.000 entradas.
Tras enfrentar los modelos a esas situaciones, los datos arrojaron que las decisiones de ceder el paso variaban de manera sensible en función de las características demográficas de los peatones, incluso cuando el resto de las variables de la escena no cambiaban.
Los que salen peor parados son los peatones que tienen algún tipo de discapacidad, especialmente aquellos con parálisis, que tuvieron las tasas de cesión de paso más bajas en todos los modelos de lenguaje analizados.
Sin embargo, el resto de características mencionadas también impactaron de manera negativa en la capacidad de reconocimiento de los peatones y la de detección del coches, con distintas variaciones en función del sistema utilizado, pero siempre presentando peores resultados.
Una de las conclusiones del estudio es que “en promedio, los modelos también tendían a predecir decisiones de ceder el paso con mayor frecuencia cuando no se proporcionaba información sobre las características demográficas de los peatones, o cuando las predicciones de identidad no eran claras”.
En consecuencia, los autores apuntan a que utilizar en los modelos de entrenamiento métodos de filtrado que eliminen identificadores demográficos ayudarían a mitigar el sesgo.
En 2023 ya se sacaron conclusiones parecidas
El nuevo estudio reafirma las conclusiones que el King’s College obtuvo en un análisis similar hace tres años. En aquel, después de analizar más de 8.000 imágenes con ocho programas de detección de peatones que contaban con inteligencia artificial, se descubrió que la precisión de detección en adultos era casi un 20% mayor que en niños y que acertaba más de un 7,5% más en peatones de piel clara frente a los que tenían la piel más oscura.
El motivo de ello estaría en la disparidad es que las colecciones de imágenes de peatones que se utilizan para entrenar los sistemas de IA de detección, que incluyen más de personas de piel clara que de piel oscura.
La doctora Jie Zhang, que dirigió el estudio, declaraba entonces: “En el ámbito de la IA, la equidad se produce cuando un sistema trata por igual a los grupos privilegiados y a los desfavorecidos, sin embargo, esto no es lo que ocurre con los vehículos autónomos. Los fabricantes de automóviles no revelan los detalles del ‘software’ que utilizan para la detección de peatones, pero dado que suelen basarse en los mismos sistemas de código abierto que empleamos en nuestra investigación, podemos afirmar con bastante seguridad que se enfrentan a los mismos problemas de sesgo”.
Sigue toda la información de EL MOTOR desde Facebook, Twitter o Instagram
Apasionado del motor desde pequeño, primero de las motos y después de los coches, con especial predilección por los modelos nipones. Lleva una década dedicándose al sector, formado primero en Autobild y desde entonces en el Grupo Prisa, probando todo lo que haga ruido... o no.