En el camino hacia un futuro donde los vehículos autónomos dominen las carreteras, un estudio reciente del Kings College de Londres ha arrojado luz sobre un problema crítico que enfrentan estos sistemas: el sesgo en la detección de peatones.
Este estudio revela resultados inquietantes que destacan desigualdades en la capacidad de identificación de peatones adultos y niños, así como de personas de piel clara y oscura.
Estas deficiencias podrían tener un impacto significativo en la seguridad vial y resaltan la necesidad de abordar este problema antes de que los vehículos autónomos sean una realidad en nuestras calles.
El análisis realizado por investigadores del Kings College se centró en ocho sistemas de detección de peatones impulsados por inteligencia artificial (IA).
Evaluaron más de 8,000 imágenes utilizando estos sistemas y encontraron que los algoritmos de los vehículos autónomos tenían un rendimiento un 20% mejor en la detección de peatones adultos en comparación con niños.
Además, estos sistemas mostraron una diferencia de más del 7.5% en la precisión entre la detección de peatones de piel clara y piel oscura.
Sin embargo, las preocupaciones no terminan ahí.
El estudio también descubrió que la IA tenía un rendimiento aún más deficiente en la detección de personas de piel oscura en entornos con poca o ninguna luz, lo que plantea serias dudas sobre la seguridad de esta tecnología durante la noche.
Esto implica que los vehículos autónomos podrían ser menos efectivos en situaciones de baja visibilidad, lo que aumenta los riesgos para los peatones.
El futuro
El autor del estudio, Jie Zhang, señaló la importancia de la justicia en la IA: que un sistema trate a todos los grupos por igual, independientemente de su raza o edad.
Zhang también advirtió que los problemas de sesgo presentes en los sistemas de código abierto probablemente afectarán a los fabricantes de automóviles que utilizan tecnologías similares.
Este estudio es una llamada de atención que resalta la necesidad de mejorar la precisión y equidad de los sistemas de detección en los vehículos autónomos.
Si bien estas tecnologías prometen un futuro más seguro y cómodo en la carretera, es fundamental abordar estos sesgos para garantizar que todas las personas, sin importar su edad o color de piel, estén protegidas.
Sandy Karp, portavoz de Waymo, una empresa líder en tecnología de vehículos autónomos, señaló que están comprometidos en mejorar continuamente su tecnología para enfrentar estos desafíos.
Los sistemas de detección en sus vehículos autónomos están diseñados para funcionar de manera segura en diversas condiciones y escenarios.
En última instancia, este estudio resalta la complejidad de desarrollar sistemas de conducción autónoma y destaca la importancia de reconocer y abordar los sesgos inherentes en los algoritmos.
La seguridad de los peatones y conductores debe ser la prioridad máxima en la evolución de esta tecnología.
Queda claro que aún hay un largo camino por recorrer antes de que los vehículos autónomos sean una realidad segura y equitativa en nuestras calles.
