Proyecto AITHENA

Resumen general

La carrera por la IA sigue construyendo marcos HW/SW para gestionar y procesar conjuntos de datos reales y sintéticos aún más grandes para entrenar modelos de IA cada vez más precisos.

Sin embargo, la IA sigue sin explorar en gran medida la explicabilidad (interpretabilidad del funcionamiento del modelo), la preservación de la privacidad (exposición de datos sensibles), la ética (sesgos y comportamientos deseados/no deseados) y la rendición de cuentas (responsabilidades de los resultados de la IA). Estas características sentarán las bases de una IA digna de confianza, como un nuevo paradigma para comprender plenamente y confiar en la IA en funcionamiento, a la vez que se utilizan todas sus capacidades en beneficio de la sociedad.

AITHENA contribuirá a construir una IA explicable (XAI) en los marcos de desarrollo y pruebas de CCAM, investigando tres pilares principales de la IA: datos (gestión de datos reales/sintéticos), modelos (fusión de datos, enfoques híbridos de IA) y pruebas (montajes XiL físicos/virtuales con MLOps escalables).

Se creará una metodología centrada en el ser humano para derivar las dimensiones de la IA de confianza a partir de las necesidades de los grupos identificados por los usuarios en las aplicaciones CCAM.

AITHENA innovará proponiendo un conjunto de Indicadores Clave de Rendimiento (KPI) sobre XAI, y un análisis para explorar las compensaciones entre estas dimensiones.

Los demostradores mostrarán la metodología de AITHENA en cuatro casos de uso críticos: percepción (qué percibe la IA y por qué), conocimiento de la situación (qué entiende la IA sobre el entorno de conducción actual, incluido el estado del conductor), decisión (por qué se toma una determinada decisión) y gestión del tráfico (cómo interoperan las aplicaciones a nivel de transporte con los sistemas habilitados por la IA que operan a nivel de vehículo).

Los datos y herramientas creados se pondrán a disposición a través de iniciativas europeas de intercambio de datos (OpenData y OpenTools) para fomentar la investigación sobre la IA fiable para la CCAM.

Objetivos globales

• Creación de una metodología global para el desarrollo y las pruebas de los sistemas CCAM basados en la IA. Abordar los aspectos identificados a partir de las necesidades del grupo de usuarios de CCAM y los casos de uso de las capas de CCAM (percepción, conocimiento de la situación, decisión y movilidad).
• AITHENA investigará y desarrollará modelos de IA explicable (XAI) para soluciones CCAM. Se seguirá la metodología centrada en el ser humano.
• AITHENA investigará sobre la ética de la IA para diseñar, desarrollar, implementar y operar sistemas de IA fiables para aplicaciones CCAM. Los factores humanos serán el pilar central para definir las áreas de IDT. El objetivo es evaluar la aceptación del usuario teniendo en cuenta los diferentes tipos de usuarios.
• AITHENA especificará, diseñará y desarrollará un marco de gestión del ciclo de vida para los algoritmos de ML y las aplicaciones CCAM. La plataforma proporcionará y conectará las herramientas DevOps con la experiencia de los científicos de datos con las necesidades y requisitos específicos de CCAM sobre la procedencia de los datos y la preservación de la privacidad. La plataforma deberá permitir la automatización de los flujos de trabajo de ML para acelerar y rastrear la construcción de modelos, el entrenamiento y los experimentos, escalando con cantidades crecientes de datos, mientras se mantienen los KPI de rendimiento y confianza.
• Utilización de los recursos de datos existentes (conjuntos de datos abiertos) en el contexto de los casos de uso de la CCAM, incluidos los conjuntos de datos centrados en casos límite, como base sobre la que construir nuevos datos sintéticos. Se creará un Gemelo Digital del vehículo, los sensores y el entorno mediante motores de simulación que utilicen lenguajes estandarizados para producir datos.
• AITHENA pretende adoptar la metodología HEADSTART para probar vehículos de conducción altamente automatizada y conectada y ampliarla para añadir un soporte y una gestión explícitos del proceso de validación de las funciones basadas en la IA. La "Ley de Inteligencia Artificial de la UE" brinda la oportunidad de incorporar el comportamiento no determinista de las funciones a la cadena de validación, abordando la seguridad funcional y la seguridad de la función prevista (SOTIF) a los conductos de desarrollo de MLOps e IA.
• Definir nuevas métricas (más allá de la precisión) para las características de la IA dignas de confianza (privacidad, robustez, explicabilidad, responsabilidad, ética) y analizar las compensaciones entre ellas, para crear un nuevo paradigma en los indicadores clave de rendimiento (KPI) para las pruebas unitarias basadas en la IA en la validación CCAM. Estas métricas serán la traducción de los conceptos normativos e industriales de alto nivel en principios prácticos fáciles de seguir e interpretar por los desarrolladores de IA (salvando la distancia entre las definiciones legales/éticas, el comportamiento deseado/no deseado en los métodos de ingeniería).

Este proyecto ha recibido financiación del Programa de Investigación e Innovación Horizonte 2020 de la Unión Europea bajo el acuerdo de subvención número 101076754.