Arranca el proyecto europeo ACT.AI

• El proyecto tiene como objetivo desarrollar un conjunto innovador de herramientas para controlar el sesgo en la tecnología de inteligencia artificial y su Investigador Principal es el Prof. Novi Quadrianto (BCAM – Universidad de Sussex).
• ACT.AI forma parte del Laboratorio Estratégico BCAM Severo Ochoa de Trustworthy Machine Learning, Joint reseacrh Lab entre la Universidad de Sussex.
• Este es un proyecto de Prueba de Concepto de la convocatoria ERC-PoC que busca permitir que las ideas financiadas por el ERC avancen por el camino de la investigación pionera hacia la innovación.

El Prof. Novi Quadrianto (BCAM – Universidad de Sussex) es el Investigador Principal de un proyecto de Prueba de Concepto (PoC) ERC bajo el nombre 'ACT.AI'. El proyecto arancó el 1 de junio de 2024.

ACT.AI tiene como objetivo abordar el sesgo en los modelos de Inteligencia Artificial (IA) mediante técnicas de emparejamiento estadístico. A medida que la IA continúa permeando industrias como las finanzas, la salud y la educación, han surgido preocupaciones sobre la equidad de las decisiones de IA y su cumplimiento con las regulaciones. La propuesta Ley de IA de la UE exige que las aplicaciones de IA en sectores de alto riesgo detecten y mitiguen la discriminación, lo que representa un desafío para las startups que carecen de recursos y experiencia.

El proyecto de Quadrianto busca cerrar esta brecha ofreciendo un conjunto de herramientas versátil que puede integrarse fácilmente en cualquier flujo de trabajo de IA. Promete monitorear y mejorar la equidad en diversos tipos y contextos de datos, incluidos datos tabulares, de imagen y de texto, y admite diferentes tareas de clasificación y regresión. Es notable su capacidad para manejar conjuntos de datos de diferentes dominios, incluidos los datos fuera de distribución, y adaptarse a diferentes cantidades de variables o características.

El proyecto priorizará la retroalimentación de las partes interesadas en servicios financieros y salud para asegurar la practicidad y eficacia de la herramienta en aplicaciones del mundo real. Con Novi Quadrianto al frente, el proyecto ACT.AI está preparado para avanzar en el campo de la ética y el cumplimiento de la IA, fomentando tecnologías de IA más justas para el futuro.

ACT.AI forma parte del Laboratorio Estratégico BCAM Severo Ochoa sobre Trustworthy Machine Learning, el Joint Research Lab entre la Universidad de Sussex y BCAM, que busca reforzar la internacionalización de BCAM mediante la colaboración con investigadores internacionales de reconocido prestigio en áreas clave de investigación. Este laboratorio es dirigido por el Prof. Novi Quadrianto y codirigido por José Antonio Lozano, Director Científico del Centro Vasco de Matemáticas Aplicadas.

Este proyecto es un proyecto de Prueba de Concepto de la convocatoria ERC-PoC que busca permitir que las ideas financiadas por el ERC avancen por el camino de la investigación pionera hacia la innovación.

ACT.AI está financiado por la Unión Europea en el marco del Programa Horizon Europe - Grant Agreement 101123000 – Act.AI.