RACHAEL: Razonamiento, agencia y confianza en la legitimidad humana y aumentada por inteligencia artificial
DATOS DEL PROYECTO
– Referencia: AIA2025-163733-C21 y AIA2025-163733-C22
– Año de solicitud: 2025
– Año de concesión: 2025
– Duración: 36 meses
– Programa Financiador: Proyectos de investigación en el ámbito de la Inteligencia Artificial 2025.
– Entidad Financiadora: Agencia Estatal de Investigación (AEI) / Ministerio de Ciencia, Innovación y Universidades
– Coordinador: Instituto Polibienestar (Universitat de València)
– Socios del Consorcio:
(sin consorcio)
– Investigador de Polibienestar: Jorge Garcés, Estrella Durá, Carlos Serra, Alfonso Gallego
– IP Spain: Jorge Garcés
– Breve descripción del Proyecto y Objetivo: el proyecto RACHAEL analiza cómo la inteligencia artificial influye en el razonamiento moral, la toma de decisiones éticas y la percepción ciudadana de legitimidad, confianza y justicia en contextos democráticos. Su objetivo es generar evidencia empírica y recomendaciones que orienten una integración responsable, transparente y democráticamente legítima de la IA en procesos de decisión pública.
El proyecto pretende:
- Analizar cómo cambia la percepción ciudadana de una decisión cuando se atribuye a una IA o a expertos humanos.
- Diseñar y aplicar dilemas morales vinculados a ámbitos como redistribución, seguridad, derechos, defensa y justicia procedimental.
- Realizar una encuesta a 1.250 personas en España para estudiar la aceptación ciudadana de la IA en decisiones públicas.
- Analizar factores como la confianza en la IA, la confianza institucional, la delegación cognitiva, los valores prepolíticos y los rasgos de personalidad.
- Realizar entrevistas longitudinales y grupos focales para profundizar en las percepciones ciudadanas sobre IA, ética y democracia.
- Crear un repositorio de casos reales de uso de IA en el sector público y un marco analítico para evaluar su legitimidad democrática.
- Organizar talleres participativos con actores institucionales, expertos y sociedad civil.
- Elaborar recomendaciones de política pública y materiales de transferencia sobre el uso responsable de la IA en la gobernanza democrática.
– Nuestra participación consistió en (porcentaje y ámbito): ¿%
Polibienestar participa como entidad coordinadora y ejecutora del proyecto, liderando ambos subproyectos desde la Universitat de València. Su participación se centra en el diseño experimental, la elaboración de dilemas morales, la aplicación de encuestas, la realización de entrevistas y grupos focales, el análisis estadístico y cualitativo, la elaboración del marco de gobernanza algorítmica, la organización de talleres participativos, la formulación de recomendaciones y la difusión científica y social de los resultados.
– Paquete de trabajo transversal – Coordinación, ética, integración, gobernanza y transferencia
Polibienestar coordinará el seguimiento científico, administrativo y ético del proyecto, incluyendo la gestión de datos, la integración de resultados entre subproyectos y la comunicación interna. También liderará el análisis de gobernanza democrática de la IA, mediante la creación de un repositorio de casos reales, el desarrollo de un marco analítico sobre legitimidad algorítmica y la organización de talleres participativos para validar recomendaciones de política pública.
– Subproyecto 1 – RACHAEL: análisis experimental de dilemas morales y legitimidad
Polibienestar liderará el diseño y validación de dilemas morales políticamente relevantes, así como el experimento sobre atribución de autoría humana o artificial. El trabajo incluirá el diseño de escenarios, la validación de soluciones mediante expertos, la aplicación del experimento a la muestra prevista, la realización de grupos focales y el análisis de cómo la autoría atribuida influye en la percepción de legitimidad, justicia, confianza y aceptabilidad normativa.
– Subproyecto 2 – AImar: aceptación ciudadana de la IA en decisiones públicas
Polibienestar desarrollará el cuestionario para analizar los factores que explican la aceptación ciudadana de la IA en procesos de decisión pública. El trabajo incluirá la validación de escalas, la aplicación de una encuesta a 1.250 personas, el análisis mediante modelos de ecuaciones estructurales y la realización de entrevistas longitudinales con una submuestra de participantes para estudiar la evolución de sus actitudes hacia la IA en contextos éticos y democráticos.
