Polibienestar lidera un proyecto sobre el impacto de la IA en la legitimidad democrática y la confianza ciudadana

La incorporación de sistemas de inteligencia artificial a procesos de decisión pública plantea uno de los retos democráticos de los próximos años. RACHAEL parte de la premisa de que «estas tecnologías pueden contribuir a mejorar la innovación pública y apoyar determinados procesos de gobernanza, pero también pueden afectar a la autonomía cognitiva de las personas, a la atribución de responsabilidad y a la confianza en las instituciones». En esta línea, busca generar evidencia científica sobre las condiciones bajo las que la ciudadanía acepta o rechaza la participación de la IA en decisiones con implicaciones éticas, sociales y políticas.

Para ello, el proyecto combina enfoques experimentales, cuantitativos y cualitativos. Está configurado por dos suproyectos. El primero, también denominado RACHAEL, está liderado por Jorge Garcés y desarrollará un experimento con una muestra de 1.250 personas residentes en España para estudiar si conocer —o creer conocer— que una propuesta ha sido elaborada por una persona experta o por un sistema de IA modifica la percepción de legitimidad, imparcialidad, justicia y confianza. Los dilemas se presentarán a través de escenarios ficticios vinculados a ámbitos como la redistribución de recursos, la seguridad, la justicia procedimental, la defensa y los derechos. El diseño permitirá observar no solo la valoración inicial de las decisiones, sino también cómo cambian las opiniones cuando se revela la autoría real de las recomendaciones.

Por otro lado, el segundo subproyecto, AImar, analizará los factores personales, actitudinales y contextuales que influyen en la aceptación de la IA en la gobernanza democrática. El estudio examinará el papel de la confianza en la IA, la confianza institucional, los valores prepolíticos y la delegación cognitiva, entendida como la tendencia a transferir parte del esfuerzo deliberativo a sistemas automatizados. Para ello, se aplicará una encuesta estructurada a la misma muestra de 1.250 participantes y se realizará un seguimiento cualitativo longitudinal con entrevistas en profundidad, orientado a comprender cómo evolucionan las percepciones ciudadanas sobre la IA en contextos políticos y éticos.

Hacia una gobernanza algorítmica más transparente

El equipo integra perfiles de ciencia política, psicología, políticas públicas, marketing, economía del comportamiento y análisis de decisiones. Una combinación interdisciplinar y sociotécnica que pretende conectar la investigación sobre razonamiento moral y confianza con el diseño de marcos de gobernanza algorítmica más transparentes, responsables e inclusivos.

Además, RACHAEL elaborará un repositorio estructurado de aplicaciones reales de IA en el sector público, prestando especial atención a casos relacionados con derechos, distribución de recursos, acceso a servicios, confianza institucional y participación ciudadana. A partir de este trabajo, el proyecto desarrollará un marco analítico para evaluar sistemas de gobernanza algorítmica en función de criterios como transparencia, explicabilidad, rendición de cuentas, supervisión ciudadana, capacidad de rectificación y adaptación institucional. Los resultados serán contrastados con responsables públicos, expertos técnicos y jurídicos, organizaciones de la sociedad civil y representantes ciudadanos mediante talleres deliberativos.

El grupo investigador «espera que los hallazgos de RACHAEL contribuyan a orientar la integración ética y socialmente responsable de la IA en las instituciones democráticas». Según el profesor Garcés, “el proyecto aspira a ofrecer evidencia útil para responsables públicos, organizaciones sociales y profesionales que trabajan en la transformación digital del sector público, ayudando a anticipar riesgos de desconfianza, sesgos o pérdida de legitimidad cuando las decisiones se apoyan en sistemas automatizados.” En este contexto, la Universitat de València refuerza su papel en la investigación sobre gobernanza democrática, innovación pública y efectos sociales de las tecnologías emergentes.

La iniciativa está financiada con un presupuesto de cerca de 500.000 euros, en el marco de la convocatoria 2025 de proyectos de investigación en el ámbito de la inteligencia artificial del Ministerio de Ciencia, Innovación y Universidades y la Agencia Estatal de Investigación.

Sobre Polibienestar

Polibienestar es un instituto público de investigación de la Universitat de València, líder en proyectos de excelencia europeos, especializado en el análisis de políticas públicas y en el desarrollo de innovaciones sociales orientadas a mejorar el funcionamiento de los sistemas de bienestar europeos. Con una amplia trayectoria en proyectos nacionales e internacionales, el instituto desarrolla investigación aplicada, interdisciplinar y sociotécnica en ámbitos como la gobernanza, la sostenibilidad, la innovación social o la participación ciudadana.