La Fundación Ramón Areces ha celebrado un debate sobre ‘Ética e Inteligencia Artificial’, presentado por el científico Avelino Corma, miembro del Consejo Científico de esta institución, que ha contado con Ramón López de Mántaras, profesor de Investigación del CSIC en el Instituto de Investigación en Inteligencia Artificial (IIIA), y Adela Cortina, catedrática Emérita de Ética y Filosofía Política de la Universidad de Valencia. En la presentación, Corma ha subrayado que “la IA representa en estos momentos, junto con la robótica, una auténtica revolución”. La ha equiparado a las grandes revoluciones industriales anteriores y, al mismo tiempo, ha alertado sobre la necesidad de anticipar efectos colaterales: “A pesar de la emoción por los avances, ahora es necesario solucionar apresuradamente esos otros efectos que fueron ignorados al principio”.
En su intervención, López de Mántaras ha contextualizado el origen de la IA en el histórico ‘workshop’ de 1956 en Dartmouth College, que “supuso el nacimiento oficial de este campo que llamamos IA”. También ha considerado que,, en su opinión, el término “no fue muy afortunado”. Ha criticado López de Mántaras el triunfalismo actual sobre esta tecnología y el antropomorfismo inducido por los sistemas generativos: “El problema no es que las máquinas hablen, entre comillas, sino que hayamos decidido que hablen como si fueran humanas”. Asimismo, ha destacado que los ‘chatbots’ contemporáneos “simulan la empatía con tal eficacia que algunas personas confían plenamente en ellos”, mientras “las empresas presentan falsos paralelismos y comparaciones con el cerebro humano para despertar admiración y convertir esa admiración en inversiones multimillonarias”.
Para ilustrar la brecha entre promesas y realidad, ha citado varios incidentes ampliamente documentados: en 2017, la interpretación errónea por un traductor automático de “buenos días” como “atáquenlos” derivó en el arresto de un palestino. En 2020, un algoritmo de evaluación británico perpetuó desigualdades. Y en 2024, una demanda contra Character.ai por un presunto caso de inducción al suicidio. Según este experto, otros episodios recientes mostraron riesgos adicionales: una revista médica advirtió sobre el uso de sistemas generativos en salud tras un caso de intoxicación por bromuro “siguiendo el consejo de ChatGPT”. Ha mencionado también el caso de Llama 3, que “aconsejó a un usuario consumir metanfetamina para sobrellevar una semana laboral intenso trabajo”. Y ha recordado asimismo la demanda por el fallecimiento de Austin Gordon, cuya madre alegó que una conversación con un ‘chatbot’ “le había guiado hacia el suicidio”. “La IA generativa no es, pues, solo un desarrollo tecnológico, es un modelo de negocio”, ha enfatizado López de Mántaras, reclamando que el debate ético abarque diseño, uso, incentivos y transparencia.
Por su parte, Adela Cortina ha enmarcado el debate desde una ética cívica robusta aplicada a la innovación, con una pregunta que ha servido de guía: “¿Realmente produce beneficios?”. Ha señalado que el análisis debe comenzar por la beneficencia: “Si algo no beneficia, lo eliminamos desde ya. Si la IA es nefasta, vamos a eliminarla ya”. Ha solicitado Cortina un marco exigente para el desarrollo y uso de la IA basado en la beneficencia, en la autonomía y en la justicia. Junto con dos principios añadidos clave: la trazabilidad (“uno tiene derecho a saber cómo se ha llegado a esa decisión y quién la ha tomado”) y la rendición de cuentas (“¿quién va a rendir cuentas? Pues evidentemente, los seres humanos”). En este punto, ha rechazado el concepto que planteó sin éxito el Parlamento Europeo sobre “personas electrónicas”.
Cortina ha sostenido que la IA ya está generando beneficios en ámbitos como la agricultura, el clima y el acceso al conocimiento, y ha defendido maximizar esos impactos positivos bajo límites claros para no dañar. A la vez, ha advertido sobre los riesgos estructurales como la brecha digital, el desplazamiento laboral y los sesgos de modelos opacos que pueden derivar en decisiones injustas, recordando los peligros de las “cajas negras” y las “Armas de destrucción matemática”.
También se ha mostrado partidaria de imponer límites al uso de dispositivos y a impulsar iniciativas de desconexión para conseguir una sociedad civil fortalecida: “Tenemos que recuperar nuestra autonomía y no permitir que las plataformas nos estén comiendo la vida”. Cortina ha acabado aplaudiendo a la Unión Europea por sus esfuerzos a la hora de regular estas tecnologías.
La catedrática de la Universidad de Valencia ha concluido su intervención en este debate sobre ‘Ética e IA’ en la Fundación Ramón Areces reclamando que esta “nueva revolución tecnológica es también una revolución social”. Y, por lo tanto, “exige una gobernanza responsable desde el inicio”. “La postura más razonable es la prudencia, la virtud clásica por excelencia”, buscando el medio entre el exceso y el defecto y orientando la innovación al bien común.
