Estamos de vuelta, tras un paréntesis post-jubilación. La Intelligencia Artificial ha entrado en el sistema educativo como un tsunami incontrolado. La formación de todos, profesorado a la cabeza, pero también alumnado y familias, debe ser una prioridad para afrontar con garantías de justicia el hito rupturista que sin duda protagoniza el uso masivo de la IA generativa.
Los aspectos éticos son quizás los menos vivibles entre el aluvión de noticias llamativas sobre los constantes y asombrosos avances de los distintos modelos de IA disponibles al alcance de cualquiera. Pero esa dimensión ética tiene que ser abordada sin falta y con urgencia.
Adela Cortina reflexiona en esta obra sobre las implicaciones éticas que supone su uso generalizado, ahora, y en el futuro.
Adela Cortina. ¿Ética o ideología de la inteligencia artificial? El eclipse de la razón comunicativa en una sociedad tecnologizada. Paidós. 2024
Me pareció apropiado, dado el tema, utilizar la IA, en concreto el archi famoso ChatGPT, para realizar un texto a partir de las notas que fui tomando durante la lectura del libro. Así que lo que leeréis a continuación es un texto, retocado ligeramente, generado por ese modelo de IA, con el siguinete "prompt": "Elabora un texto resumen de unas 1000 palabras, a partir de las notas que te incluyo, tomadas durante la lectura del libro de Adela Cortina "Ética o ideología de la inteligencia artificial: El eclipse de la razón comunicativa en una sociedad tecnologizada", utilizando un lenguaje académico y pensando que estará dirigido a un lector interesado por la pedagogía y la educación. No dejes fuera ninguna de las ideas clave que resalto".
El resultado es muy acertado. Este es:
La inteligencia artificial (IA) ocupa un espacio central en el desarrollo tecnológico contemporáneo, desafiando no sólo los límites de la ciencia, sino también los fundamentos éticos y filosóficos de la humanidad. Este libro aborda las tensiones entre la ética y la ideología en torno a la IA, destacando cómo las sociedades tecnologizadas enfrentan dilemas sobre el uso y el propósito de estas herramientas, así como las implicaciones de delegar decisiones significativas en sistemas inteligentes.
### **El dilema ético de la IA: ¿ética humana o autónoma?**
Uno de los desafíos fundamentales radica en definir si la ética en la IA debe surgir de los valores humanos que guían su diseño y uso, o si los propios sistemas deben desarrollar una ética autónoma. Mientras que los humanos tienen un marco moral basado en experiencia y contexto, las IA carecen de corporeidad y, por ende, de la capacidad para asignar significados intencionales. Su aprendizaje, aunque avanzado, simula emociones y valores, pero no puede trascender una funcionalidad preprogramada. Así, los sistemas inteligentes solo serán "funcionalmente autónomos", no ontológicamente autónomos.
### **Modalidades de inteligencia artificial: de la funcionalidad a la singularidad**
Cortina clasifica la IA en tres modalidades: inteligencia especializada (orientada a tareas concretas), inteligencia general (similar a la humana y dependiente del cuerpo como medio de interpretación), y superinteligencia, asociada al concepto de “singularidad” tecnológica. Este último plantea la creación de entidades con una autonomía ontológica, marcando un cambio de sustrato que iría del biológico al de silicio. Si estas entidades desarrollaran su propia capacidad de aprendizaje, surge la interrogante de cómo garantizarían valores esenciales como la compasión y el respeto, por ejemplo.
### **El transhumanismo: entre ciencia e ideología**
El transhumanismo, impulsado por las NBIC (nanotecnología, biotecnología, informática y ciencias cognitivas), aspira a trascender las limitaciones humanas. Aunque fundamentado en avances científicos, es predominantemente ideológico. Sin embargo, su implementación genera controversias sobre la equidad, el acceso y las implicaciones éticas.
### **La regulación de la IA: ética como ventaja competitiva**
Europa ha liderado iniciativas regulatorias, destacándose el marco jurídico integral propuesto en 2004 por la Unión Europea. Este se centra en principios como la supervisión humana, la transparencia, la rendición de cuentas y el desarrollo de la IA al servicio del bienestar humano. Frente a los enfoques de Estados Unidos (innovación) y China (productividad), Europa apuesta por la normatividad ética como ventaja competitiva.
### **Neutralidad tecnológica: un mito**
Creer que la tecnología es neutral constituye una postura ideológica. Las herramientas tecnológicas, incluida la IA, no son entes autónomos, sino productos de decisiones humanas que reflejan valores, intereses y prioridades. Este hecho resalta la necesidad de diseñar sistemas que favorezcan la justicia, la igualdad y el bien común, evitando la reproducción de sesgos y desigualdades.
### **Impacto de la IA en el mercado laboral**
La automatización y el avance de la IA han polarizado el mercado laboral. Mientras los empleos de competencia media disminuyen, crecen las oportunidades en posiciones altamente especializadas o en tareas de muy baja cualificación, asociadas a las "tres D" (dull, dirty, dangerous: monótonas, sucias y peligrosas). Este fenómeno subraya la necesidad de reconvertir habilidades y adaptarse a nuevas dinámicas laborales.
### **Modelos éticos en la programación de la IA**
La ética en la IA puede desarrollarse desde tres enfoques principales: “deontológico” (reglas programadas), “virtud ética” (aprendida del entorno) y un enfoque “híbrido”, que integra ambos. Este último es considerado esencial por Adela Cortina, quien también subraya la importancia de un marco dialógico y crítico. Por ejemplo, un deontologismo rígido puede llevar a paradojas como las ilustradas por las leyes de la robótica de Asimov, donde las normas resultan conflictivas o manipulables.
### **Hacia una ética dialógica y crítica**
Cortina propone un deontologismo dialógico, inspirado en Aristóteles y Kant, que combine la búsqueda del bien común con el respeto por los individuos como fines en sí mismos. Este modelo se sustenta en la ética del discurso, que considera válidos a todos los seres capaces de comunicación lingüística, y sugiere evaluar normas mediante un diálogo crítico para garantizar su adecuación y legitimidad.
### **La educación en la era de la IA**
La educación es esencial para formar una ciudadanía cosmopolita, solidaria e interdependiente. Sin embargo, el uso de la IA en este ámbito plantea retos como la brecha digital, los sesgos algorítmicos y la pérdida de interacción personal. Aunque la IA generativa tiene potencial para transformar la educación (por ejemplo, en evaluación y tareas), es crucial preservar la lectura y el pensamiento profundo frente a la superficialidad de los contenidos digitales. Además, se debe garantizar que la IA actúe como herramienta y no como sustituto de la relación educativa.
### **La polarización social y el desafío de la postverdad**
La razón comunicativa, que privilegia el entendimiento entre sujetos mediante el lenguaje, se ve amenazada por fenómenos como la postverdad y la polarización. La postverdad, que apela a emociones en lugar de razones, mina la inteligibilidad y la veracidad. Por otro lado, la polarización social, exacerbada por tendencias tribales y manipulaciones emocionales, dificulta el diálogo y la construcción de consensos.
### **IA y desigualdades: un reto ético global**
La expansión de la IA no es neutral en términos de equidad. Mientras que los sectores privilegiados tendrá acceso a interacciones humanas, otros dependerán de máquinas inteligentes. Asimismo, la brecha digital excluye a comunidades marginadas, agravando las desigualdades. Para contrarrestar este efecto, es imperativo adoptar una "razón cordial" que combine el corazón y la razón en la toma de decisiones colectivas.
### **Conclusiones: hacia una IA al servicio de la humanidad**
La IA representa un punto de inflexión en la historia de la humanidad. Su desarrollo y uso deben ser guiados por principios éticos sólidos que prioricen el bienestar colectivo y la justicia social. Para evitar que las tecnociencias se conviertan en ideologías dominantes, es fundamental potenciar sistemas inteligentes al servicio de las personas, educar para un uso crítico y solidario de la tecnología, y fomentar un diálogo global que integre perspectivas diversas. Solo así, la IA será un instrumento para el progreso humano y no una herramienta de exclusión o dominación.
