Nos preocupa que la inteligencia artificial se equivoque. Pero hay una pregunta menos evidente y quizás más profunda: ¿qué sucedería si las tecnologías produjeran resultados cada vez mejores mientras nosotros dejáramos de ejercitar las capacidades necesarias para comprenderlos, cuestionarlos y justificarlos?

La cuestión no consiste en rechazar la tecnología. Una herramienta puede ampliar nuestras posibilidades, ofrecer información valiosa y ayudarnos a reconocer errores. El verdadero desafío ético aparece cuando la responsabilidad por una decisión sigue siendo humana, pero las condiciones para ejercer un juicio propio se vuelven cada vez más frágiles.

Una pregunta que la ética debe incorporar

Las grandes tradiciones filosóficas han reflexionado sobre qué debemos hacer, cómo actuar virtuosamente y por qué somos responsables de nuestras decisiones. Hoy necesitamos agregar otra interrogante: ¿qué capacidades humanas tenemos la obligación de cultivar para continuar siendo responsables mañana?

Pensemos en un docente universitario que utiliza inteligencia artificial para preparar rúbricas, revisar trabajos y sugerir calificaciones. La tecnología puede enriquecer su labor; sin embargo, si el profesor termina aceptando todas las recomendaciones sin comprender ni poder explicar sus fundamentos, aparece un problema que no se resuelve únicamente preguntando si la nota es correcta. También importa la posibilidad de seguir ejerciendo el discernimiento pedagógico.

El Principio de Continuidad del Juicio Moral

En un ensayo filosófico reciente propongo examinar el Principio de Continuidad del Juicio Moral (PCJM). Su idea central es que la responsabilidad ética no debería limitarse a las consecuencias inmediatas de nuestras acciones; también debe considerar las condiciones que permitirán seguir reconociendo, deliberando, revisando y justificando decisiones moralmente importantes.

No basta con responder por lo que decidimos hoy; también importa preservar las condiciones que nos permitirán seguir decidiendo responsablemente mañana.

Este principio no exige conservar intactas todas nuestras habilidades ni resolverlo todo sin ayuda. La autonomía humana no significa autosuficiencia absoluta. Necesitamos relaciones, instituciones, conocimientos compartidos y tecnologías que faciliten nuestra participación. La pregunta decisiva es si esos apoyos amplían nuestras posibilidades de juicio o las restringen injustificadamente.

Cuatro responsabilidades para una sociedad tecnológica

La primera es preventiva: evitar prácticas que dificulten sin justificación la comprensión y revisión de decisiones relevantes. La segunda es formativa: crear oportunidades para desarrollar el discernimiento, la argumentación y la capacidad de disentir. La tercera es restaurativa: facilitar medios de recuperación o compensación cuando se pierdan oportunidades importantes de participación. La cuarta es institucional: garantizar que las organizaciones no exijan responsabilidad a las personas mientras les niegan el tiempo, la autoridad o los recursos necesarios para ejercerla.

Estas responsabilidades no recaen por igual en todos. Un docente que utiliza una plataforma, una universidad que define sus políticas y una empresa que diseña sus sistemas tienen capacidades de intervención distintas. La ética debe reconocer esa distribución de poder y de obligaciones.

No se trata de enfrentar al ser humano con la inteligencia artificial

La investigación filosófica contemporánea ya ha planteado cuestiones próximas. Shannon Vallor estudió cómo la tecnología puede debilitar o fortalecer habilidades morales; Avigail Ferdman examinó los entornos que dificultan el cultivo de capacidades; y Jesús A. Torrecilla-Pinero analizó los límites de la delegación del juicio moral. Mi propuesta dialoga con estas contribuciones para desarrollar una pregunta específica: ¿qué obligaciones tenemos respecto de la continuidad futura de las condiciones que permiten ejercer el juicio?

Esta reflexión tampoco demuestra que toda utilización de IA deteriore la autonomía. Tal afirmación requeriría pruebas que no podemos dar por supuestas. El propósito del principio es ofrecer criterios para evaluar riesgos, beneficios, posibilidades de intervención y proporcionalidad, evitando tanto el entusiasmo acrítico como el rechazo automático de la tecnología.

La ética del futuro también debe preguntarse qué no debemos dejar de cultivar

Una sociedad no garantiza la autonomía de sus integrantes únicamente porque les atribuya las consecuencias de sus decisiones. Debe preguntarse si sus formas de educación, trabajo y organización permiten que las personas sigan comprendiendo, cuestionando y justificando aquello por lo que se les exige responder.

Tal vez uno de los desafíos decisivos de nuestra época no sea conservar cada tarea que las máquinas pueden realizar, sino preservar y renovar nuestra capacidad de reconocer cuándo una respuesta es insuficiente, cuándo una decisión es injusta y cuándo tenemos razones para actuar de otro modo.

La ética del futuro no puede limitarse a decirnos qué debemos hacer; también debe preguntarse qué capacidades tenemos el deber de no dejar de cultivar.

Para continuar el diálogo

¿Utilizamos la inteligencia artificial para pensar mejor o estamos convirtiendo sus respuestas en sustitutos de nuestro criterio? ¿Qué deberían hacer nuestras instituciones educativas para fortalecer el juicio moral en lugar de reducirlo a la aceptación de recomendaciones? Me interesa conocer tu perspectiva en los comentarios.

Este texto es una síntesis divulgativa del ensayo filosófico «La ética de las capacidades que no debemos perder: fundamentos de una responsabilidad diacrónica del juicio moral en sociedades tecnológicamente mediadas», de Santos E. Moreta Reyes. La propuesta permanece abierta a revisión y debate académico.

Lecturas para profundizar: Vallor (2015); Ferdman (2026); Torrecilla-Pinero (2026).