“Ahora sabemos la mayoría de las cosas que se pueden medir en este mundo, ¡excepto los límites de la ambición humana!”
—Julio Verne
En el principio, Prometeo entregó a los hombres el fuego. Zeus se enfureció y decidió castigarlos. Entonces creó a Pandora, a quien los dioses dieron belleza, inteligencia y curiosidad. Antes de enviarla a la Tierra, Zeus le entregó una caja y le pidió que nunca la abriera. Pandora, sin embargo, no pudo resistir. Levantó la tapa y de allí salieron la enfermedad, la envidia, el engaño y otros males. Al final, quedó dentro la esperanza.
Hay algo que resulta significativo en esta historia: Pandora no abrió la caja porque quisiera hacer daño. La abrió porque quería saber qué había dentro.
Quizás ahí pueda encontrarse una imagen para comprender lo que está ocurriendo con la Inteligencia Artificial.
Se ha abierto una caja que todavía no se conoce completamente y que, de alguna manera, ya no puede cerrarse. La IA es una herramienta sin retorno. No porque todo lo que haga sea bueno, malo o inevitable, sino porque el conocimiento adquirido, los sistemas construidos y las capacidades desarrolladas ya forman parte de la realidad. Pueden regularse, limitarse determinados usos e incluso prohibirse algunos, pero no es posible deshacer el conocimiento que ya ha sido producido.
La pregunta, entonces, no es solamente si puede detenerse la IA. La cuestión es qué se hará con ella y, sobre todo, qué límites deberán establecerse antes de que algunas de sus consecuencias sean difíciles de corregir.
La discusión no pertenece únicamente al futuro. Algunos de sus riesgos ya están presentes: pérdida de privacidad, discriminación, fraude, manipulación, desinformación y decisiones automatizadas que pueden afectar directamente la vida de las personas. Otros escenarios todavía pertenecen al campo de las posibilidades: sistemas con mayores grados de autonomía, capaces de interactuar entre ellos, intervenir sobre otros sistemas o encontrar maneras de superar determinados controles.
Es importante no confundir una posibilidad con un hecho. No todo lo que se anuncia sobre el futuro de la IA necesariamente ocurrirá. Pero tampoco parece razonable esperar una certeza absoluta cuando las consecuencias de una decisión pueden ser graves o incluso irreversibles.
Aquí cobra sentido el principio de precaución. Su importancia está precisamente en reconocer que no siempre es posible esperar a conocer todas las consecuencias de una tecnología para empezar a actuar. La precaución invita a detenerse antes de avanzar, identificar los riesgos que pueden ser razonablemente previstos y preguntarse qué podría ocurrir si las previsiones resultan equivocadas.
Esto no significa tener miedo a la tecnología ni prohibir aquello que todavía no se comprende por completo. Significa actuar con prudencia cuando existe la posibilidad de producir un daño importante. En el caso de la IA, la precaución debería llevar a probar los sistemas, evaluar sus efectos, establecer mecanismos de supervisión y determinar si realmente es posible corregir una decisión cuando algo salga mal.
No es lo mismo utilizar una herramienta de inteligencia artificial para organizar información que emplearla en una decisión relacionada con la salud, la educación, el trabajo, el acceso a un crédito o la libertad de una persona. En estos últimos casos, un error puede tener consecuencias que no sean fáciles de reparar. Por eso, la precaución exige considerar no solo lo que una tecnología puede hacer, sino también lo que podría ocurrir si falla.
De ahí que no todas las aplicaciones de la inteligencia artificial deban recibir el mismo tratamiento. A mayor capacidad de afectar la vida de las personas, mayor debería ser el cuidado con el que se diseñan, evalúan y utilizan estos sistemas. La precaución no pretende detener el progreso. Busca evitar que la posibilidad de hacer algo sea confundida con la conveniencia de hacerlo.
Pero existe otro principio que resulta fundamental: el principio de responsabilidad.
Hans Jonas llamó la atención sobre un problema propio de la época tecnológica. El ser humano ha adquirido un poder de intervención sobre la naturaleza y sobre la vida que ninguna generación anterior había tenido en la misma proporción. El problema es que ese poder puede crecer mucho más rápido que la capacidad para prever sus consecuencias.
Por eso, la responsabilidad no puede limitarse a responder por aquello que ya ocurrió. También implica hacerse cargo de las consecuencias que las decisiones presentes pueden producir en el futuro. Esta idea adquiere especial importancia cuando se habla de inteligencia artificial. Si es posible crear sistemas capaces de tomar decisiones, generar contenidos, modificar comportamientos o intervenir en procesos que afectan a millones de personas, también es necesario preguntarse qué consecuencias puede tener poner esas capacidades en funcionamiento.
Una máquina puede actuar de manera autónoma, pero esa autonomía técnica no significa que desaparezca la responsabilidad humana. Detrás de un sistema existen personas que lo diseñan, entrenan, desarrollan, comercializan, implementan y utilizan. Incluso cuando no sea posible anticipar cada una de sus respuestas, sigue siendo necesario preguntar quién decidió ponerlo en funcionamiento, en qué condiciones y con qué mecanismos para corregir sus posibles errores.
La responsabilidad, por tanto, no consiste solamente en encontrar a quién culpar cuando algo falla. Significa asumir desde el comienzo que las decisiones tecnológicas tienen consecuencias y que algunas pueden recaer sobre personas que todavía no conocemos e incluso sobre generaciones que aún no existen.
Esto conduce a una pregunta más profunda: ¿qué clase de sociedad se está construyendo mientras la inteligencia artificial ocupa cada vez más espacios de la vida cotidiana?
Santiago Jiménez Londoño, en Algoritmos deshumanizantes y la pérdida de noción del individuo (2025), advierte sobre el riesgo de convertir la vida humana en datos y predicciones. Una persona no es solamente la información que produce ni aquello que un algoritmo puede anticipar. Siempre existe algo que escapa a cualquier cálculo: la posibilidad de cambiar de opinión, equivocarse, sorprender, decidir de otra manera y construir un camino distinto al esperado.
Allí aparece una diferencia fundamental entre una persona y los datos que pueden reunirse sobre ella.
Por eso, la discusión sobre la inteligencia artificial no puede quedarse únicamente en la pregunta por su eficiencia. También debe preguntarse qué ocurre con la dignidad, la libertad, la privacidad y la autonomía cuando comienzan a delegarse en algoritmos decisiones que antes dependían del juicio humano.
Desde esta preocupación puede plantearse la posibilidad de una Evaluación de Impacto Algorítmico Existencial para aquellos sistemas que puedan tener consecuencias especialmente profundas sobre la vida humana. No como una ley terminada ni como una solución definitiva, sino como una propuesta para abrir una discusión que debería involucrar a especialistas en inteligencia artificial, derecho, filosofía, ética y bioética.
Antes de poner en funcionamiento sistemas con capacidades excepcionales deberían poder responderse algunas preguntas sencillas, aunque no necesariamente fáciles: pueden controlarse, pueden detenerse si es necesario, quién los evalúa de manera independiente, qué riesgos pueden producir, qué ocurre cuando una decisión algorítmica resulta equivocada, hasta dónde resulta conveniente delegar decisiones humanas, y qué lugar queda para la libertad y la dignidad de la persona
No toda inteligencia artificial necesita el mismo nivel de regulación. Tampoco sería razonable tratar de la misma manera una herramienta que ayuda a organizar información y un sistema que puede intervenir en decisiones con consecuencias graves para una persona. Pero cuanto mayor sea la capacidad de una tecnología y mayor el daño que pueda producir, mayor debería ser también la responsabilidad frente a ella.
No se sabe hasta dónde llegará la inteligencia artificial. Tampoco se sabe cuáles de los escenarios más preocupantes terminarán ocurriendo. Esa incertidumbre puede conducir a dos extremos igualmente problemáticos: creer ingenuamente que toda innovación traerá beneficios o imaginar que toda nueva tecnología terminará necesariamente produciendo una catástrofe. Entre ambos extremos existe un espacio para la prudencia, la reflexión y la responsabilidad.
La caja de Pandora ya está abierta. Tal vez no pueda volver a cerrarse, pero todavía es posible decidir qué hacer con lo que salió de ella. Y quizás allí se encuentre el verdadero desafío de la inteligencia artificial: no construir máquinas cada vez más inteligentes sin preguntarse para qué se quieren, sino lograr que el crecimiento del poder tecnológico vaya acompañado de una mayor capacidad para prever, cuidar y responder por sus consecuencias.
Porque el problema no es solamente qué tan inteligente puede llegar a ser una máquina. El problema es si los seres humanos serán capaces de seguir siendo responsables de aquello que hacen con ella.
Comentar