Los humanos, seres interesantes, ingeniosos y perspicaces, siempre queriendo avanzar. Desde el fuego, desde la rueda, desde la máquina de vapor, hemos buscado dar solución a los problemas, y a veces con nuestras propias soluciones hemos encontrado nuevos. Un problema nos lleva a una solución y esa solución a otro problema. Ahora tenemos a la inteligencia artificial, y vuelve una pregunta que nos acompaña desde hace tiempo: ¿qué hacemos con las consecuencias de aquello que inventamos?
Ahora bien, mi propósito no es decir que deberíamos dejar de inventar. Sería extraño que, después de buscar tantas maneras de facilitar nuestro trabajo, rechazáramos una herramienta porque puede ayudarnos. Lo que creo es que esa ayuda no nos libera de responder por lo que hacemos. Si alguien resulta perjudicado, decir que así respondió el sistema no resuelve lo ocurrido. Esa responsabilidad ya la conocíamos; lo que debemos pensar es cómo ejercerla cuando una misma herramienta puede utilizarse en muchos lugares y multiplicar las consecuencias de un error.
Pensemos en una imagen falsa de alguien. Para quien la genera puede ser cuestión de unos instantes; para la persona representada, las consecuencias podrían durar mucho más. Una preocupación relacionada motivó la investigación que la Comisión Europea abrió contra X en enero de 2026, sobre los riesgos de incorporar funciones de Grok, incluida la difusión de imágenes sexualmente explícitas manipuladas. La investigación no equivale a una condena, pero nos deja una cuestión que merece pensarse: aunque la imagen sea inventada, el daño que puede causar no tiene por qué serlo. ¿De qué le sirve a la persona afectada que todos señalen a la máquina?
Si nadie tiene que responder, la facilidad que ganamos para crear termina convirtiéndose en una dificultad que otro debe soportar. Por eso me parece razonable pedirle a una empresa que, antes de ofrecer una herramienta así, demuestre qué hizo para reducir ese riesgo. Cuando las consecuencias puedan ser graves, alguien independiente debería poder comprobarlo. Y si aun así aparece un abuso, la persona afectada debería poder denunciarlo y obtener una respuesta. Eso no significa exigirle lo mismo a cualquier aplicación: equivocarse al recomendar una película no tiene las mismas consecuencias que equivocarse en un diagnóstico. Lo que pidamos debería guardar relación con lo que está en juego.
Tampoco podemos prometer que una revisión evitará todos los problemas. Sería olvidar lo que decía al comienzo: nuestras soluciones también traen dificultades que no habíamos previsto. Lo que sí podemos pedir es que se comuniquen los fallos graves y se actúe sobre ellos. Quien desarrolla la herramienta tendrá que responder por sus limitaciones, y quien la utiliza, por las condiciones en que decide hacerlo. Una autoridad debería poder exigir correcciones, sancionar incumplimientos y detener un uso cuando el riesgo lo justifique. De otra manera, la persona perjudicada seguiría dependiendo de que alguien quisiera escucharla.
Pero esa persona podría vivir en un país distinto de aquel donde funciona la empresa. La imagen también podría circular en otros lugares, y entonces lo que parecía un problema entre dos partes exigiría la intervención de varias autoridades. Cambiar de país no libera automáticamente a una empresa de las reglas del mercado donde ofrece sus servicios, pero investigar y hacerlas cumplir puede requerir ayuda de otros. Ahí es donde, para mí, regular la IA se convierte en una tarea mundial: necesitamos acuerdos para que la posibilidad de responder por un daño no se pierda cuando cruzamos una frontera.
Y para actuar juntos no tendríamos que compartir todos nuestros intereses. Los dirigentes griegos de los relatos de la guerra de Troya participaron en una misma campaña sin formar una alianza perfecta; la propia Ilíada muestra los conflictos entre Aquiles y Agamenón. Nosotros también tendríamos que encontrar una causa compartida mientras seguimos teniendo diferencias. En nuestro caso, el enemigo común no sería la inteligencia artificial, sino permitir que sus consecuencias se conviertan siempre en un problema de alguien más. Y ahora me dirán que sentar a países “amigos” y “enemigos” es muy difícil. Claramente lo es, pero esperar a que desaparezcan todos sus desacuerdos tampoco nos ayudaría a comenzar.
Podríamos empezar por algo en lo que sí resulte conveniente colaborar: compartir lo aprendido sobre un fallo para evitar que se repita, o ayudarnos a investigar cuando las personas afectadas y una empresa están en países distintos. Unos primeros acuerdos podrían establecer esas obligaciones y ampliarse después. Así, cada país conservaría autoridades propias y ganaría capacidad para proteger a sus ciudadanos con la ayuda de otros. También habría que escuchar a quienes utilizan tecnologías desarrolladas fuera de sus fronteras. Si van a convivir con sus consecuencias, deberían participar en las decisiones sobre los riesgos que se aceptan.
Ahora, volvamos a la persona que pide una respuesta. Podemos haber firmado acuerdos y establecido responsables, pero, si quien atiende su caso se limita a repetir lo que dijo el sistema, ¿qué habremos resuelto? Ahí aparece una responsabilidad que los gobiernos y las empresas también tienen con quienes trabajan para ellos: prepararlos para entender lo que supervisan y darles autoridad para cuestionarlo. La intervención humana tiene que permitir que algo cambie cuando hay razones para hacerlo. Poner a alguien a confirmar decisiones que no comprende difícilmente puede llamarse supervisión.
Y comprender exige seguir aprendiendo. Muchos me dirán que debemos ser más arquitectos que obreros, y tienen razón. Pero para diseñar un sistema informático complejo primero necesitas entender cómo funciona lo sencillo. Si dejamos de aprender aquello que ahora puede hacer una IA, ¿con qué criterio vamos a decidir cuándo confiar en ella? Por eso me parece que nuestro papel empieza mucho antes de aprobar o rechazar una recomendación. Empieza cuando nos interesamos por entenderla y aceptamos que utilizar una herramienta también nos exige prepararnos.
Es así que, si vamos a hablar de salir victoriosos, para mí eso significaría aprovechar la inteligencia artificial sin renunciar a hacernos cargo de lo que hacemos con ella. No es nueva la necesidad de responder por nuestros inventos; lo que cambia es el alcance de esa responsabilidad y la necesidad de ejercerla juntos. Y hago una invitación, también a mí mismo, a entender los fundamentos y de vez en cuando atrevernos a resolver un problema con menos ayuda. Quiero que sigamos siendo parte de la solución y que, cuando aparezca el siguiente problema, todavía podamos enfrentarlo.
Comentar