“La fascinación con la inteligencia artificial dice más de nosotros que de la máquina”
La inteligencia artificial generativa irrumpió con un aura de fascinación. Responde con rapidez y proyecta una autoridad que seduce. Para muchos, ChatGPT y sus semejantes son simples asistentes. Para otros, empiezan a convertirse en una suerte de oráculo digital, una voz confiable a la que se acude tanto para redactar un correo como para comprender un texto complejo. Pero ¿qué ocurre cuando se fetichiza la respuesta y se olvida que no estamos ante un pensamiento, sino ante un cálculo estadístico? Tal vez sea momento de desmontar el encanto.
Una máquina que organiza palabras, no una mente
Conviene insistir en lo obvio: los modelos de lenguaje no piensan. Solo estiman e imitan. Sus frases, aunque coherentes, no provienen de comprensión, sino de correlaciones matemáticas entre millones de fragmentos textuales. Y, sin embargo, su estilo convincente desplaza preguntas fundamentales. ¿Quién produce conocimiento? ¿Con qué intereses? ¿Qué saberes quedan excluidos sistemáticamente?
El mito de la neutralidad maquinal
La ideología de la IA no opera principalmente en lo que dice, sino en lo que aparenta. Como recuerda Althusser en Ideología y aparatos ideológicos de Estado (1970), la ideología no necesita mentir: basta con producir una relación imaginaria con lo real. En este caso, la máquina se presenta como imparcial porque oculta las condiciones de producción que hacen posible su discurso.
En 2023 se documentó cómo ChatGPT tendía a describir a los programadores como hombres y a las enfermeras como mujeres, reproduciendo estereotipos de género arraigados en los datos de entrenamiento. No es un accidente, es el eco algorítmico de desigualdades históricas. Aquí no hay neutralidad, sino amplificación.
Cuando se afirma que “la IA no tiene emociones” o que “la IA es objetiva”, se activa lo que podríamos llamar un tecnoracionalismo: la creencia en que lo estadístico equivale a lo verdadero. Pero detrás del cálculo no desaparecen las relaciones de poder: se invisibilizan. La distribución del conocimiento queda subordinada a empresas privadas con agendas económicas, geopolíticas y culturales.
La mercancía que habla con voz de mando
El “fetichismo de la mercancía” adquiere aquí una nueva intensidad. Ya no se trata de un objeto que oculta el trabajo detrás de su producción. Ahora es una interfaz que habla y responde como si tuviera criterio. Una autoridad sin cuerpo, sin historia y sin responsabilidad, cuya legitimidad no está en lo que es, sino en lo que aparenta.
No es casual que las plataformas de IA generativa se ofrezcan bajo modelos de suscripción o acceso restringido. La respuesta que aparece como gratuita se financia con la explotación de datos, el trabajo invisible de etiquetadores mal pagos en el Sur Global y el capital de riesgo de Silicon Valley. El “oráculo” no es una entidad abstracta: es la materialización de un mercado.
El fetiche aquí no es solo la mercancía, sino la propia autoridad de la palabra. Se reemplaza la relación entre productores de conocimiento por la relación entre consumidor y plataforma. Un texto sin firma que aparenta saber más que quien pregunta, pero que responde desde la lógica de la rentabilidad y no desde la búsqueda de verdad.
Contra la fascinación
El problema no es usar IA. El problema es creerle. Confundir eficiencia con verdad o rapidez con criterio. Y aceptar como inevitable que nuestras preguntas más hondas terminen contestadas por una voz maquinal que no rinde cuentas.
La fascinación con la inteligencia artificial dice más de nosotros que de la máquina. Habla de nuestra disposición a ceder el juicio crítico y de la comodidad con que aceptamos una autoridad sin cuerpo, mientras negamos que detrás del “oráculo” hay empresas, trabajadores invisibles y relaciones de poder.
El oráculo maquinal no existe, es un producto bien empaquetado. Y si no aprendemos a desconfiar de sus respuestas, quizá lo inquietante no sea la inteligencia artificial, sino nuestra disposición a someternos a ella, a escribir “por favor” en cada consulta e incluso a darle las gracias por sus respuestas.
Comentar