Cuando hoy se habla de inteligencia artificial, el relato dominante, ese que circula en los anuncios corporativos y en los titulares de prensa, tiende a presentar los grandes modelos de lenguaje como el producto de unos pocos laboratorios, de unos cuantos ingenieros brillantes y de un cómputo casi abstracto, como si el conocimiento que esos sistemas condensan hubiera brotado, limpio, de la mente de sus creadores. Ese relato se parece demasiado, y no por casualidad, a las historias heroicas de la ciencia que el seminario nos invitó a desmontar, aquellas en las que el genio europeo descubre, nombra y clasifica, mientras los guías, intérpretes, cargadores y recolectores que hicieron posible el hallazgo quedan por fuera de la página. En este ensayo quiero sostener que la producción de los modelos de inteligencia artificial reproduce, con otros materiales y a otra velocidad, la misma economía de intermediarios que Kapil Raj describe para las empresas científicas de la modernidad, y que esa economía sigue, en buena medida, las rutas, las asimetrías y las lógicas de borramiento propias de la colonización. Para ello, pondré en diálogo la noción de mediación técnica de Bruno Latour (1999), la figura del go-between estudiada por Raj (2016), la deuda de la ciencia con la trata esclavista que documenta Sam Kean (2019) y la categoría de zonas de contacto que propone Andrés Vélez-Posada (2024), con el caso contemporáneo del etiquetado de datos realizado por trabajadores del Sur global.
Mediación técnica: la acción nunca es de uno solo
En “Un colectivo de humanos y no humanos”, Latour retoma la vieja polémica entre quienes dicen que las armas matan a la gente y quienes responden que es la gente la que mata, y muestra que ambas posiciones fallan por lo mismo, porque suponen que existe un sujeto puro, o un objeto puro, al que se le puede imputar la acción. Lo que hay, en cambio, es un híbrido, un ciudadano-arma, un actante compuesto cuya acción no le pertenece a ninguno de sus componentes por separado sino a la asociación (Latour, 1999). De ahí se desprenden los sentidos de la mediación técnica que el autor desarrolla, la traducción, que desvía los programas de acción originales, la composición, que reparte la acción entre muchos actantes, la cajanegrización reversible, que oculta a esos actantes detrás de un artefacto que parece funcionar solo, y la delegación, que desplaza en el tiempo y en el espacio la voluntad de unos hacia la materia de otros, como ocurre con el policía acostado que reemplaza al agente de tránsito.
El tercero de esos sentidos es, a mi juicio, la clave para pensar la inteligencia artificial. Un modelo de lenguaje es una caja negra en el sentido más literal, porque el usuario que le escribe a un asistente conversacional no ve los centros de datos, ni los cables submarinos, ni a las personas que, durante meses, leyeron, clasificaron y corrigieron millones de fragmentos de texto para que el sistema respondiera de manera aceptable. Latour insiste en que basta con que la caja se dañe para que reaparezcan, uno por uno, los actantes que la componían; el problema, y aquí aparece la dimensión política que Langdon Winner (1986) ya advertía en los artefactos, es que en el caso de la inteligencia artificial la caja casi nunca se abre, y cuando se abre, aparecen no solo piezas técnicas sino cuerpos, salarios y geografías.
Go-betweens: los que hacían posible el saber y desaparecían del relato
Kapil Raj (2016) propone desplazar la mirada desde los centros europeos hacia los espacios de circulación, entendiendo que el conocimiento no se difunde desde un centro hacia una periferia pasiva sino que se produce en el movimiento mismo, en los encuentros, negociaciones y traducciones entre actores de distinto origen. En ese movimiento, los go-betweens, intérpretes, informantes nativos, guías y viajeros, fueron indispensables, porque eran ellos quienes conocían las lenguas, los caminos, las plantas y las costumbres que los naturalistas imperiales necesitaban convertir en datos. Sin embargo, como señala Raj, esa centralidad práctica contrastaba con su marginalidad en el relato final, pues los informes, mapas y tratados que llegaban a Londres o a París solían borrar, o reducir a una nota, la participación de quienes habían hecho el trabajo de campo.
El caso de los pundits indios, que Raj ha estudiado, resulta especialmente elocuente, pues se trataba de hombres entrenados por la administración británica para recorrer el Tíbet y Asia central contando sus pasos con rosarios y registrando medidas de manera disimulada, es decir, de viajeros humanos convertidos en instrumentos de medición. La imagen no podría ser más cercana a la del etiquetador de datos contemporáneo, alguien cuyo criterio, cuya lengua y cuyo conocimiento situado se ponen al servicio de una máquina que, al final, aparecerá ante el mundo como autónoma. Sam Kean (2019), por su parte, recuerda que buena parte de la historia natural de los siglos XVII y XVIII dependió de la infraestructura de la trata esclavista, de los barcos negreros que transportaban especímenes junto con personas esclavizadas y de los saberes botánicos y médicos de africanos que rara vez fueron reconocidos como autores. La ciencia viajó por las mismas rutas que la explotación, y se alimentó del conocimiento de quienes esas rutas convertían en mercancía.
Rutas de navegación, rutas de fibra
Los cables telegráficos submarinos del siglo XIX se tendieron, en gran medida, siguiendo las rutas marítimas y los puertos del imperio británico, y se aislaron con gutapercha extraída de las colonias del sudeste asiático; muchos de los cables de fibra óptica que hoy sostienen internet aterrizan en esos mismos puntos o siguen trazados heredados de aquella red (Starosielski, 2015). Si David Livingstone (2010) nos enseñó que el conocimiento tiene lugar, que se produce en paisajes concretos y que su autoridad depende del sitio desde donde se enuncia, la geografía de la inteligencia artificial confirma la lección con una nitidez incómoda, pues los centros de datos y el capital se concentran en el Norte global, mientras los minerales y el trabajo de anotación se extraen, mayoritariamente, del Sur.
Arndt Brendecke (2012) mostró que el imperio español funcionaba como un sistema de información en el que la corte, lejos de los territorios, necesitaba que las colonias produjeran reportes, relaciones y descripciones que le permitieran gobernar a distancia, y que esa asimetría entre quienes observaban y quienes decidían era constitutiva del dominio colonial. Las empresas que hoy entrenan modelos ocupan un lugar análogo al de aquella corte, pues reciben, desde una multitud de lugares remotos, los juicios, las correcciones y las clasificaciones que convierten el texto crudo de internet en un sistema utilizable, sin que los productores de ese saber tengan voz sobre su uso. Lo que antes viajaba en galeones hoy viaja en paquetes de datos, pero la dirección del flujo es parecida.
Etiquetadores: los nuevos go-betweens
En enero de 2023, una investigación de la revista TIME reveló que trabajadores contratados en Kenia por la empresa Sama, subcontratista de OpenAI, recibían menos de dos dólares por hora para leer y etiquetar descripciones de abuso sexual, violencia y discursos de odio para entrenar los filtros que harían a ChatGPT menos tóxico (Perrigo, 2023). Estos trabajadores son los go-betweens de nuestro tiempo, traductores entre el caos del lenguaje humano y la forma estable que exige el modelo, intermediarios que, como los guías e intérpretes de las expediciones, aportan un conocimiento que el sistema no puede producir por sí mismo, y que, igual que ellos, desaparecen del relato cuando el producto se presenta al público. Kate Crawford (2021) ha descrito este fenómeno como parte de una industria extractiva, y Mary Gray y Siddharth Suri (2019) lo han llamado trabajo fantasma, precisamente porque su condición de posibilidad es la invisibilidad.
Vélez-Posada (2024) propone las zonas de contacto como categoría para una historia global del conocimiento, entendidas como espacios de encuentro asimétrico donde el saber se coproduce mientras se imponen jerarquías. Las plataformas de anotación de datos son, en este sentido, zonas de contacto deslocalizadas, en las que un trabajador en Nairobi, Caracas o Manila interactúa con un sistema diseñado en California, bajo reglas que no ha definido y con una remuneración que refleja, más que el valor de su conocimiento, la desigualdad global en la que está inscrito. Que el encuentro ocurra a través de una interfaz y no en un muelle no lo hace menos colonial.
Conclusión
Leer la inteligencia artificial con Latour y con Raj permite deshacer la ilusión de autonomía que rodea a estos sistemas, pues muestra que su acción es siempre la de un colectivo de humanos y no humanos, y que ese colectivo está organizado según rutas, jerarquías y borramientos que la historia de la ciencia colonial ya conocía. No se trata de afirmar que la colonización se repite idéntica, sino de reconocer que la cajanegrización de los modelos cumple hoy la misma función que cumplían los informes y tratados que omitían a los intermediarios, la de concentrar el crédito en el centro y diluir el trabajo en la periferia. Una historia del conocimiento comprometida con la simetría tendría que abrir esa caja y devolverle nombre, lugar y valor a quienes la llenan.
Referencias
Brendecke, A. (2012). Paseos por el mundo. El setting epistemológico de la corte. En Imperio e información. Funciones del saber en el dominio colonial español (pp. 123-154). Iberoamericana-Vervuert.
Crawford, K. (2021). Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press.
Gray, M. L., y Suri, S. (2019). Ghost work: How to stop Silicon Valley from building a new global underclass. Houghton Mifflin Harcourt.
Kean, S. (2019). Science’s debt to the slave trade. Science, 364(6435), 16-20. https://doi.org/10.1126/science.364.6435.16
Latour, B. (1999). Un colectivo de humanos y no humanos. Un recorrido por el laberinto de Dédalo. En La esperanza de Pandora. Ensayos sobre la realidad de los estudios de la ciencia (pp. 208-257). Gedisa.
Livingstone, D. N. (2010). Landscapes of knowledge. En P. Meusburger, D. N. Livingstone y H. Jöns (Eds.), Geographies of science (pp. 3-22). Springer.
Perrigo, B. (2023, 18 de enero). Exclusive: OpenAI used Kenyan workers on less than $2 per hour to make ChatGPT less toxic. TIME.
Raj, K. (2016). Go-betweens, travelers, and cultural translators. En B. Lightman (Ed.), A companion to the history of science (pp. 39-57). Wiley Blackwell.
Starosielski, N. (2015). The undersea network. Duke University Press.
Vélez-Posada, A. (2024). Contact zones for a global history of knowledge. Journal for the History of Knowledge, 5, 209-218. https://doi.org/10.55283/jhk.18612
Winner, L. (1986). Do artifacts have politics? En The whale and the reactor. A search for limits in an age of high technology (pp. 19-39). The University of Chicago Press.
Comentar