Revista Materialidades Da Literatura | «Las implicaciones culturales, sociales y ambientales de la Inteligencia Artificial (IA) desde una mirada Latinoamericana

Por: Manaíra Aires Athayde (University of California, Santa Barbara) y Rejane Cristina Rocha (Universidade Federal de São Carlos) | Imagen: Núcleo Milenio FAIR | Fuente: Matlit: Materialidades Da Literatura

Cómo pueden las Humanidades Digitales ayudar a crear formas más justas y democráticas de utilización de la Inteligencia Artificial? ¿Y cómo las realidades latinoamericanas pueden ampliar los marcos de interpretación de este fenómeno? Preguntas como estas están en el centro de nuestra entrevista con Wolfgang Bongers y Martín Tironi, profesores de la Pontificia Universidad Católica de Chile y directores del proyecto Núcleo Milenio Futures of Artificial Intelligence Research (FAIR) en Chile. Hablamos de sus experiencias como coordinadores del grupo de investigación interdisciplinar que lleva siete años realizando este proyecto en torno a las implicancias socioculturales de la Inteligencia Artificial, siendo uno de los principales propósitos problematizar la colonialidad digital detrás de muchos sistemas de IA. Nuestra conversación giró en torno a la importancia de desarrollar proyectos de Humanidades Digitales que generen modelos alternativos al extractivismo de datos practicado por muchas empresas digitales, con miras a promover el trabajo colaborativo, descentrado y basado en la pluralidad desde una perspectiva decolonial y situada, articulada a contextos específicos de producción cultural-tecnológica. En lugar de reproducir y reconfigurar asimetrías, proyectos como el Núcleo FAIR se comprometen a desarrollar herramientas críticas que nos ayuden a comprender mejor los impactos de la Inteligencia Artificial en la ecología planetaria, reconociendo sus con-secuencias no solo en las relaciones humanas, sino también en la interdependencia entre todos los seres humanos y no humanos que coexisten en el planeta.

1. ¿CUÁLES SON LAS PROPUESTAS Y OBJETIVOS DEL NÚCLEO MILENIO FUTURES OF ARTIFICIAL INTELLIGENCE RESEARCH (FAIR)?

Somos investigadores e investigadoras de diversos campos, articulados en un grupo interdisciplinario de investigación y experimentación en torno a las implicancias culturales, sociales y ambientales de la Inteligencia Artificial (IA). El proyecto está financiado por la Agencia Nacional de Investigación y Desarrollo de Chile a través de su Iniciativa Milenio.Nuestro principal objetivo es generar marcos de pensamiento desde Chile y Latinoamérica sobre el desarrollo y los efectos de estas tecnologías y, con esto, contribuir a orientar los posibles escenarios que éstas abren, desde la constitución de imaginarios culturales hasta el diseño e implementación de políticas públicas que puedan fomentar o regular el uso de la IA.Buscamos crear espacios de colaboración, aprendizaje y experimentación que reúnan perspectivas críticas desde las ciencias sociales, las humanidades, las artes y las ingenierías, y que amplíen la investigación empírica y la reflexión teórica, fomentando los intercambios entre comunidades locales e internacionales.

2. ¿PODRÍAN DESCRIBIR LA IMPORTANCIA DE LA INTERDISCIPLINARIEDAD PARA LAS ACTIVIDADES DEL NÚCLEO FAIR? ¿CÓMO SE COMPONE EL EQUIPO DE TRABAJO?

Bajo la premisa de que las IAs son un fenómeno social total en la medida en que impactan en todos los ámbitos de la vida, terrestre y espacial, estudiar sus implicancias y explorar eventuales desarrollos inclusivos exige una mirada interdisciplinar. Las y los investigadores principales son Claudia López (UTFSM), Teresa Correa (UDP), Martín Tironi (UC) y Wolfgang Bongers (UC). Venimos de la ingeniería computacional, de la sociología, del diseño y de las humanidades. Esta composición del equipo permite combinar miradas y prácticas heterogéneas y complementarias, enfocando y potenciando las interdependencias entre las materialidades, los usos, los desarrollos, los imaginarios y las ontologías que se generan al observar el fenómeno IA. Proponemos superar las divisiones tradicionales entre las ciencias “duras” y “blandas”, y pensar en nuevos espacios de colaboración y experimentación, juntar desarrolladores, ingenieros, artistas, filósofos, sociólogos, críticos culturales.

3. ¿CUÁLES SON LAS ACTIVIDADES E INVESTIGACIONES QUE YA ESTÁN EN DESARROLLO POR EL GRUPO DE INVESTIGADORES DEL NÚCLEO FAIR?

El trabajo del Núcleo FAIR se despliega en tres líneas de investigación y experimentación que se interseccionan.

En la primera, “IA, justicia social y ciudadanía”, buscamos comprender los nuevos modos de exclusión, inequidades y sesgos que produce el uso de modelos de IA y explorar mecanismos de alfabetización, visibilización y regulación de estos sesgos digitales. A partir de aquí, nos interesa explorar el surgimiento de otras formas de ciudadanía digital, que emergen de la mano con los procesos de datificación y digitalización de la vida social.

En la segunda, “IA, imaginarios culturales y diseño de futuros”, exploramos y analizamos proyectos artísticos y literarios que se hacen cargo de la IA de diferentes maneras y en diversas materialidades: obras y artefactos digitales generados a través de la aplicación de modelos IA; la experimentación crítica con chatbots y otras herramientas de IA generativa; novelas, películas, obras de teatro y videojuegos cuyos temas giran alrededor de fenómenos sociales y culturales asociados al impacto de las tecnologías algorítmicas e IA, o que ponen en escena las interacciones y formas de comunicación que se dan entre los seres humanos y las máquinas en la era de la IA. En este sentido, queremos identificar nuevas ontologías y prácticas de producción cultural en la experimentación artística y su lugar en Latinoamérica.

La tercera línea, “IA, experimentación e innovación responsable”, busca reimaginar otras formas de IA que vayan más allá de los criterios de optimización y eficiencia que comúnmente están presentes en estos sistemas. Para ello queremos experimentar con prototipos de IA que permitan visualizar otras maneras de entender esta tecnología, fomentando innovaciones responsables con los principios democráticos y la situación ambiental planetaria.

Cada línea cuenta con un equipo de trabajo compuesto por investigadores principales, adjuntos y postdoc, asistentes de investigación, tesistas de doctorado, Magíster y pregrado. En los primeros meses de trabajo del Núcleo, hemos realizado encuentros y conferencias a cargo de invitados especiales y de integrantes del proyecto, y conversatorios interdisciplinarios sobre el impacto de los lenguajes y sistemas artificiales en la producción de escrituras creativas y académicas, en el ámbito de los afectos (por ejemplo, a partir de la proyección de Her, de Spike Jonze, 2013, en el Centro Arte Alameda de Santiago), en el desarrollo de estructuras arquitectónicas y en el diseño de objetos. También hemos realizado presentaciones y comentarios sobre libros críticos que hablan de la IA (como el Atlas de la Inteligencia Artificial, de Kate Crawford, 2022).

Para la segunda mitad de este año, hay varias actividades planificadas, entre ellas una muestra de la obra del artista catalán Max de Esteban, dedicada a la reflexión sobre el impacto de la IA en el mundo, en el marco del Festival de Cine de Valdivia; un ciclo de “Cine e IA” en la Universidad Católica; la colaboración en concursos, coloquios y jurados con la Bienal de Artes Mediales y con la PAM (Plataforma de Artes & Medios); la organización de conferencias en el marco del ciclo Futuros Imperfectos, donde participarán los sociólogos Nick Couldry y Ulises Mejías, expertos en temas vinculados a la IA. Asimismo, estamos organizando una exposición en el Centro Cultural Palacio de la Moneda llamada Ecologías Híbridas, que aborda los impactos ambientales del uso de la IA, y trata de desmitificar esta narrativa dominante sobre la desmaterialización de la vida digital.

4. ¿QUÉ CONTRIBUCIONES CREEN QUE PUEDEN HACER LAS HUMANIDADES Y LAS CIENCIAS SOCIALES TANTO PARA EL DESARROLLO DE NUEVAS TECNOLOGÍAS COMO PARA EL DEBATE PÚBLICO SOBRE SUS EFECTOS Y CONSECUENCIAS?

Creemos que la mirada crítica desde las Humanidades es fundamental para el desarrollo de las tecnologías IA, y asimismo para generar un debate público amplio e informado. Existe un enorme desconocimiento sobre el funcionamiento de las tecnologías IA, la famosa “caja negra”, pero también la idea errónea sobre la inmaterialidad de la nube y el mundo digital. Y esto se suma a un miedo generalizado en relación a lo que podría provocar un mayor despliegue de la IA, por ejemplo en torno a la sustitución de los seres humanos por las máquinas inteligentes en muchos aspectos de la vida cotidiana y en el mundo del trabajo. Es necesario darle un giro a esta desinformación y corregirla. Indicar, por ejemplo, el masivo impacto medioambiental en el uso, cada vez más frecuente e imprescindible, de esas tecnologías digitales y de los procesadores en los datacenters instalados en todo el mundo, que consumen una inmensa cantidad de energía y recursos naturales. Por otra parte, y en contraste con las perspectivas centradas en la eficiencia de los algoritmos, nos parece importante adoptar una perspectiva de justicia de datos, abordando cuestiones vinculadas al debilitamiento de procedimientos democráticos, la profundización de desigualdades por sesgos presentes en la IA, discriminaciones y exclusiones de ciertos grupos, precarización de condiciones de trabajo y la deshumanización de procesos de toma de decisión mediante la IA. Desde este enfoque, nos parece fundamental ir creando las condiciones de posibilidad para una transición digital justa y coherente con los límites planetarios, movilizando, por ejemplo, formas de soberanía tecnológica en la ciudadanía, o el desarrollo de algoritmos verdes.

En las artes y la literatura se exploran las nuevas tecnologías principalmente en dos niveles: a nivel práctico, incorporando las herramientas y modelos IA para producir nuevas formas de expresión, explorar nuevas estéticas compartidas entre el ser humano y los programas y máquinas, lo cual genera preguntas sobre el lugar de la creatividad, la colaboración entre humanos y programas en la producción y recepción de textos e imágenes, y sobre los parámetros estéticos que deben ser repensados. A nivel reflexivo, en el cine, la literatura, los videojuegos, se presentan diversos y heterogéneos imaginarios sobre IA que informan no solo a los “prosumidores” comunes, sino también a los desarrolladores y programadores de las tecnologías algorítmicas.

En cuanto a las Humanidades como disciplina académica, es una tarea urgente que se desarrolle una reflexión informada e interdisciplinaria sobre IA, y que se busquen nuevas alianzas con otras Facultades o Institutos.

5. ¿CUÁL ES LA IMPORTANCIA DE PENSAR LA INTELIGENCIA ARTIFICIAL (IA) DESDE LATINOAMÉRICA?

Una aproximación situada desde América Latina es necesaria para comprender la situación global: hay unas pocas corporaciones, las más importantes concentradas en Silicon Valley, California, EEUU, que desarrollan y aprovechan las tecnologías IA a gran escala, y luego las distribuyen en el mundo entero para lucrar con ellas. Esto significa que estamos viviendo una nueva fase de colonización, esta vez de datos, y en varios sentidos: los latinoamericanos, junto a los habitantes de otras regiones más pobres del mundo, como África, se han convertido en sujetos que entregan voluntariamente sus datos y sus archivos de textos e imágenes, a través del uso de las Redes Sociales y las múltiples plataformas que existen. Estos datos y materiales son utilizados por los laboratorios de las corporaciones en los procesos de aprendizaje profundo y optimización de los LLM (Large Language Models) con los que se desarrollan los chatbots como ChatGPT (OpenAI) o Bard (Google).

Entonces, es enormemente importante crear una conciencia sobre estos hechos en la población latinoamericana, pero también de enfrentar esta situación con políticas públicas alternativas, y el desarrollo local de programas y modelos, que llevaría a un uso más justo y democrático de la IA. Creemos que es necesario un trabajo empírico que permita contextualizar la IA, anclarla a los problemas y controversias locales, y no solamente importar los cánones que dictan las potencias en estas materias. Y para ello se necesitan líneas estratégicas de mediano y largo plazo que permitan entregar marcos regulatorios y de testeo, que entendemos que el Gobierno de Chile está desarrollando.

6. ¿QUÉ TIPO DE PROYECTOS PUEDEN CONTRIBUIR A COMBATIR LA REPRODUCCIÓN DE LAS ASIMETRÍAS Y DESIGUALDADES TECNOLÓGICAS Y SOCIOECONÓMICAS QUE HAN CARACTERIZADO AL ÁREA DESDE SU ORIGEN?

Tal como lo ha venido desarrollando la literatura especializada, ante el avance de las tecnologías de la IA se hace necesario analizar críticamente el rol que ejercen estos diseños en la creación de futuros y cómo ciertos imaginarios sobre la IA logran cierta hegemonía, beneficiando a determinados actores y modelos de sociedad por sobre otros. Asimismo, la predicción algorítmica basada en IA, lejos de constituir una técnica neutral, debe ser analizada en sus diseños y contextos de uso, examinando cómo afectan políticamente las realidades y sujetos que buscan anticipar, sobre todo en un contexto de profundas brechas e inequidades digitales como el nuestro.

En este sentido, creemos que es necesario comenzar a abrir la caja negra de los sistemas de la IA, y para ello a diseñar y prototipar modelos alternativos, que no respondan a la matriz productivista del extractivismo de datos actualmente hegemónica. Estamos convencidos que la IA debe experimentar con formas de diseño colaborativo, descentrados y críticos a los establecidos por las grandes corporaciones digitales, basadas en los lugares y saberes situados, reconociendo la pluralidad e interdependencia entre todas las entidades, tradiciones y cosmovisiones que coexisten en el planeta.

Así, por ejemplo, hemos desarrollado proyectos (https://algorithmicidentities.net/) que buscan desarrollar herramientas críticas y descoloniales para que los usuarios puedan comprender los funcionamientos y supuestos detrás de estos sistemas de IA. Este proyecto en específico, busca provocar cuestionamientos y reacciones críticas en las personas sobre sus datos personales y los múltiples algoritmos de los principales servicios en línea. Nos interesa generar un espacio crítico donde los participantes puedan tener una idea de cómo se configura y se escenifica la identidad en un mundo que está cada vez más mediado por tecnologías digitales opacas.

7. PROYECTOS COMO LOS DEL NÚCLEO FAIR, ¿DE QUÉ MANERA REIVINDICAN TEMAS Y/O MODELOS METODOLÓGICOS QUE ESCAPAN A LA HEGEMONÍA DE LOS PARADIGMAS ANGLOAMERICANOS Y NOREUROPEOS EN LOS ESTUDIOS DIGITALES?

En el Núcleo FAIR creemos que una condición para el desarrollo de una IA justa y sostenible pasa necesariamente por la capacidad de dialogar con la multiplicidad de formas de inteligencias humanas y no-humanas que habitan y diseñan nuestros territorios, que muchas veces han sido negadas y olvidadas por el ímpetu insaciable por la innovación y lo nuevo. El avance e innovación de la IA no puede conducirse usando y explotando el planeta en pos del progreso humano, y debemos integrar estos modelos artificiales al ecosistema terrestre. Desde los estudios digitales críticos, hay propuestas diversas que proponen escapar a la lógica hegemónica dualista, que se refleja en dicotomías como naturaleza/ tecnología, naturaleza/ cultura, ser humano/ máquina, explotadores/ explotados. Estas dicotomías generan discursos y prácticas de la explotación, la eficiencia, la optimización, el extractivismo. Buscamos una perspectiva más amplia, una ecología planetaria que prepare y promueva otra convivencia en la Tierra, entre seres humanos y no humanos. Aquí yace el desafío de coexistencia y de composición de lo común, asumiendo que no hay posibilidad de IA sin un planeta con capacidad de regenerarse. La IA no puede conducirse bajo una mirada de progreso lineal y desterritorializada del planeta, sino que debe incorporarse al ecosistema planetario, desarrollando formas de alianzas interespecies, donde el bienestar humano se entienda como interdependiente del cuidado de los múltiples modos de ser y de cocrear mundos.

En este sentido, nos parece fundamental interrogar ciertas narrativas que describen el avance de estas tecnologías como la construcción de un futuro cada vez más desmaterializado, y comenzar a desarrollar una mirada terrestre de estos dispositivos, que reconozcan la huella y el impacto ambiental que tienen estas innovaciones sobre el planeta. No podemos afrontar los posibles escenarios de la Inteligencia Artificial enfocándonos únicamente en los riesgos y beneficios que plantea para los seres humanos, y necesitamos explorar también cómo esta tecnología impacta o colabora con los demás seres vivos y ecosistemas. En otras palabras, el desarrollo de Inteligencia Artificial no puede seguir reproduciendo una mirada antropocéntrica del desarrollo, donde la naturaleza es valorada como reserva para la extracción de materias primas, y tiene que incorporar la pregunta por cómo hacer cohabitar el avance tecnológico con los límites planetarios que enfrentamos con la crisis ambiental.

Por otra parte, la escala, radicalidad y velocidad de los impactos de la Inteligencia Artificial en los modos en que convivimos, trabajamos y nos comunicamos no pueden dejarse en manos de las grandes corporaciones tecnológicas del Norte Global, que hoy están en una carrera fuera de control por desarrollar sistemas digitales cada vez más poderosos. Necesitamos con urgencia incorporar otras epistemologías, ontologías, subjetividades y espacios geográficos en el debate sobre las implicancias de estas tecnologías en la sociedad y el planeta.

El Núcleo Milenio FAIR nace justamente con el propósito de problematizar la colonialidad digital detrás de muchos de los sistemas inteligentes, buscando ampliar los marcos de interpretación de este fenómeno desde la realidad chilena y latinoamericana. Queremos proyectar y robustecer una comunidad de investigación y creación comprometida con la comprensión de los impactos sociales, culturales y medioambientales de la Inteligencia Artificial, favoreciendo enfoques transdisciplinarios, colaborativos, críticos e inventivos.

No queremos simplemente estudiar la IA desde “fuera”, sino que queremos involucrarnos en el diseño de futuros más éticos y sustentables de estos sistemas. Nos parece fundamental asumir que el futuro de la Inteligencia Artificial no es algo inevitable ni aleatorio, y más bien el futuro de estas innovaciones se disputan y diseñan desde un presente siempre situado. Para ello, queremos desarrollar herramientas teóricas, empíricas y proyectuales que contribuyan a re-orientar los futuros de esta tecnología hacia horizontes más participativos, inclusivos y sustentables.

Aires Athayde, Manaíra, e Rejane C. Rocha. 2024. «Las Implicaciones Culturales, Sociales Y Ambientales De La Inteligencia Artificial (IA) Desde Una Mirada Latinoamericana: Una conversación Con Wolfgang Bongers Y Martín Tironi Sobre El Núcleo Milenio Futures of Artificial Intelligence Research (FAIR) En Chile. ». Matlit: Materialidades Da Literatura 10 (1):226-34. https://doi.org/10.14195/2182-8830_10-1_13.