El Mostrador | «Autor español Jorge Carrión: La IA «nos condiciona desde hace tiempo sin que fuésemos conscientes»»

12 de junio 2024

Por: Emilia Aparicio | Imagen: Beto Gutiérrez | Fuente: El Mostrador

El destacado escritor y crítico español visita Chile esta semana, invitado por el Núcleo Milenio FAIR y el Centro Cultural de España, para inaugurar la exposición “Ficciones generativas”, participar en conversatorios y presentar sus libros.

A mediados de mayo, OpenAI reveló una nueva interfaz de conversación para ChatGPT con una voz sintética muy similar a la de la asistente de IA interpretada por Scarlett Johansson en la película de ciencia ficción Her (2013), aunque la voz se desactivó rápidamente. La ficción dirigida por Spike Jonze cuenta la historia de un hombre solitario que está a punto de separarse de su expareja y que se enamora de un sistema operativo artificialmente inteligente interpretado por Johansson.  Tras la aparición de la voz en el interfaz de ChatGPT, Johansson emitió un comunicado en el que afirmaba haber forzado a OpenAI a desistir, después de que sus abogados exigieran a OpenAI que aclarara cómo se había creado la nueva voz. A 11 años del estreno de la película, la ficción se volvió realidad.

Al igual que en obras clásicas de la literatura y el cine, la relación humano-máquina es un tema que preocupa a muchos. El escritor, crítico cultural y guionista español Jorge Carrión se dedica al pensamiento en torno a la creación con y sobre IA.

“El punto central es que [la IA] nos atraviesa constantemente ya hace muchos años. Todas nuestras búsquedas en internet, toda nuestra interacción con redes sociales, todo el consumo cultural tiene que ver con inteligencia artificial. Llevamos inteligencia artificial en el teléfono móvil y está omnipresente en internet. Me parece que lo fascinante es que nos condiciona hace un tiempo sin que fuéramos conscientes de ello y que ahora con las nuevas interfaces, las nuevas herramientas como ChatGPT, ese diálogo se ha vuelto mucho más explícito y directo”, dice a El Mostrador.

En ese sentido, explica que sobre las metáforas que existen sobre IA, a la que más adhiere es la de Copilot.

“Hace prácticamente un siglo que existe el piloto automático de los aviones, hace muchas décadas que se ensaya y se consigue que los coches sean autónomos y esa idea de que copilotamos juntos el futuro, la IA y nosotros, me parece que es la más acertada”, opina.

“No es que el ChatGPT piense por ti, es una herramienta que piensa contigo y que depende de ti el grado de autonomía que puede tener en tu vida”, agrega.

El escritor está en Chile presentando su proyecto Todas las novelas son museos de ciencia ficción como parte de la exposición colaborativa Ficciones generativas: imágenes, palabras, territorios.

La propuesta consiste en una serie de textos y objetos vinculados con los proyectos, un espacio de escucha y una serie de piezas artísticas que aparecen en Todos los museos...: Speculative Intimacy: An understanding of Control, de Alicia Kopf, Anatomy of an IA System, de Kate Crawford y Vladan Joler, y Mare, del Supercomputing Center de Barcelona.

La muestra, organizada por GAM y el Núcleo Milenio FAIR, fue inaugurada este martes en el Centro Cultural Gabriela Mistral (GAM) y constará también de una jornada de conversación, este miércoles a las 19:00 horas, en el Centro Cultural de España (Providencia 927), junto con Daniela Catrileo y Graciela Speranza, bajo el título de “Literatura y artes en la era de las inteligencias maquínicas”.

Todas las novelas son museos de ciencia ficción es un proyecto artístico que se presentó por primera vez en 2021 en Granada. A través de la transformación de algunos de sus libros, el autor creó una exposición donde dialogan textos, objetos y artefactos. Las obras exploran diversas formas y figuras de interacción entre seres humanos e IA, recurriendo a imaginarios distópicos, utópicos y colaborativos.

Carrión señala que la muestra del GAM es una mutación de la original, ya que incluye artistas chilenos. Junto a Carrión se expondrán Nampülwangulenfe / Mapunauta de Daniela Catrileo y Nicole L’Huillier (Chile), La Sagrada Biblia Artificial de Estudio San Martín (Chile), Organismos emergentes de Jaime Cid (Chile), Terram in Aspectu de Liliana Farber (Uruguay) e Inteligencia Artificial, Arte e Indigeneidad del Colectivo AIAI.

¿Crear con o sin IA?

El acceso a plataformas de Inteligencia Artificial ha llevado a distintas preguntas sobre los límites de estos y cómo influencian o desafían la creación artística. Desde las artes han surgido opiniones diversas sobre integrar o no la IA en las prácticas creativas, algunos artistas miran con cierta suspicacia estas herramientas. De hecho, hace algunos días, el escritor chileno y Premio Nacional de Literatura Hernán Rivera Letelier dijo:  “Cuando inventen una IA con intuición, con imaginación, con memoria y con experiencia -los cuatro elementos con los que yo escribo, las cuatro herramientas con las que yo trabajo-, entonces hablamos de competición”.

Por otro lado, Carrión publicó en 2023  Los campos electromagnéticos, un libro que fue coescrito entre humanos y máquinas.

“Usé el GPT-2 y el GPT-3 para mi libro Los campos electromagnéticos, pero no lo uso en mi vida cotidiana, aunque incluso cuando no usas Copilot, ni Gemini ni ChatGPT estás usando la IA”.

En ese sentido, sostiene que “incluso los escritores que se resisten a experimentar con ella, utilizan los buscadores o están suscritos a Netflix. La IA está ahí y atraviesa tu consumo cultural, por tanto atraviesa tu mirada y está en tu escritura, no puedes evitarla”.

Aunque, menciona que “todo cambiará si llega con la singularidad, es decir, ese momento en que haya una autoconciencia de la máquina y se pueda autoproducir. Ahí entremos en terrenos parecidos a los del sueño o el deseo”.

“Lo más importante de la creación artística es la combinación de elementos y de materiales, en nuestro caso de palabras, y las máquinas cada vez combinan mejor las palabras”, afirma.

Sesgos de género en IA

La influencia de datos sesgados es determinante en la reproducción de sesgos en los algoritmos de IA. Cuando estos algoritmos se entrenan con conjuntos de datos que reflejan prejuicios de género presentes en la sociedad, la IA puede replicar y amplificar esos sesgos en sus decisiones y resultados. Respecto a esto Carrión recuerda la película Her y la copia de la voz de Johansson.

“El nuevo fenómeno con el cual Estados Unidos ha sido la primera potencia económica es la inteligencia artificial y ha sido producida en un país muy imperialista y sobre todo por hombres blancos, aunque no solo porque atraen talento global. Pero sí que ha sido producida por un país con un tipo de ser humano muy concreto, que evidentemente ha trasladado sus sesgos y sus limitaciones a la máquina y ahora se intenta corregir eso”, explica.

En ese sentido, menciona que “lo que vemos es que Her se ha cumplido en la realidad y es algo que yo he trabajado en mis libros y en el podcast Solaris. Samantha es la asistenta de un hombre blanco,  de hecho Siri y Alexa suponen un problema porque son mujeres al servicio de personas pero también de hombres, en un esquema vertical que no habría que repetir”.

“Yo creo que las empresas son más o menos conscientes de eso, pero el hecho de que le robaran la voz a Scarlett Johansson demuestra que todavía hay mucho camino por recorrer”, concluye.