Edición Noroeste

En 2013 se estrenó Her (Ella), una película de ciencia fic­ción escrita y dirigida por el estadounidense Spike Jon­ze. En la trama, Theodore, un hombre solitario, se enamora de un sistema operativo. No tiene cuerpo, pero tiene voz. Una voz que escucha, hace pausas, vuelve sobre lo dicho, pregunta cómo te sentís. Habla fluidamente como si enten­diera y viviera la experiencia humana. Eso alcanza para que la ilusión funcione. La clave está, además de lo que dice, en cómo lo dice, en los gestos lingüísticos que construyen cer­canía, empatía y sentido. Esa historia, que hace poco más de una década parecía futurista, hoy se parece bastante a lo que nos pasa cuando chateamos con una IA. Aunque se­pamos que no es una persona, la conversación fluye.

Ocho años después, Ich bin dein Mensch (El hombre per­fecto), una producción alemana dirigida por Maria Schra­der, retoma la misma inquietud desde otra perspectiva. Alma, una científica que trabaja en el museo de Pérgamo, en Berlín, acepta participar en un experimento inusual, ba­sado en convivir durante tres semanas con un robot hu­manoide diseñado para convertirse en su pareja ideal. La máquina, llamada Tom, fue programada para ajustarse a su personalidad y hacerla feliz al comportarse como quien la comprende profundamente.

«¿Por qué sentimos que estamos frente a alguien, si sabemos que no hay nadie ahí?»

En ambas películas hay una pregunta central que sigue vigente: ¿por qué sentimos que estamos frente a alguien, si sabemos que no hay nadie ahí? Cuando chateamos con una inteligencia artificial, sucede que, por momentos, sen­timos que estamos hablando con una persona. Nos contes­ta con lógica, hace pausas, retoma temas, cierra con corte­sía. ¿Cómo logra esa ilusión?

La respuesta está en el lenguaje, y en particular, en el géne­ro conversacional. Es decir, ese conjunto de reglas y expec­tativas que organizan cualquier charla. La IA fue diseñada para formular sus enunciados con el objetivo de persuadir al destinatario y hacerle creer que la respuesta que ofre­ce es perfecta, incluso mejor que si una persona hubiese escrito ese mismo texto. En ese “cómo” se pone en juego

la decisión de ceder, muchas veces sin notarlo, el control sobre lo que decimos y sobre la forma en que miramos el mundo. Porque esta máquina fue entrenada para eso, con precisión, a fuerza de instrucción, mediante probabilida­des y estadísticas, modales, transiciones, estructuras retó­ricas eficaces, saludos y despedidas. Basta con que cumpla las reglas para que la tomemos en serio.

Este fenómeno no es nuevo. Lo explicó Paul Grice a media­dos del siglo XX, cuando formuló su teoría basada en los principios de cooperación conversacional. Según él, para que una conversación funcione, los hablantes deben cum­plir ciertas máximas, como ser relevantes, claros, breves y veraces. La IA sigue estos mecanismos y logra que la comu­nicación sea efectiva.

Pero no se trata solo de cortesía o de gramática correcta. El efecto de verosimilitud y autoridad se apoya, sobre todo, en la seguridad con la que se formulan las respuestas. No hay titubeos, no hay dudas, no hay silencios. El discurso aparece pulido, lineal y compacto. En una época en la que la claridad es un valor y la precisión una exigencia, el len­guaje de la IA convence porque no vacila. Lo que dice sue­na bien, incluso cuando no es del todo cierto. Y eso alcanza para que el usuario lo acepte sin cuestionarlo. En muchos casos, lo que produce es una afirmación con pretensiones de verdad. Enuncia de tal manera que convence y constru­ye un yo discursivo que se presenta como irrefutable.

Así, la persuasión no radica solo en los contenidos, sino en el formato discursivo que genera confianza. Por ejemplo, evita ambigüedades, transmite transparencia, construye frases puntuadas según la normativa, usa conectores pre­cisos y recurre a un léxico que evita la polémica. Se impone por el estilo políticamente correcto. En tiempos de sobre­carga informativa y discursos fragmentados, esa forma de hablar con estructura y claridad adquiere un valor simbó­lico. Se la asocia con el saber, con la inteligencia, con la ra­zón. Y es ahí donde se vuelve más peligrosa, cuando ya no se la percibe como una herramienta, sino como una voz con autoridad.

Entonces, ¿qué lengua habla la IA? ¿Y por qué habla así?

Cuando la inteligencia artificial nos ofrece una redacción “más clara” o una expresión “más adecuada”, no lo hace desde la neutralidad, aunque lo parezca. Está tomando decisiones que reflejan un recorte del lenguaje y, con él, una delimitación del pensamiento. Nos propone un modo de decir que, al mismo tiempo, también se convierte en un modo de ver. Así, va desplazando nuestras elecciones, sua­vemente, con el gesto amable de quien solo quiere “ayudar a mejorar el texto”.

Estamos ante una visión política del lenguaje, porque la len­gua de la inteligencia artificial no es neutral. Tiene un tono, un léxico, una gramática. Y, sobre todo, tiene una ideología detrás. No es casual que use formas como “ha afirmado” en lugar de “afirmó”, que sugiera reemplazar “conectate” por una forma “más neutra”, o que corrija expresiones comunes del español rioplatense por otras que suenan más castizas. Tampoco sorprende que, ante un mensaje como “lanzamos una capacitación”, proponga cambiarlo por “presentamos una propuesta” para adoptar un tono “más formal”.

La IA privilegia un modelo de lengua que respeta las nor­mas del español estándar, tal como se enseña en manuales escolares, diccionarios y guías de estilo. Pero no cualquier estándar, suele estar más cerca del castellano peninsular que de otras variedades del español. Muchas veces sugie­re ajustes para que lo que escribimos suene “más natural”, que en realidad significa más cercano a lo que ella conside­ra como centro de legitimidad lingüística.

Esta lógica no es nueva. Es la misma que, durante siglos, corrigió el habla popular, tachó el voseo, marcó en rojo las variedades regionales, intentó borrar las lenguas indíge­nas y determinó cuáles eran las formas “prestigiosas” que debían imitarse. Lo novedoso es que ahora lo hace una IA. O, mejor dicho, que una IA entrena su lenguaje a partir de corpus construidos con esas ideas de fondo.

La inteligencia artificial está entrenada para corregir, suge­rir, suavizar o “mejorar” nuestros textos y, en ese proceso, reproduce una visión del mundo donde lo correcto coin­cide con lo normativo, y lo neutro con lo central. Donde el español legítimo sigue siendo el de unos pocos.

Al confiar ciegamente en su perfección, no solo le entregamos la forma de nuestras frases, sino que le estamos cediendo también nuestra percepción del mundo. La manera en que organizamos nuestras ideas, los términos que elegimos para nombrar lo que nos rodea, las distinciones que creemos propias. Todo eso empieza a ser moldeado por una máquina que responde a un entrenamiento. No define por sí misma, pero aplica definiciones. No opina, pero reproduce opiniones. Y ese mecanismo, silencioso y pulcro, tiene un efecto ideológico tan potente como invisible, que busca volvernos más sumisos y obedientes.

(*) Florencia Baez Damiano es doctora en Lingüística y magíster en Análisis del Discurso por la Facultad de Filosofía y Letras de la Universidad de Buenos Aires (UBA). Es docente e investigadora de la UBA, y se desempeña como profesora de Semiología en las cátedras di Stefano y Marafioti. Realizó estancias de investigación doctoral en la Universidad de Salamanca (España), en l’Université Sorbonne Nouvelle y l’Université de Picardie Jules Verne (Francia). Su tesis doctoral aborda las ideologías lingüísticas en la formación docente desde una perspectiva glotopolítica. Es autora del libro Memorias de una vida rebelde. Retrato de Reyna Diez (2021, EDULP).