El problema no es la IA, es pensar que tiene la verdad absoluta
José Francisco Ruiz Casanova reflexiona sobre la traducción, la lectura y la escritura en tiempos de IA y plantea una cuestión quizá más incómoda que el avance de las máquinas: ¿qué ocurre cuando el ser humano empieza a renunciar voluntariamente a pensar? El problema no es que la inteligencia artificial se equivoque. El problema comienza cuando nosotros dejamos de contemplar la posibilidad de que pueda hacerlo.
Ignorancia artificial
En Ignorancia artificial. Traducción, lectura y escritura en tiempos de IA, José Francisco Ruiz Casanova pone palabras a uno de los fenómenos que más rápidamente se han integrado en nuestra vida cotidiana. La inteligencia artificial ha dejado de ser una idea reservada a la ciencia ficción o a determinados ámbitos tecnológicos para instalarse en nuestro trabajo, nuestras conversaciones, nuestros estudios e incluso en nuestra manera de tomar decisiones.
Pero el ensayo no se limita a preguntarse qué sabe la inteligencia artificial. Su interrogante resulta bastante más interesante: ¿qué ignoramos nosotros acerca de ella?
TRADUCCIÓN, LECTURA Y ESCRITURA EN TIEMPOS DE LA IA | Fuente: Altamarea
Una inteligencia instalada en nuestras vidas
Desde que la IA comenzó a entrar de forma visible en la vida cotidiana, ha provocado una curiosa mezcla de fascinación, desconcierto y miedo. Pocas tecnologías han conseguido despertar simultáneamente tanta admiración por sus posibilidades y tanta inquietud por sus consecuencias.
Una parte importante de esa preocupación se ha dirigido al terreno laboral. ¿Qué profesiones desaparecerán? ¿Cuáles podrán ser sustituidas? ¿Hasta qué punto una máquina será capaz de hacer aquello que hasta ahora considerábamos exclusivamente humano?
Entre esos sectores, se encuentran precisamente aquellos sobre los que Ruiz Casanova centra buena parte de su ensayo: la traducción, la edición, la lectura y la escritura.
No es casualidad. Son disciplinas estrechamente vinculadas al lenguaje y, en consecuencia, al pensamiento. Traducir no consiste únicamente en sustituir palabras de una lengua por sus equivalentes en otra. Es interpretar intenciones, silencios, referencias culturales, ritmos y estilos. Así como escribir no es solamente ordenar correctamente una serie de vocablos, implica seleccionar, dudar, corregir y, sobre todo, pensar. Ahí comienza una de las grandes contradicciones de nuestro tiempo.
Vivimos obsesionados con mejorar nuestras capacidades: buscamos aumentar la concentración, la memoria, la productividad o el rendimiento. Queremos aprender más rápido, trabajar mejor y, en cierto modo, ser más inteligentes. Sin embargo, al mismo tiempo, delegamos cada vez más procesos intelectuales en una misma herramienta.
Preguntamos antes de investigar. Solicitamos una respuesta antes de formular bien la pregunta. Pedimos una conclusión incluso antes de haber atravesado la incertidumbre necesaria para llegar hasta ella. Y así podemos acabar construyendo una extraña apariencia de sabiduría mientras perdemos, poco a poco, el hábito del razonamiento individual.
¿Por qué necesitamos que tenga todas las respuestas?
Tal vez el verdadero problema no esté únicamente en la tecnología, sino en la sociedad en la que esa tecnología ha aparecido.
Vivimos bajo el imperativo de la inmediatez. Queremos respuestas, decisiones y contenidos rápidos. Incluso nuestros momentos de descanso parecen sometidos a una extraña carrera contra el tiempo. Y la duda necesita precisamente lo contrario.
Dudar requiere detenerse, tiempo para contemplar una cuestión desde diferentes perspectivas, cuestionar aquello que inicialmente parecía evidente y, en ocasiones, descubrir que la pregunta verdaderamente importante era otra.
En este contexto, disponer de una herramienta capaz de ofrecer una respuesta inmediata resulta irresistible. El problema aparece cuando confundimos rapidez con conocimiento y seguridad en la respuesta con verdad.
La falsa fiabilidad
La inteligencia artificial trabaja a partir de información producida, recopilada y digitalizada previamente por seres humanos. Ese detalle, aparentemente obvio, encierra una cuestión fundamental: no todo el conocimiento humano está digitalizado y no todo aquello que sí lo está posee el mismo grado de fiabilidad.
Durante años hemos aprendido a desconfiar de internet. Nos ha sido repetido que no todas las páginas son fuentes válidas, y que debemos contrastar la información y comprobar autorías. Paradójicamente, cuando esa enorme masa de información aparece sintetizada bajo una interfaz capaz de responder con aparente seguridad, nuestras cautelas desaparecen.
No es difícil encontrar una inteligencia artificial que ofrezca un enlace inexistente, atribuya erróneamente una obra a un autor o construya una respuesta perfectamente redactada sobre una premisa falsa. ¿Cuántas veces ocurre sin que lleguemos siquiera a advertirlo?
Ruiz Casanova se detiene precisamente en esta clase de errores y experimenta con la máquina en ámbitos como la poesía y la autoría. El resultado sirve para desmontar una idea especialmente peligrosa: que una respuesta correctamente construida tiene necesariamente que ser cierta. La máquina puede equivocarse. Y puede hacerlo, además, con una extraordinaria apariencia de certeza. Por eso el peligro no es únicamente que ignore, es que nosotros ignoremos que ignora.
Cambios con la creación de la IA
El temor ante una transformación tecnológica tampoco pertenece exclusivamente a nuestro tiempo.
La imprenta alteró profundamente la circulación del conocimiento. La Revolución Industrial modificó trabajos, ciudades y estructuras económicas enteras. Así como, Internet revolucionó después prácticamente todos los ámbitos de la sociedad.
Cada gran avance tecnológico ha hecho desaparecer determinadas formas de trabajar y, al mismo tiempo, ha creado otras nuevas. La inteligencia artificial probablemente transformará profesiones que hoy consideramos consolidadas, pero también modificará la distribución de nuestro tiempo y, con ello, los sectores económicos que lo ocupan.
El crecimiento de las denominadas leisure industries —industrias vinculadas al ocio, el entretenimiento y la cultura— es una muestra de cómo los cambios productivos generan también nuevas necesidades. Cuando una sociedad transforma su manera de trabajar, acaba modificando también la forma en la que emplea sus horas libres.
La cuestión, por tanto, quizá no debería reducirse a preguntar qué puestos de trabajo eliminará la IA, sino a plantearnos qué clase de sociedad queremos construir con el tiempo y las capacidades que pueda liberarnos. Porque sustituir una tarea mecánica puede significar progreso. Sustituir nuestra capacidad de decisión es otra cosa.
¿Aceptaríamos que una máquina determinara por sí sola una sentencia judicial? ¿Que decidiera una guerra o una paz? ¿Que una sucesión de cálculos sustituyera completamente a la deliberación humana? La tecnología puede procesar millones de datos con una velocidad imposible para nosotros. Pero capacidad de cálculo y criterio no son necesariamente sinónimos.
Traducir no es sustituir palabras
Es precisamente en el terreno de la traducción donde este debate adquiere una dimensión especialmente interesante. Grandes editoriales ya experimentan con herramientas capaces de traducir obras cuyo coste quizá habría impedido hasta ahora su publicación en determinados idiomas. Desde una perspectiva económica, la posibilidad resulta evidente: una primera traducción automática y una posterior revisión humana permiten reducir tiempos y costes. Pero aparece entonces otra pregunta: ¿qué entendemos exactamente por traducir?
Una novela no es únicamente aquello que cuenta. También es cómo lo cuenta. Está el ritmo de las frases, la elección deliberada de una palabra y no otra, las repeticiones, la musicalidad, las ambigüedades o incluso los errores conscientes de un escritor. Existe una voz. Una inteligencia artificial puede producir una traducción sintácticamente correcta y, sin embargo, borrar parte de esa voz.
Quizá para una instrucción técnica sea suficiente. Quizá también para determinados textos informativos. Pero quien desea leer literatura no busca únicamente comprender los acontecimientos narrados. Quiere, de algún modo, escuchar al autor. Y ahí el traductor sigue ocupando un espacio difícil de sustituir.
Además, como recuerda Ruiz Casanova, los sistemas tecnológicos se alimentan de los textos disponibles en la red. Correctos e incorrectos. Obras cuidadosamente editadas y páginas escritas sin ningún criterio filológico.
Asumir que el resultado necesariamente superará ese material de partida supone olvidar cómo funciona la propia herramienta. También supone aceptar otra premisa falsa: que todo aquello que merece ser conocido ya ha sido digitalizado.
Una herramienta, no un oráculo
Quizá no se trate de temer a la IA ni de confiar ciegamente en ella, sino de entenderla y conocer sus límites. Utilizada para ampliar perspectivas, acelerar procesos o plantear posibilidades que después examinemos críticamente, su potencial es extraordinario. Pero si sustituye nuestra voluntad de aprender, comprobar o razonar, el avance empieza a parecerse demasiado a una renuncia.
En uno de los pasajes citados por Ruiz Casanova aparece una frase especialmente inquietante: «Tal vez, a fuerza de inventar, el hombre acabe perdiendo su inventiva».
Durante siglos, hemos creado herramientas para ampliar nuestras capacidades. Ahora, hemos creado una que interviene precisamente en aquello que creíamos más nuestro: pensar, escribir y crear. El reto no consiste en competir con ella, sino en no abandonar aquello que hizo posible crearla: nuestra inteligencia.
Porque nunca hemos tenido tanto conocimiento al alcance de la mano. Pero disponer de conocimiento no equivale a poseer sabiduría. Como dijo Harold Bloom: “en internet todo conocimiento está a nuestro alcance, solo falta la sabiduría”.
