En el momento en que escribo estas páginas el multimillonario Elon Musk anunció la demanda a los fundadores de OPEN IA por darle la espalda a su política de ayudar a la humanidad y dedicarse, en cambio, al lucro. Que demande no resulta sorprendente, pero que la empresa se haya promocionado como benefactora de la humanidad para luego dedicarse a los negocios resulta simplemente aburrido, obvio. ChatGPT parece extraída de la ciencia ficción y no son pocos los pensadores que advierten sobre los riesgos en las diferentes dimensiones de la sociedad, desde la academia hasta la democracia. Sin embargo, existe un riesgo que me inquieta de manera particular y está estrechamente ligado con uno de los ancestros más famosos del computador: la calculadora. Me explico.

A diferencia de mis compañeros de clase y de mi hermana mi amor por las matemáticas fue amor a primera vista. Había algo simplemente encantador en los números. Me gustaba multiplicar cifras enormes al respaldo de mis cuadernos y darme a la tarea de revisarlas entre clase y clase. Las calculadoras me parecían mágicas (y ni hablar del reloj calculadora). Me gustaba encontrar las distintas maneras en que aparecía la pantalla la aterradora “E” de error y manejar la memoria que hoy parece tan poco. Me siento como un arqueólogo hablando de instrumentos hechos en piedra, pero miro hacia atrás y encuentro un encanto. Recuerdo que una vez le pregunté a mi profesora de matemáticas si la calculadora alguna vez cometía un error, si debía revisar sus operaciones de la misma manera que ella nos recomendaban comprobar las nuestras. No, me dijo, jamás falla. ¿Nunca?

Nunca.

Pasaron las décadas y llegaron los traductores y me lancé quizá con el mismo escrúpulo del niño aquel que jugaba con la calculadora en medio de la incredulidad. Comprobé los errores, la falta de coordinación de los textos, la confusión entre el singular y el plural, los problemas con los artículos y sospeché que pasaría mucho tiempo para que los desarrollos informáticos capturaran la complejidad del lenguaje escrito. En el reino de las palabras la ambigüedad gobernaría para bien o para mal. En cambio, con los números y los cálculos la capacidad computacional funciona sin sobresaltos. Y pasó el tiempo, los avances se hicieron más profundos y la vieja limitación pareció disiparse como el agua en el agua. Reviso las traducciones y corrijo no tanto por un error como por hacer un énfasis singular. Si hoy me preguntaran si confiaría tanto en un traductor como en una calculadora, no sé qué diría… tal vez sí.

¿Y con ChatGPT?

A pesar de mi recelo con las redes sociales y las perpetuas innovaciones en el mundo de la tecnología, el mismo bicho me picó y llegué incluso a pagar la versión profesional. Por mi trabajo como conferencista mis días transcurren en una búsqueda permanente de información desde distintos frentes, ya sea de historia, filosofía o literatura. Ya llevo más de veinte años en este campo y tengo una que otra maña no tanto por inteligente como por simple ensayo y error. Estas astucias parecerían ridículas en el mundo ultra digitalizado, justo porque la gran mayoría piensa que absolutamente todo está en internet. Y no, no lo está. ¿En serio?

En serio. (Y sí, quiero dejarle la intriga)

¿Y con ChatGPT? Todavía hoy, que tengo reservas, lo considero un triunfo. Reviso las conversaciones de los últimos meses y advierto que es una herramienta más dentro de las tantas que procura la red. Pregunto cuáles son sus fortalezas y me responde que allí donde se necesita una precisión explícita, allí donde la información es clara, sus méritos son notables. Cuando se trata de la especialización y la sutilidad en el lenguaje su versatilidad, en cambio, no es la misma. Esta claridad me anima. Añade, al final de sus respuestas, que resulta preciso animar un espíritu crítico detrás de sus respuestas. Aquí está la cuestión.

En el curso de estos meses he encontrado omisiones, confusiones, incoherencias y demás, y me he quedado prendado de buscar la explicación a la pregunta de por qué erró como erró. No he rodado con suerte. Cuando preparaba el curso sobre Sherlock Holmes pregunté por la relación entre Oscar Wilde y Conan Doyle. Era claro que las referencias más exquisitas no saldrían. Esperé que apareciera el dato biográfico de cómo ambos autores se conocieron en un hotel. En medio del chat emergió una cita de “El crítico como artista” que dice: «Levanto mi copa a Sherlock Holmes, y que cada filisteo muera en su propia ignorancia. ¡Un genio del crimen, amigo mío! Un genio del crimen… Y, a su manera, un artista. Porque, aunque la intención de Holmes siempre fue buena, él, sin embargo, nunca dudó en asesinar a un hombre, siempre y cuando eso resultara necesario para su arte.» Ni Wilde dijo esto en este ensayo, ni hay una cita similar en su obra, ni Holmes es un asesino… en fin… Para errores, este.

Y sigo revisando los diferentes chats y me doy cuenta de que ha inventado libros, referencias, cuentos, etc. (¡Y quién sabe de cuántas otras cosas no me di cuenta!) Cuando le pregunté si Conan Doyle invocó (canalizó) el espíritu de Oscar Wilde me dice que al respecto no hay información disponible. Cuando le pregunté si investigó las supuestas obras que Wilde escribió después de muerto da la misma respuesta… El problema es que sí hay información. Conan Doyle se dedicó al espiritismo y mostró un profundo interés por las obras póstumas (en el sentido más estricto del término) de Wilde y otros autores, le intrigó, además, un epigrama del más allá: “Estar muerto es la experiencia más aburrida de la vida, salvo por estar casado o cenar con un maestro de escuela”. ¿Qué podemos decir? El ingenio del pobre Wilde se oxidó después de muerto.

Dentro de las diferentes estrategias para abrirnos un camino en la realidad el escepticismo ha sido una fundamental. En últimas se trata del combate contra el dogma, la oposición a la doctrina, la existencia de diferentes caminos y la urgencia de nuevas explicaciones. El problema descansa acá: con la máquina la persuasión alcanza otra escala. Nadie comprueba a la más simple calculadora. Seguramente no se comprobará a un programa de traducción. Y con ChatGPT, ¿se mantendrá las alarmas de la duda prendidas? Y cuando la respuesta descanse en los aspectos más sutiles del lenguaje, ¿ChatGPT declarará sus falencias o, por el contrario, apostará? ¿Cómo enseñaremos a las nuevas generaciones que nacieron al pie de estas nuevas tecnologías que estas también fallan y sufren puntos ciegos e inventan? ¿Confiaremos tanto en esta herramienta como confiamos en la calculadora? ¿Triunfará el afán por las respuestas ante la pausa necesaria para la duda?

El escepticismo ha luchado siempre contra corriente. Con las nuevas tecnologías el caudal, simplemente, aumentó. Por doquier aparece siempre el animo por el espíritu crítico, pero hoy la estrategia de cómo incorporarlo adquiere una relevancia especial.