“Verba volant, scripta manent”, decían los romanos para recordarnos que las palabras vuelan, pero lo escrito permanece. En tiempos de inteligencia artificial generativa (IAG), quizá debamos actualizar el adagio: lo que se escribe en el ChatGPT puede terminar en un expediente judicial. No se trata de una teoría conspirativa: lo refirió Sam Altman, CEO de OpenAI, la empresa creadora del glamoroso chatbot. La afirmación surgió en un podcast estadounidense de tono relajado –This Past Weekend, conducido por Theo Von– en el que Altman, entre bromas y confesiones, deslizó una verdad que pocos sabían o querían escuchar: las conversaciones que los usuarios mantienen con el ChatGPT no gozan de confidencialidad legal.
A diferencia de lo que ocurre con un médico, un psicólogo o incluso un sacerdote en el confesionario, las charlas con el modelo de inteligencia artificial podrían ser utilizadas como evidencia en un proceso judicial. Ya existen casos, en tribunales de Estados Unidos y de la Unión Europea, donde los chats con IAG son ofrecidos como prueba de cargo en expedientes judiciales.
Altman lo calificó de “muy problemático” y advirtió que el sistema carece de un marco robusto de protección legal. Porque, a diferencia del secreto profesional que ampara al terapeuta, al médico o al abogado, lo que se escribe en el ChatGPT queda almacenado en sus servidores y puede ser requerido por un magistrado en el marco de una investigación judicial. La revelación no generó un escándalo internacional pero advirtió sobre un hecho con impacto en el universo jurídico, ya que hasta las secuelas de una ruptura amorosa pueden ser reveladas, por ejemplo, en el marco de un juicio de divorcio.
¿Y qué implica esto para el ciudadano de a pie? Pues que todo lo que consulta, redacta o confiesa en el chat puede almacenarse y, eventualmente, ser requerido por un juez, un fiscal o hasta un tercero en juicio. Es decir, el chat que hoy colabora con el lector para escribir un telegrama de renuncia, mañana podría ser parte del expediente de una demanda laboral. Y lo más preocupante: los usuarios no lo saben o no se detienen a pensarlo. Lo dijo Altman: “No hemos diseñado aún un marco sólido de protección para estas interacciones”, reconociendo que la IAG opera como una suerte de diario digital sin candado, al que cualquiera puede asomarse si la ley así lo permite.
En términos jurídicos: lo que el usuario dice en el chat no está amparado por secreto profesional ni por principio de confidencialidad, ni mucho menos por algún tipo de privilegio que impida su divulgación. Vivimos una suerte de “estado de naturaleza digital”, como diría Hobbes, donde cada uno navega por su cuenta y riesgo, entregando datos personales a sistemas entrenados para aprender de cada interacción. Es cierto que OpenAI ha implementado funciones como el “modo incógnito” y que asegura borrar datos luego de cierto tiempo. Pero si mañana un juez pide esos registros, ¿podría la empresa negarse a entregarlos? La respuesta es definitivamente negativa.
Ahora tenemos que preocuparnos también por lo que le contamos a un asistente virtual. La tecnología no descansa y el derecho llega tarde. En la Argentina no contamos aún con una legislación especial sobre inteligencia artificial ni con reglas específicas que protejan las interacciones entre humanos y máquinas. En la región, la situación es similar, aunque Brasil avanza con cierto ritmo bajo el paraguas de su Ley General de Protección de Datos (LGPD). Por su parte, la Unión Europea sigue marcando el rumbo con la flamante Ley de Inteligencia Artificial (AI Act), que busca poner límites al uso de sus distintos sistemas en función de los riesgos que conlleva su utilización.
Mientras tanto, el sentido común y la virtud de la prudencia deberían llevarnos a pensar dos veces antes de escribirle al ChatGPT algo que no le contaríamos a un juez o a nuestro peor enemigo. Porque lo que hoy parece una conversación inocente, mañana podría utilizarse como prueba de cargo directa o como una presunción grave, precisa y concordante que permita acreditar la existencia de un hecho.
La línea entre lo privado y lo público se ha vuelto tan delgada como un código binario. Y mientras seguimos hablando con la IA generativa, como si fuera un oráculo moderno, olvidamos que detrás hay servidores, empresas y, eventualmente, abogados. Como refirió William Shakespeare en su inolvidable Hamlet: “Give me that man that is not passion’s slave and I will wear him in my heart’s core” (Dame a ese hombre que no sea esclavo de sus pasiones y lo llevaré en lo más profundo de mi corazón): quizá sea tiempo de no ser esclavos del entusiasmo tecnológico y volver a poner la templanza, la razón y la regulación en el centro del escenario. Porque confiar ciegamente en una máquina sin saber quién lee del otro lado no es solo ingenuo: puede ser peligroso.
Abogado y consultor en Derecho Digital, Privacidad y Datos Personales; director del programa “Derecho al olvido y cleaning digital” de la UBA; profesor de la Facultad de Derecho UBA y Austral
