El fallo de la Cámara Nacional Electoral (CNE) que confirmó el procesamiento de una persona por divulgar dos videos falsos para perjudicar a un precandidato a senador que competía en las primarias de 2021 abrió el debate en el Congreso sobre la necesidad de legislar sobre el uso indebido de la Inteligencia Artificial (IA) y, eventualmente, penalizar a quienes incurren en estos delitos.
En el Congreso se presentaron cuatro proyectos de ley que, en líneas generales, proponen adaptar el marco legal para enfrentar el problema de la desinformación y la manipulación digital en la era de la inteligencia artificial (IA). Dos de ellos, elaborados por Silvana Giudici (Pro) y Juan Brugge (Córdoba Federal) se focalizan en la penalización del uso de deepfakes (videos, audios o imagenes manipuladas con inteligencia artificial para que parezcan auténticos) y la manipulación de identidad con IA.
En tanto, la iniciativa del senador Sergio Leavy (Unión por la Patria) se enfoca en la regulación y sanción en la difusión de noticias falsas en un contexto electoral, mientras que la de Oscar Agost Carreño (Encuentro Federal) propone un mecanismo de “fact-checking” (chequeo de datos) como herramienta preventiva para evitar la desinformación.
Los distintos proyectos advierten que nuestro país carece de una regulación específica y suficiente para hacer frente al uso indebido de IA para manipular identidades biométricas o crear deepfakes, de allí la necesidad de avanzar en una ley. Si bien el tema aún no está en la agenda en ninguna de las dos cámaras, los legisladores creen que más temprano que tarde el Congreso deberá abocarse a la problemática ante el uso cada vez más frecuente de la IA para la propagación de contenidos falsos.
“En un contexto en el que la proliferación de noticias falsas debilita la confianza en las instituciones y el sistema democrático, resulta imperativo impulsar medidas que incentiven a medios de comunicación, redes sociales, periodistas y creadores de contenidos a implementar la verificación sistemática de datos y hechos”, señala Agost Carreño.
Su proyecto tiene un enfoque más bien preventivo y se orienta a facilitar la detección de noticias falsas para contrarrestar su propagación. Para ello propone la creación de un Consejo Nacional de Verificadores de Datos y Hechos (CNVDH) como organismo autónomo, cuyo objetivo es evaluar y acreditar los sistemas de verificación de hechos que funcionan en los medios de comunicación y periodistas, aunque sin involucrarse en el contenido periodístico ni en la línea editorial.
“El proyecto no busca penar ni perseguir opiniones, sino alentar el chequeo de información y dotar a las comunicaciones verificadas de un elemento identificatorio transparente”, fundamenta Agost Carreño.
Los diputados Giudici y Brügge ponen especial acento en la penalización. El proyecto del cordobés propone penalizar con prisión de cuatro (4) a ocho (8) años a quien “utilice inteligencia artificial, genere o modifique videos, audios, rostros de personas, grabaciones de voz y/o escenarios ficticios, con la intención de hacerlos parecer como reales”. Se exceptúa de la pena cuando exista una identificación clara y visible de que el contenido ha sido generado o modificado con IA.
Por su parte, la diputada de Pro propone, en su proyecto, castigar con una pena de un mes a un año de prisión a quien de manera dolosa utilice sistemas de inteligencia artificial para generar, manipular y/o publicar, a través de cualquier medio, imágenes o videos que contengan réplicas del rostro o la voz de una persona sin su autorización.
“Estamos frente a un vacío legal que buscamos subsanar con esta iniciativa, cuyo objetivo es asegurar que las tecnologías emergentes no sean utilizadas para infringir derechos fundamentales, como el derecho a la imagen, la privacidad, el honor, la dignidad y la integridad de las personas, la libertad de expresión, el derecho a la información y el patrimonio”, fundamentó.
Por último, el proyecto del senador Leavy penaliza la difusión de noticias falsas en el ámbito electoral. Propone a la Cámara Nacional Electoral como autoridad de aplicación y establece penas de multa no solo a los responsables de la desinformación, sino también a los medios de comunicación que se presten para a la propagación de noticias falsas.
