El avance de la tecnología pone en jaque la transparencia electoral. Un fiscal, un constitucionalista y la Cámara Nacional Electoral buscan frenar la manipulación digital, un debate que recién comienza
Las autoridades electorales ejercen el control del proceso/REUTERS/Agustin Marcarian
La preocupación por la integridad de los procesos electorales cobró un nuevo impulso tras la solicitud del fiscal federal Ramiro González para que la Justicia adopte medidas concretas frente a la amenaza de acciones masivas de desinformación mediante el uso de Inteligencia Artificial (IA) durante la campaña electoral.
En un dictamen presentando ante la jueza federal María Servini, el fiscal avaló un amparo presentado por el abogado constitucionalista Andrés Gil Domínguez, einstó a requerir informes a las autoridades nacionales sobre las estrategias de difusión y sensibilización implementadas o previstas en relación con el proceso electoral en curso, con especial énfasis en la promoción del voto informado y la introducción de la Boleta Única Papel como nuevo instrumento de votación.
El fiscal también propuso la adhesión voluntaria al Compromiso Ético Digital 2025, una iniciativa de la Cámara Nacional Electoral que busca preservar el debate democrático en redes sociales y plataformas digitales. Este compromiso, dirigido a partidos políticos, bloques parlamentarios, entidades periodísticas, empresas y plataformas, se presenta como una herramienta clave para enfrentar los desafíos que plantea la manipulación de contenidos en el entorno digital.
Jueza federal Maria Servini, a cargo del juzgado electoral
Ahora, a partir del dictamen del fiscal, la jueza con competencia electoral, María Servini, deberá resolver si avanza hacia nuevas medidas judiciales o, por el contrario, rechaza el amparo.
Contra las <i>deepfakes</i>
La intervención del fiscal González se produce en el marco de un amparo presentado por Gil Domínguez, quien en agosto solicitó a la Justicia electoral la adopción de medidas urgentes para impedir la difusión de videos falsos generados por IA. La demanda, dirigida contra la Jefatura de Gabinete de Ministros, el Ministerio del Interior y la Subsecretaría de Asuntos Políticos, reclamó la implementación de mecanismos eficaces para “prevenir, alertar y hacer cesar de forma urgente la difusión de deepfakes o el uso no autorizado del servicio de clonación de voz y rostro” mediante IA, en el contexto de las elecciones nacionales del 26 de octubre, en las que se renovará parcialmente la Cámara de Diputados y la de Senadores.
El control y la capacitación del proceso electoral, claves para unas elecciones transparentes
Gil Domínguez fundamentó su pedido en el riesgo que estos contenidos representan para el derecho constitucional de los ciudadanos a elegir libremente a sus representantes. Como antecedente, recordó el episodio del 18 de mayo durante las elecciones legislativas en la Ciudad de Buenos Aires, cuando, en plena veda electoral, circularon dos videos generados con IA que imitaban la imagen y la voz del expresidente Mauricio Macri y de la diputada Silvia Lospennato, instando a votar por el candidato libertario Manuel Adorni.
En diálogo con Infobae, Gil Domínguez señaló que “el dictamen es un gran aporte para que la justicia electoral garantice la transparencia del proceso electoral en tiempos de la IA generativa. Ahora resta esperar la sentencia de la jueza Servini para que los comicios del 26 de octubre estén eficazmente protegidos”.
Los argumentos del fiscal
El fiscal González, en su dictamen, citó diversas acordadas y resoluciones de la Cámara Nacional Electoral que establecen como objetivo “construir conciencia ciudadana sobre el buen uso de las nuevas tecnologías de comunicación en el desarrollo del proceso electoral y contrarrestar la manipulación de contenido digital sin menoscabar la libertad de expresión, entendida como un instrumento necesario para garantizar la libertad de información y la formación de la opinión pública”.
González advirtió que “no caben duda respecto a los riesgos que genera los ‘deepfakes’ para la actividad política en general y los procesos electorales en particular, afectados por actos de comunicación malintencionada, falsa o directamente difamatoria, mediante el recurso -a veces más, a veces menos, sofisticado pero igualmente pernicioso-, a la inteligencia artificial. En cierto supuestos, directamente un uso constitutivo de delito”.