Lo que comenzó con una denuncia automatizada vinculada a presunto material de abuso sexual infantil terminó derivando en una investigación judicial, restricciones sobre servicios digitales y un debate que, según sostiene el juez de Cámara de Ushuaia Andrés Leonelli, excede ampliamente su situación personal y plantea interrogantes sobre el alcance de la inteligencia artificial y el funcionamiento de las grandes plataformas tecnológicas.

Luego de que la investigación descartara la existencia de un delito y mientras continúan otras actuaciones judiciales relacionadas con el caso, el magistrado decidió impulsar una discusión centrada en el impacto que pueden tener las decisiones tomadas mediante sistemas automatizados y la falta de mecanismos efectivos de revisión humana.

Durante una entrevista brindada a la TV Pública, Leonelli aseguró que una de las cuestiones que más lo atravesó durante el proceso fue advertir hasta dónde puede llegar una decisión generada automáticamente. “Siempre me hacían la misma pregunta: si esto le pasó a un juez, ¿qué le puede pasar a un ciudadano promedio?”, relató.

Según explicó, esa inquietud terminó convirtiéndose en una motivación para continuar avanzando judicialmente. “Nos preguntamos muchas veces si convenía hacer borrón y cuenta nueva. Pero entendimos que esto tenía que servir para algo más grande que nosotros”, sostuvo.

El magistrado indicó que la situación se originó a partir de una detección realizada por un sistema automatizado sobre material almacenado en una cuenta personal, documentación que según afirmó correspondía a elementos vinculados a una causa judicial en la que había intervenido durante el ejercicio de sus funciones.

“Se trataba de documentación legal y de trabajo judicial. Se hicieron presentaciones, explicaciones y descargos, pero todo fue ignorado y procesado automáticamente”, afirmó.

A partir de allí, señaló que comenzaron una serie de consecuencias que incluyeron bloqueos y restricciones en distintos servicios digitales, situación que luego derivó en actuaciones judiciales.

Leonelli aclaró que sus cuestionamientos no están dirigidos hacia los mecanismos de detección de delitos graves, sino hacia el funcionamiento posterior de esos sistemas. “Nadie puede estar en contra de la tolerancia cero frente al abuso infantil. La discusión es otra: cómo se procesa esa información una vez detectada y quién controla que no existan errores”, planteó.

En ese sentido, consideró que el problema surge cuando los procesos automatizados desplazan por completo la intervención humana. “Lo más grave no fue que una persona se equivocó. Lo más grave es que nunca intervino una persona”, resumió.

Durante la entrevista también utilizó el concepto de “muerte digital” para describir el impacto que, según aseguró, tuvo la pérdida de acceso a distintas plataformas y servicios. “No desaparece solamente un correo electrónico. Hoy uno tiene todo integrado: contactos, agenda, claves, archivos, cuentas bancarias, servicios, años enteros de información”, señaló.

Asimismo, destacó que una resolución de la Justicia Federal ordenó restituir los servicios afectados y preservar evidencia digital mientras continúan otras actuaciones relacionadas con el expediente. “Es muy difícil encontrar antecedentes donde se obligue a una multinacional de esta escala a restituir servicios y conservar evidencia digital”, expresó.

Finalmente, sostuvo que el caso abre un debate mucho más amplio sobre el futuro de la inteligencia artificial y la protección de derechos individuales. “¿Qué hacen con nuestra información? ¿Hasta dónde vamos a permitir que los algoritmos regulen nuestras vidas? ¿Hasta dónde vamos a exigir control humano?”, cuestionó.

Y cerró con una reflexión personal sobre el motivo que lo llevó a continuar con las acciones judiciales: “Me siento en una responsabilidad cívica de generar un precedente”. Además, agregó: “Quiero que el día de mañana puedan leer esta historia completa y sepan que intenté hasta el último momento hacer algo para que estas cosas no le ocurran a nadie más”.