Jueza Army Ferreira advierte sobre riesgos de la IA en la justicia

La jueza Army Ferreira, del Tribunal Constitucional, alertó sobre los riesgos que conlleva el uso de la inteligencia artificial en la administración de justicia. En un foro internacional celebrado en Suiza, señaló que delegar decisiones que afectan derechos fundamentales a esta tecnología compromete la función judicial y los principios del Estado constitucional.

Aunque reconoció el aporte de la inteligencia artificial al desarrollo industrial y tecnológico, Ferreira destacó que su aplicación en el ámbito judicial plantea desafíos importantes. «La justicia no es un proceso industrial que demanda respuestas automáticas, sino un proceso que requiere individualización, independencia y tratamiento humano», afirmó.

La magistrada no se opone al uso de herramientas digitales, pero advierte sobre el peligro de que los jueces las utilicen sin verificar y analizar su repercusión. Enfatizó que la justicia debe mantener su carácter humano y no depender exclusivamente de sistemas automatizados.

Entre los riesgos mencionados por Ferreira se encuentran los sesgos algorítmicos, que replican o amplifican prejuicios existentes. También destacó la recopilación masiva de información personal, lo que incrementa los riesgos para la privacidad. Además, mencionó la generación de información inexacta por parte de modelos lingüísticos y la falta de transparencia en muchos sistemas avanzados.

La jueza señaló la creciente dependencia tecnológica, que podría disminuir habilidades humanas fundamentales. «Luego de verificar los riesños, debemos hacernos la pregunta, ¿cuál es la labor de nosotros los jueces?», cuestionó, enfatizando que su rol es tomar decisiones que afectan derechos fundamentales.