Manuel Marchena: «Nuestra sociedad no está preparada para asimilar la sentencia de un robot»

por | julio 15, 2022

El otro día el presidente de la Sala de lo Penal del Tribunal Supremo, Manuel Marchena, se desplazó a Barcelona. Para pronunciar una conferencia, en el Colegio de la Abogacía de Barcelona (ICAB), sobre «Inteligencia artificial y proceso penal».

Los separatistas catalanes trataron de boicotear el acto pero les salió el tiro por la culata. Toda la información que se produjo la tarde del pasado 4 de julio en torno a ese evento estuvo centrada en su resultado: el fracaso de los independentistas en impedir que el presidente del tribunal que condenó a «los suyos» por sedición pudiera pronunciar su conferencia en la ciudad condal.

Tengo que decir que me quedé con las ganas de saber más sobre su contenido. Por eso, cuando descubrí que Marchena iba a inaugurar el curso que la Asociación Profesional de la Magistratura organizaba en San Lorenzo de El Escorial, Madrid, en el marco de los cursos de verano de la Universidad Complutense, no me lo quise perder.

El título que le dio a esta conferencia de El Escorial fue «Justicia robótica: su incidencia en los principios constitucionales de la función jurisdiccional». Una variante del anterior, según me confesó el propio Marchena.

Si alguien no ha asistido a una conferencia del presidente de la Sala de lo Penal del Tribunal Supremo no sabe lo que se está perdiendo. Porque Marchena, como los buenos trapecistas, actúa sin red. Sin papeles. Todo va de cabeza.

Es un magnífico comunicador.

Roger Ailes, consultor de medios del presidente Ronald Reagan –también lo fue de Richard Nixon y de George H. W. Bush– solía decir de este que era «el comunicador» por antonomasia. Su secreto era ser siempre él mismo. Hablaba de la misma manera a una persona que a 15, a 2000 o a 50.000.

Marchena, aunque él no lo sabe, también comparte esa característica. Para un jurista ese es un don muy peculiar. Pero hay que reconocérselo que lo tiene.

Su disertación duró más de una hora y mantuvo conectados, muy atentos y en silencio, a las 35 personas que se habían suscrito presencialmente al curso. Y también a las que lo estaban siguiendo por «streaming».

El magistrado comenzó fuerte, preguntandose: «¿Un robot puede sustituir a un juez? De lo que se trata es de que ver si los jueces pueden ser reemplazados por robots». Así de simple.

Constató que ahora mismo hay un gran estusiasmo sobre todo lo que tiene que ver con la Inteligencia Artificial y con todo lo tecnológico. Doy fe de ello. Todos los que estamos en la pomada somos conscientes de que los tiempos van por ahí.

Como acontecimientos como la compra de Twitter, un servicio gratuito valorado en 40.000 millones de dólares.

«¿Cómo es posible que una empresa que da su servicio gratis valga eso? Esto ha hecho reflexionar a muchos gurús. La clave son los datos», subrayó.

De izquierda a derecha, Ángel Calderón, expresidente de la Sala de lo Militar del Supemo, Manuel Marchena, María Jesús del Barco, presidenta de la Asociación Profesional de la Magistratura y juez decana de los Juzgados de Madrid, y Juan Ángel Moreno García, director del curso y magistrado de la Sección 9 de la Audiencia Provincial de Madrid. Foto: Carlos Berbell/Confilegal.

LOS METADATOS, LOS ALGORITMOS, LA INTELIGENCIA ARTIFICIAL ESTÁN CREANDO DICTADURAS DIGITALES, SEGÚN HARARI

Uno de ellos, el israelí Yuval Noah Harari, contó Marchena, ha escrito un libro que dibuja un escenario «absolutamente distópico y revolucionario» en el que te dice que el problema que están planteando «los metadatos, los algoritmos, la inteligencia artificial, es que con ellos se están creando, sin que nos demos cuenta, dictaduras digitales que están poniendo en manos de unas élites absolutamente minoritarias todo el poder. Un poder que va a convertir al ciudadano en irrelevante».

Otro gurú al que se refirió el conferenciante fue el británico Richard Suskind, que plantea abiertamente que «o vamos a la justicia ‘online’ o el sistema no se sostiene».

«Hay países como Brasil que tiene 100 millones de causas judiciales pendientes. Causas que jamás se van a resolver con el sistema tradicional de trabajo. Suskind postula una renovación basada en la justicia ‘online’. Ahí queda eso», explicó Marchena.

Esa no es, en absoluto, una decisión fácil de tomar, a pesar de que la justicia robótica esté de moda. Pero hay iniciativas que van por ahí.

«Por ejemplo, la Fiscalía de Shanghai ha elaborado un dispositivo que le permite formular acusaciones con un índice de acierto del 97 %. Del 97 %. Los informáticos han procesado los escritos de esa Fiscalía de 2015 a 2020 y han generado unos algoritmos que permiten producir escritos de acusación. Se está aplicando a lesiones dolosas, a estafas, a delitos de falsificación de tarjetas de crédito, a fraudes… Se ha concebido como un instrumento para que los fiscales de esa ciudad se centren en los asuntos más difíciles y complicados», explicó.

En el Reino Unido, prosiguió, hay también un modelo de justicia robótica, basada en inteligencia artificial, que se aplica a reclamaciones inferiores a 10.000 libras esterlinas [11.803 euros].

«El demandante aporta los documentos de los que deriva la deuda. La máquina analiza su validez. Se emplaza al demandado y la máquina se pronuncia sobre la autenticidad de los recibos. En unos minutos se dicta la sentencia. No hay apelación».

«También funciona en Estonia, que ha seguido un proceso de modernización ejemplar. Es el mismo sistema, aunque la cantidad es inferior, 7.000 euros. La sentencia está en días. Pero el ciudadano tiene que renunciar a la garantía de la doble instancia», indicó.

Y volviendo a China, contó que el Tribunal Supremo de ese país está montando una plataforma para temas de impugnación casacional. «Una plataforma a través de la cual se pueden formaular alegaciones por medio del teléfono móvil. Esa es la idea hacia la que parecen dirigirse otros países».

Marchena recordó que el Consejo Consultivo de Jueces del Consejo de Europa publicó un informe en 2011, «muy interesante», en el que llamaba la atención sobre la «desmaterialización del proceso. No todo es digitalizable. La justicia debía seguir teniendo rostro humano. Debe seguir existiendo una plataforma convencional para asistir a los ciudadanos que no se han incorporado a las nuevas tecnologías».

¿PUEDE UN ROBOT SUSTITUIR A UN JUEZ?

Llegado a ese punto, retomó el hilo con el que había comenzado.

Reconoció que el proceso normativo es imparable. «Se ha creado la Agencia Supervisora de la Ingeligencia Artificial», recordó. «La Unión Europea ya ha hecho su proyecto de Reglamento, con fecha 21 de abril de 2021. Naciones Unidas también».

«¿Puede, por lo tanto, un robot sustituir a un juez? Desde el punto de vista de la ingeniería informática, por supuesto. Técnicamente se puede hacer», reconoció.

Recordó cuando Deep Blue, el ordenador construido por IBM, ganó a Gari Kasparov, el campeón «humano» de ajedrez. Y cómo una nueva máquina ha ganado a Deep Blue. O como la empresa israelí AI21 Labs ha creado una Inteligencia Artificial basada en las respuestas de la desaparecida juez estadounidense, Ruth Bader Ginsburg.

«La máquina responde sobre la base del pensamiento de la juez».

Sin embargo, según Marchena, los «jueces robots no harían una justicia más justa. No ganaríamos en seguridad jurídica. Porque la respuesta de un robot es una respuesta estadística, matemática. Puede ser exacta, pero no necesariamente justa«, afirmó.

«Una solución judicial basada solo en el precedente fosilizaría a la Administración de Justicia. Nuestra jurisprudencia no funciona con precedentes, como la anglosajona. Tiene que ser cambiante, adaptarse a cada caso concreto, tiene que valorar la mirada del testigo y la firmeza de su testimonio. Una justicia robótica desconectada de la función jurisdiccional nos situaría en escenarios distópicos difíciles de controlar», destacó.

La Inteligencia Artificial, admitió, puede ser un instrumento muy valioso, «en los supuestos de conformidad en delitos de tráfico en lo que esté implicado el alcohol. Pero el juez debe tener el control final».

El magistrado, durante su disertación, no exenta de cierto humor, recordó los principios básicos de la publicidad y la contradicción que dan vida a los procesos judiciales. «La publicidad se sustituye por el código abierto, dicen. Pues no», contestó con rotundidad.

Dejó clara su opinión: «Nuestra sociedad no está preparada para asimilar la sentencia de un robot. Sin contradicción, sin defensa y sin publicidad… No es posible. Una justicia distanciada de la contradicción y de la publicidad no es justicia«.

Otro cosa sería su aplicación en la fase ejecución en penal y civil. «Se podría utilizar. Pero siempre sometida a la decisión última de un ser humano».

Subrayó que «la pandemia ha acabado con el escepticismo tecnológico. Antes de la pandemia firmábamos con firma electrónica muy pocos».

La tecnología contribuye a que los jueces hagan bien su trabajo. La Inteligencia Artificial aplicada es una buena herramienta para conseguir ese objetivo, una vez depurada de sesgos cognitivos.

Pero jamás se debe de dejar que sea ella la que tome decisiones sobre nuestras vidas, como si fuera un juez. «Porque no lo es».

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *