Cartel promocional de la serie Mr Bates vs the Post Office en el canal británico ITV
La informática, algoritmos, inteligencia artificial -más lo que venga- y el derecho de defensa.
Hace unos meses leí en prensa algún artículo acerca de lo que se tildó como uno de los mayores fracasos de la justicia británica, en el que cerca de un millar de personas inocentes, fueron perseguidas y condenadas en vía penal y civil por unos hechos que nunca cometieron. El culpable, un programa informático con nombre propio -Horizon IT- , elaborado por una multinacional japonesa para el servicio de correos británico – the Post Office-. Horizon daba servicio desde finales de los años 90 a millares de oficinas distribuidas por todo el Reino Unido, para desgracia y ruina de cerca de un millar de administradores de oficinas postales. Iniciada la emisión de la serie sobre esta historia en España, y visto el capítulo 1, se pueden realizar una serie de reflexiones al respecto -con algún pequeño «spoiler»-.
Hechos relatados en la serie.
En el primer capítulo se entrelazan las historias de distintos protagonistas, la mayoría ubicados en pequeñas localidades del Reino Unido y que regentan como administradores oficinas de correos, a modo de franquicia. Muchos de estos trabajadores autónomos compatibilizan el despacho en la oficina de Correos con otras actividades en el propio local, venta comestibles, papelería o lo que fuere. Con la gestión de la oficina entra en casa otro ingreso que para muchos es esencial, con lo que parece una relación muy positiva para todos los partícipes.
El funcionamiento ordinario de la oficina, y cualquier operación que se realice, pasa necesariamente por su reflejo en el programa «Horizon IT» que es el que calcula la contabilidad de esa franquicia sin manejo de papel -bienvenidos al mundo digital-. Ahora bien, con el tiempo comienza un reguero de sorpresas y problemas para aquellos desafortunados administradores que enfrentan descuadres importantes en su facturación, por importes que pueden llegar a superar las decenas de miles de libras en su contra.
El sistema Horizon IT dispone de un sistema de soporte, en primer término telefónico que, por lo que se refleja en la serie, es incapaz de dar solución a esta problemática o, incluso, en alguna de las ayudas el problema lejos de solucionarse se agrava, porque después de realizar los ajustes que proponen el descuadre se duplica -o aumenta considerablemente-.
Por otro lado, según se puede leer en prensa, the Post Office dispone de un servicio de auditores, contables y abogados, que en la serie se caracterizan como «los nombres de negro», por la vestimenta utilizada en cada una de sus salidas, los cuales -teóricamente- deben velar por el buen funcionamiento del sistema, persiguiendo a los defraudadores, aunque para ello es obvio se debería acreditar la existencia del fraude más allá del reporte de «Horizon», que en ocasiones parecía tener más cercanía con Hal 9000 en Odisea del Espacio que con un programa de facturación / contabilidad.
Ahora bien, en nuestro caso se agrava el problema por un doble motivo:
1.- La auditoría proviene de la propia the Post Office que tiene especial interés en «proteger» su sistema, que imaginamos implicó una cuantiosa inversión, así como su buen nombre. Es por ello razonable pensar que sus «inspectores» tienen un marcado sesgo de confirmación, en el sentido de avalar el buen funcionamiento del software y de la empresa en general. Es más, en la propia serie se relata el hecho de que cuando se ofrece algún acuerdo al administrador investigado uno de los compromisos a asumir es no poner en tela de juicio a Horizon.
2.- Por otro lado, según se puede leer en algunos medios de prensa, los auditores the Post Office cobraban un bonus en función de la cantidad de dinero «recuperado» y, lo que en principio podría entenderse como algo positivo «recuperar lo indebidamente sustraído», se convirtió en un acicate más para acabar de laminar a ese casi millar de administradores afectados en una trituradora de carne en constante funcionamiento.
Actuaciones de alguno de los protagonistas y consecuencias.
En el primer capítulo nos encontramos con varias historias que discurren en paralelo en diversas localidades, con una problemática similar, aunque distinto desenlace. En parte por la diferente actuación de sus protagonistas.
1.- Alan Bates.
El capítulo 1 comienza con el desembarco de varios coches de alta gama a la puerta del negocio que regenta Alan junto a su pareja en Llandudno, al norte de Gales. De los coches sale un nutrido grupo de hombres de negro que vienen a exigir responsabilidades a Alan por los descuadres en sus cuentas. Alan se limita a negar que haya realizado ninguna actuación incorrecta y les invita a volver otro día. Explica igualmente que el sistema es opaco para los administradores y ni él mismo puede acceder a todas las operaciones -lo que dificulta su defensa-. En todo caso insiste en que no existe desfalco.
A Alan le «cierran» la oficina, le liquidan el contrato y el plan de pensiones, pero no inician actuaciones penales o civiles contra él, y se retira para, posteriormente, agrupar a los damnificados e iniciar una larga y costosa pelea judicial.
2.- Jo Hamilton
Amable mujer de mediana edad, con escasos conocimientos informáticos, que compatibiliza la venta de comestibles en su tienda con la oficina de correos que regenta en la pequeña localidad de South Warnborough (condado de Hampshire). Muy querida en su comunidad -sus vecinos se desplazaron a la celebración del juicio para mostrar su apoyo-, se encuentra desbordada porque no consigue que el programa funcione, y aún pidiendo asistencia y apoyo telefónico, lejos de solucionar la problemática aumenta el descuadre en su contra.
En este momento Jo tiene la opción de Alan, negar la mayor, sin ir más allá, o buscar una solución. Ella cree que el problema lo provoca ella misma por su desconocimiento del sistema y de la informática por lo que, avergonzada, no se lo cuenta a nadie y va asumiendo las deudas, incluso hipotecando la casa, pero llega un momento en que el desfase no le permite continuar con el funcionamiento de la oficina, y entonces opta por hacer uso de la opción de empezar a salvar manualmente la divergencia. Esto implica que el administrador asume la responsabilidad mediante una declaración responsable / jurada de que todo está bien y no existe ningún desfase o es muy menor -Jo va guardando monedas de escasa cuantía para enfrentar esos peniques o escasas libras que figuran en el programa como descuadre tras la «modificación manual-.
El programa continúa funcionando, pero para Horizon el «desfalco» existe y con esa actuación Jo le ha facilitado una bala de plata a the Post Office ya que, cuando llegan los hombres de negro, le realizan una oferta que entienden no puede rechazar: o acepta el delito por falsedad o enfrenta un juicio por robo, lo que implica un considerable aumento de la penas de cárcel. El acuerdo obliga también a la devolución de lo «robado». Jo no puede enfrentar ese pago y acaba con una condena penal menor gracias a la ayuda de una vecina / amiga abogada penalista.
En otros supuestos sí se aceptaron esos acuerdos, ya que muchos pensarían que era mejor no jugársela y podían realizar el desembolso.
Lo que podemos extraer, como primera lección, es que a veces es mejor no hacer nada antes que tomar un atajo hacia la que parece una fácil solución, pero efímera en el tiempo. De este modo Jo, que nada malo había hecho -nunca robó un penique-, y podía pensar que esas declaraciones responsables no implicaban mal alguno, perjudicó su situación en términos de defensa.
3.- Lee Castleton.
Otra persona normal, padre de familia con dos hijos, administrador de una oficina de correos en Bridlington (Yorkshire). Los descuadres empiezan a reiterarse, siendo al principio unos pocos miles de libras, pero van en aumento. Él tiene la certeza de que el error es de Horizon, incluso llega a contactar con una oficina de correos que le confirma que a ellos les pasó lo mismo, pero consiguieron que lo arreglaran, aunque nunca lo declararían en juicio por los perjuicios que les pudiera irrogar.
Llegado un punto Lee enfrenta un procedimiento civil en el que le reclaman decenas de miles de libras, y cuando su mujer le pregunta que va a hacer responde «Creo en la Justicia Británica». No seré yo quien le lleve la contraria, pero hay un hecho evidente, y es la absoluta desproporción de medios al enfrentar el juicio, tratando de un David contra Goliat en el que David no tiene ni honda ni piedras.
Nos explicamos, Lee acude al juicio sin abogado, representándose a sí mismo haciendo uso de su palabra y su verdad, y enfrente nos encontramos con peritos técnicos informáticos de Horizon IT, contables, abogados, y un largo etc.. El resultado del juicio se observa a los escasos minutos, en el que un arruinado Lee acaba durmiendo en su coche y haciendo apaños como electricista -su antiguo oficio- para sobrevivir.
La cuestión es que Lee y el resto de administradores enfrentan una «tormenta perfecta», en la que la indefensión para el ciudadano es patente, y su derecho de defensa se ve desvirtuado al exigirle una «probatio diabolica». Porque en puridad se produce una inversión de la carga de la prueba hacia la parte más débil. The Post Office se limita a hacer uso de unos peritos que vienen a afirmar que el programa funciona bien, y Lee tiene que ser quien acredite que eso no es verdad; prueba que le resulta imposible obtener por la falta de medios, conocimientos, la inexistencia de una contabilidad en papel -con la que antes se manejaba y entendía hasta la llegada de Horizon-, y porque el acceso al programa es limitado para los administradores de las oficinas de correos, no para the Post Office que sabía que algo no funcionaba desde inicios del 2000, pero lo ocultó.
En definitiva, no es que Lee no hiciera lo correcto, porque en realidad poco podía hacer, sino que el propio sistema le falló a Lee, y no sólo hablamos de Horizon.
Algunas reflexiones para el futuro.
Después de visionar el primer capítulo, leer algunas editoriales y artículos de prensa, queda un regusto realmente amargo por la injusticia padecida por esa buena gente, que no olvidemos era inocente de toda culpa, y fue condenada a penas de cárcel, arruinada, y en algún caso llegaron al suicidio. Estos hechos no ocurrieron en cualquier lugar recóndito del planeta, sino en Reino Unido, lo que da que pensar, y en este sentido es razonable realizar unas últimas consideraciones.
1.- Bien tratemos de programas informáticos, administración electrónica, algoritmos, o inteligencia artificial, no es aceptable su introducción sin unas garantías ciertas y eficaces. Estamos ya habituados a leer grandilocuentes y bienintencionados títulos y exposiciones de motivos de normas, que finalmente en su parte dispositiva no aportan nada real a lo que dicen pretender.
Quiere esto decir que no es suficiente con que un reglamento, orden o instrucción disponga que un funcionario velará por el correcto funcionamiento de esos servicios…, sino que deben existir garantías objetivas, ciertas y verificables de que ese control se realiza de modo cierto para su puesta en funcionamiento, y no es válido a estos efectos la mera conformidad «de rigor» de alguien que ni siquiera tiene capacidad para realizar de modo efectivo esa labor.
2.- Si tratamos de algoritmos o IA ,que va encaminada a la iniciación / o apoyo a la instrucción de procedimientos sancionadores o de gravamen para el ciudadano, no bastará con que se acompañe un informe -aún con el respaldo de la firma de un funcionario o técnico- en el que señale a Juan o Pedro como presuntos infractores de un modo genérico, sino que tendrán que explicarle a Juan o Pedro en que se basa tal afirmación, porque Juan y Pedro tienen derecho a defenderse de esa acusación, aunque la realice la IA más brillante del planeta, y eso implica conocer las concretas imputaciones que enfrentan para que puedan ejercer su derecho de defensa con rigor.
Aunque referidas a las notificaciones electrónicas parece oportuno citar la STS de 16.11.2016 (casación 2841/2015) que señala:
«el cambio tan radical que supone, en tema tan sumamente importante como el de las notificaciones administrativas, las notificaciones electrónicas, en modo alguno ha supuesto, está suponiendo, un cambio de paradigma, en cuanto que el núcleo y las bases sobre las que debe girar cualquier aproximación a esta materia siguen siendo las mismas dada su importancia constitucional, pues se afecta directamente al principio básico de no indefensión y es medio necesario para a la postre alcanzar la tutela judicial efectiva….«.
Con mayor razón, si tratamos de procedimientos sancionadores / que generen gravamen, la introducción de recursos informáticos, algoritmos o IA no pueden desvirtuar un derecho fundamental tan esencial como es el de defensa, y no es aceptable desde esa óptica una especie de prueba privilegiada o una presunción iuris et de iure por el mero hecho de que «lo dice el ordenador».
Si la información no está debidamente razonada y justificada, ningún valor debería desplegar sin perjuicio de que pueda servir de indicio o que sea el punto de partida para la obtención de otros medios de prueba que sí sean concluyentes.
En una anterior entrada tratamos la necesidad de motivación del acto administrativo https://contenciosos.com/otros/motivacion-del-acto-administrativo-y-necesario-conocimiento-por-parte-del-interesado/ y de la misma manera que antes de la revolución digital la Administración no podía guardar «en el fondo de su corazón» los motivos que la llevaban a adoptar un acuerdo, tampoco los programas pueden «guardar en el fondo de su código» las razones que avalan sus conclusiones, que habrán de explicitar convenientemente.
3.- En definitiva, enfrentamos nuevos retos, y una revolución en múltiples ámbitos -también para la Administración- con la introducción de la IA, pero estas novedades no pueden ni limitar derechos ni operar sin unas garantías suficientes. De lo contrario, en unos lustros, podría ser que tengamos nuestra propia serie desarrollando unos hechos tan graves como los descritos en Mr Bates vs the Post Office. Ojalá que no.
Rafael Rossi Izquierdo -Abogado-.
