Discriminación producida por algoritmos en aplicaciones para la Administración

Hace ya un tiempo leí un reportaje sobre un libro, «Automating Inequality: How High-Tech Tools Profile, Police and Punish the Poor», que se tradujo en España como  «La automatización de la desigualdad», es un libro del año 2018 y ahora con motivo de este primer reto semanal, me ha venido a la mente. 

Su autora, Virginia Eubanks,  se nutre de la experiencia de tres personas que han experimentado las consecuencias negativas decisiones tomadas por programas informáticos de los servicios públicos de Estados Unidos. 

Y el aporte más importante que realiza la autora, es que estas decisiones no afectan por igual a toda la población, sino que afectan perjudicando con mayor énfasis, al estrato más pobre de la sociedad. De manera que estas decisiones (que aunque tomadas por algoritmos informáticos, estos lo único que hacen es aplicar la voluntad de los hombres que así los han diseñado) cronifican las situaciones de pobreza de los individuos afectados.

La toma de decisiones automatizadas tiene un alcance mucho mayor y es probable que tenga peores repercusiones que los mecanismos no digitales de épocas anteriores.

Y tenemos que ser conscientes de que esta automatización, se envuelve en una mejora de productividad, en una universalización de servicios accesibles antes solo a unos pocos. A una reducción de costes que permite que más personas se beneficien, ahí tenemos el acceso a volar que hace menos de 30 años solo era para un estrato social de clase media–alta. O servicio de inversión en bolsa que ahora pueden disfrutar una gran franja de población que antes no podían, por sus costes acceder a ellos.

Sin embargo, en estos días estamos asistiendo a peticiones de personas, aquí mismo en España, que no tienen acceso a las nuevas tecnologías, a que sus bancos no retiren las sucursales de sus pueblos. Porque todos somos conscientes de que estas aplicaciones informáticas, también traen la atención automatizada en la que no hay «una persona al otro lado del teléfono». Caídas de servicio y fallos generalizados a la hora de realizar solicitudes o cargar documentos en dichas aplicaciones.

Me he querido centrar en esta discriminación, para este módulo 1, porque es esta una discriminación que van a sufrir muchas personas que hasta ahora pensaban que ellos no tenían ningún problema para convivir en su «sociedad», y que ahora, de repente, se darán cuenta de que los están «echando» o que «no tienen acceso» a su entorno y que estaban a «salvo» con sus privilegios.

Ya se está estableciendo una separación en la sociedad entre «analfabetos digitales» y «nativos digitales». Pero no parece los más adecuado, que sean las propias administraciones, las que con sus programas informáticos hagan crecer estas barreras.

La administración digital, está ya plasmada en las leyes y es obligatorio para las empresas utilizar los medios digitales para establecer sus contactos con la administración. Pero los que trabajamos en la Administración, tenemos la tentación de pensar que todo el mundo puede acceder a nosotros mediante correo electrónico o registros telemáticos. Yeso, por desgracia, además de no ser verdad, crea bolsas de personas discriminadas.

Todos hemos podido leer, como durante la pandemia, servicios como el SEPES indicaban que era necesario solicitar cita previa, que solo se podía hacer por ordenador porque la atención telefónica no funcionaba. Y este servicio es utilizado por personas sin empleo, jubilados etc. Quizás los que más necesitan que no se les pongan trabas para superar sus problemas.

Este tipo de discriminación que tendríamos que calificar de indirecta, puede que no lo sea tanto, si detrás está el pleno conocimiento de que ciertas personas por su edad, origen, formación, falta de recursos materiales.., van a quedar fuera de los servicios que esas aplicaciones van a prestar en el sector público.

Y por qué no considerarla a todas luces como interseccional. Yo creo que no solo debemos considerarla así, sino que los grupos que se ven afectados por la unión de varios factores se escapan incluso de lo que a primera vista podríamos imaginar.

No vislumbro cual puede ser un camino para evitar esta nueva forma de discriminación, porque es evidente que el mundo futuro es un mundo digital y en él como en toda la historia de la humanidad habrá personas favorecidas y las que no lo serán, pero eso no quita que no debamos de tener el foco en ello y buscar una solución todos los días.

Hasta el próximo reto.