Algorítmicamente regulados

Ésta es la forma pura de servidumbre: existir como instrumento, como cosa Herbert Marcuse, filósofo alemán.


Gracias a las revelaciones de Edward Snowden, ahora sabemos a ciencia cierta que tanto grandes compañías como gobiernos suelen registrar eventos de nuestras vidas y convertirlos en datos que se archivan inmediatamente en grandes bases denominadas metadatos.

 

Los recolectores de datos pueden posteriormente, con la ayuda de poderosas herramientas analíticas disponibles para quien pueda pagar por ellas, pronosticar patrones de conducta de un individuo o de un grupo. De esta forma, la cadena de supermercados Target es capaz de saber, basándose en los metadatos generados por una de sus clientas, si la consumidora se encuentra embarazada, aún antes de que ella se someta a una prueba predictora (“Forbes”, 16/02/2012).

 

En la medida en que se conoce más los patrones de conducta de un grupo determinado, es posible realizar pronósticos más certeros. Las principales compañías de internet llevan años empleando los metadatos de sus usuarios para hacerles llegar publicidad dirigida, para recomendarles redes de amigos con intereses que les sean afines o para sugerirles música que puede congeniar con la que se ha escuchado en línea. La mayoría de los usuarios de estos servicios no parecen muy preocupados en compartir su información personal y de revelar su contexto a empresas que, por su parte, han hecho todo lo que está en sus manos por generar las condiciones propicias para datificar cualquier componente de la vida del cibernauta que consideren relevante en la carrera por maximizar sus ganancias económicas.

 

Tal como se ha comentado en este mismo espacio, el internet de las cosas es una “red conformada por aparatos inteligentes que, equipados con sensores, detectan eventos relacionados con su uso y crean un registro histórico de cada una de las actividades para las cuales han sido diseñados” ; un ente ubicuo cuyos tentáculos serán más notorios para el ciudadano promedio en el interior de sus hogares. Sin embargo, estos tentáculos son más largos de lo que parecen y rebasan el ámbito de las posesiones privadas o de las dinámicas propias del consumo de masas.

 

Siguiendo la lógica de la evolución tecnológica descrita con anterioridad, un buen número de fábricas emplea una herramienta denominada “regulación algorítmica” para alertar, con base en patrones de comportamiento conocidos, sobre posibles desperfectos o fallos en partes de su línea de producción aun antes de que éstos ocurran. De acuerdo con un artículo de Evgeny Morozov (“The Observer”, 20/07/2014) la “regulación algorítmica” establece reglas de forma análoga a la de los filtros de spam -”email” chatarra- de los más importantes proveedores de correo electrónico. Dado que sería imposible que Google o Microsoft modifiquen sus reglas de filtrado a la par del ritmo al que surgen diferentes clases de correo chatarra, sus filtros de spam son programados enseñando al sistema reglas para que éste diseñe autónomamente, a su vez, buenas reglas para cumplir un objetivo determinado -detener el correo chatarra-, y para que detecte cuándo han surgido cambios en el “enemigo” que hacen necesaria una regla diferente para encontrar otra regla buena. Este principio permite que el sistema “aprenda” permanentemente y que se adapte a circunstancias cambiantes. Ya no hay necesidad de desarrollar procedimientos para gobernar cada contingencia; en este campo, la “regulación algorítmica” es más eficiente que cualquier decisión humana.

 

De manera análoga, gracias al desarrollo de “ambientes inteligentes”, los gobiernos podrán prevenir fallas en los servicios públicos -por ejemplo, fugas de agua potable- o enviar señales para que se reparen averías. Es fácil ver los beneficios y ahorros que esto representaría. Sin embargo, los signos de interrogación irrumpen cuando se considera la forma en que los gobiernos podrían emplear esta misma herramienta para prevenir posibles violaciones a la ley por parte de sus ciudadanos. Gracias a los metadatos disponibles y a la regulación algorítmica, en teoría sería posible detectar, como Target lo hace con las mujeres embarazadas, qué sujetos tienen altas posibilidades de ser terroristas aun antes de que éstos hayan tomado la decisión de serlo. El gobierno norteamericano utiliza un esquema de esta naturaleza en su “guerra contra el terror”.

 

De acuerdo con este Morozov, la principal consecuencia social de la “regulación algorítmica” sería la vida en “un Estado en el que la irracionalidad es corregida por un entorno que actúa sobre nosotros para dirigirnos hacia la acción correcta”. Así, mediante sensores en las carreteras y en los vehículos que circulen en éstas sería posible forzar a límites de velocidad inquebrantables. El sueño de Silicon Valley no es, como suele suponerse, el gobierno enano de los libertarios, sino un Estado en el que se acude a sensores y mecanismos de retroalimentación en vez de depender de leyes violables o de la “buena fe” de las siempre frágiles voluntades humanas. La libertad humana sacrificada, de nuevo, en nombre de la seguridad y de la eficiencia.

 

La “regulación algorítmica” basada en metadatos es intrusiva y puede convertirse en una real amenaza para la libertad humana. Empero, existen elementos adicionales, éstos relativos al fin o meta de esta tecnología, que hacen imposible no mirarla con un grado adicional de sospecha. Por mejor diseñados que sean los sistemas de “regulación algorítmica”, su aplicación, dentro y fuera de la fábrica, tiene ya un componente de reproducción de los mecanismos de dominación vigentes. ¿Cómo podrían estos sistemas combatir la injusticia cuando éstos han sido diseñados e implementados por los beneficiarios de éstas?

 

Si las reglas de la “regulación algorítmica” son sacralizadas y se les atribuye un rol similar al que los neoliberales asignan a las “leyes” del libre mercado, éstas podrían convertirse, como sueñan algunos, en una herramienta que sustituya el rol humano en el diseño de política. El problema de fondo de este sistema es que las injusticias sociales o económicas son mucho más difíciles de rastrear que las fallas en tuberías o los patrones de conducta de un individuo y se derivan de acciones y de normas humanas que distan mucho de ser incuestionables o inmutables.

 

En nombre de la eficiencia y de la seguridad, la “regulación algorítmica” no sólo se dirige a los efectos particulares en lugar de atender las causas de los problemas, sino que podría convertirse en un cheque en blanco para que los gobiernos y las corporaciones continúen intentando extender sus nuevos mecanismos de control.- Mérida, Yucatán.

 

asalgadoborge@gmail.com

 

@asalgadoborge

 

https://asalgadoborge.wordpress.com/

—–

*) Maestro en Estudios Humanísticos con especialidad en Ética (ITESM)

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s