La sociedad algorítmica, por Alfredo Moreno

La sociedad algorítmica, por Alfredo Moreno

Los datos digitales y la inteligencia generalizada mediante algoritmos sobre las conductas en el territorio digital de las personas, y sobre los fenómenos naturales y de artefactos, están en la base de una economía digital.

Con la revolución industrial, las máquinas pronto se volvieron prácticamente inevitables en todas partes; lo mismo ocurrirá con gran parte de los procesos y sistemas económicos basados en la inteligencia digital, ya que la economía digital ocupa un lugar central en la redefinición digital del mundo. El dividendo de eficiencia es demasiado alto, y una gran cantidad de servicios completamente novedosos son demasiado atractivos para que las sociedades los resistan.

Un requisito importante para la democracia sobre la política digital es permitir que las personas retengan el control sobre su información personal y su recorrido en el territorio digital. Los ciudadanos internautas tienen que poder negar por completo el acceso a algunos tipos de datos y compartir otros solo con partes confiables. Además, deberían poder conocer y controlar cualquier uso posterior de su información personal, cuyo abuso puede causar daños graves. Estos son los principios fundamentales que subyacen a varios regímenes de protección de datos personales, como el Reglamento General de Protección de Datos (GDPR) de la Unión Europea y la ley de protección de datos propuesta por la India.

A medida que la economía digital prevalece cada vez más en la mayoría de las relaciones económicas, el acceso y el control sobre varios tipos de datos determina la ventaja o desventaja económica comparativa de los actores involucrados. Este es un asunto muy diferente de la privacidad.

Las leyes dirigidas a la privacidad de datos pueden tener algunas implicaciones para proteger a las personas contra la explotación económica basada en datos. La razón es que las leyes actuales de protección de datos no se centran en la dimensión económica, incluso en términos de ciudadanos. A medida que el pilar principal de la economía digital pasa de los anuncios dirigidos, para los cuales los datos personales son clave, a la gestión inteligente basada en datos de actividades de todo el sector, los datos anónimos y agregados son cada vez más importantes. Los algoritmos aplicados en Inteligencia Artificial, por ejemplo, se basan en dichos datos y son el poder clave detrás de la economía digital.

Los EE.UU. y sus aliados tienen un fuerte control sobre los discursos de política global. Cualquier discusión de «datos como recurso» irá inmediatamente en la dirección de desafiar la extracción global de datos valiosos de las compañías estadounidenses. Con el apoyo de sus aliados, Estados Unidos está ocupado ahora tratando de lograr que todos los países firmen un régimen de «flujo de datos global libre».  Quien recopila los datos, los posee.

Lamentablemente, la mayoría del activismo digital, incluso en países en desarrollo, sigue centrado exclusivamente en el tema de la privacidad, que sin duda es muy importante. Ignora por completo los derechos económicos sobre los datos. Aquí parece haber un sesgo de élite, según el cual se espera que los mercados garanticen por sí mismos la equidad. Pero la lógica del mercado no parece estar funcionando para el conductor de Uber, el comerciante de Amazon y el pequeño restaurante y hotel explotados respectivamente por las plataformas de entrega de alimentos y reserva de alojamiento.

Entre su lealtad geoeconómica a los EE. UU. y la rápida erosión de las perspectivas de la economía digital, la Unión Europea (UE) ha comenzado a hacer algunos ruidos tentativos sobre los derechos económicos sobre los datos, incluidos los de tipo no personal, que podrían ser datos colectivos / grupales, o artefactos y datos naturales. Sus documentos de política hablan sobre el acceso obligatorio a datos digitales con compañías privadas que se necesita para fines de interés público.

Las autoridades de competencia de la UE están investigando quién tiene los derechos de datos sobre productos puestos a la venta por terceros en la plataforma de Amazon, el vendedor o Amazon. Otro documento de política de la UE cuestiona si el propietario de una premisa de fábrica debe poseer los datos de la máquina que se originan en la fábrica o el proveedor de aplicaciones digitales que pueden ejecutar esas máquinas.

Es necesario cuestionar a la UE ya que estas posiciones emergentes de política interna cuadran con su apoyo a los EE.UU. en los foros de comercio mundial sobre los regímenes de «libre flujo global de datos».

La pandemia y el contexto digital

En tiempos de COVID-19 asistimos a una valorización de los números, los porcentajes, cuadros que muestran curvas, análisis de datos estadísticos, en definitiva, frente a “la pantalla” vamos tomando cuenta para que sirven las Matemáticas y tal vez en particular el análisis de los datos.

Nunca como antes la humanidad depende de las infraestructuras de telecomunicaciones y las plataformas de software que brindan servicios en internet. La cuarentena global es posible porque podemos conectarnos a internet e interactuar con los servicios en la red. A tal punto que valoramos el trabajo de servicios como Rapi o Pedidos Ya, plataformas de distribución comercial que representan los máximos exponentes de la flexibilización laboral y el desconocimiento de los derechos del trabajador que nos toca el timbre para entregarnos el “delivery”.

Es muy común encontrar notas periodísticas que hacen referencia a los algoritmos. Ya sea en la sección de economía, tecnología o estilos de vida, estos procesos matemáticos se han convertido en poco tiempo en una pieza fija de nuestra cotidianidad informativa.

A medida que los algoritmos son los “agentes inteligentes” invisibles en la redefinición del mundo digital, es urgente hablar de cómo alertar a los ciudadanos de los impactos de sistemas de datos que toman decisiones sobre nuestras oportunidades, derechos y posibilidades vitales. Si un día te niegan la prestación de un empleo, la atención médica, el ingreso al sistema bancario, el acceso a becas de estudio o contratos de tú vida laboral porque lo dicta un algoritmo, ¿a quién podemos acudir?

Un algoritmo al igual que los datos con los que se entrena, pueden estar sesgados desde su propia conceptualización. ¿La sociedad algorítmica reproduce los conceptos del modelo de distribución de la riqueza y la desigualdad en el acceso a los conocimientos?

Varios autores, en particular Cathy O’ Neil en su libro “Armas de destrucción Matemática”, han denunciado que los desarrollos de estos modelos embebidos en el software no cuentan con regulación de los Estados.  Así, van creando una sociedad dual en la que los ricos cuentan con el privilegio de una atención personalizada, humana y regulada mientras que a los grupos vulnerables se les condena a los resultados de “maquinas inteligentes”, en el que no existe transparencia, derechos ni procedimientos claros para apelar las decisiones algorítmicas.

Los algoritmos conforman un sistema de puntuación. Si tú puntuación es suficientemente elevada se te da una opción, pero si no la consigues se te deniega. La puntuación algorítmica, puede ser para ser candidato a un puesto de trabajo o la admisión a una institución educativa, una tarjeta de crédito o una póliza de seguros. El algoritmo te asigna una puntuación de manera secreta, no se puede entenderla, no se puede plantear un recurso. No conocemos su funcionamiento. Utiliza un método de decisión que no se conoce públicamente.

Sin embargo, no solo es algo injusto para el ciudadano, sino que normalmente este sistema de decisión es algo destructivo también para la sociedad. Con los algoritmos estamos tratando de trascender el prejuicio humano. Si fracasan, provocan que la sociedad entre un bucle destructivo, porque aumentan la desigualdad progresivamente. Pero también puede ser algo más preciso. Puede ser un algoritmo para decidir quién accede a la libertad condicional, uno que determina qué barrios sufren una mayor presión policial en función de la presencia de estereotipos configurados en datos de entrenamiento del algoritmo.

Muchas de estas cuestiones merecen una reflexión social profunda y la articulación de consensos tecno políticos y sociales sobre qué es y qué no es aceptable y deseable. Para empezar a articular estos consensos hacen falta herramientas que nos ayuden a entender qué es lo que está ocurriendo. ¿Contar con información pública sobre el comportamiento de los algoritmos y los datos de entrenamiento puede ser esa herramienta?

La redefinición del mundo digital

Comprender los alcances de los algoritmos y sus contextos de aplicación, nos ayudará a comprender como la digitalización de la vida cotidiana y nuestra relación con las plataformas y servicios digitales está orientada por una infraestructura de cómputos que conforman el proceso de los algoritmos. Por ello, se hace necesario comprender, discutir y criticar la manera como los algoritmos, que no conocemos, marcan nuestros días.

Se define algoritmo como «un conjunto ordenado y finito de operaciones que permite hallar la solución de un problema”. Estas acciones se entrenan con datos para obtener conclusiones y conocimientos.

La expansión de los métodos de cálculos expresados como algoritmos, algunos disponibles desde 1950, se debe en gran parte al encuentro del software (aplicaciones APP), las capacidades de procesamiento a gran escala y el ancho de banda creciente de internet hoy configuran el territorio del Big Data.

Los cálculos penetran tan íntimamente en nuestras vidas, que no logramos percibir con claridad como conducen nuestros datos a infraestructuras estadísticas ubicadas en lejanos servidores. Así, un número creciente de dominios de conocimientos como la cultura, el conocer y la información, la salud, la ciudad, el transporte, el trabajo, las finanzas e incluso el amor y el sexo son mediados por algoritmos.

La primer gran expansión de Facebook coincidió con la primera crisis económica del año 2007, que potenció el desarrollo de servicios de plataformas digitales orientados a la individualización, orientación y guía de cada navegante de internet. En el 2015 Facebook tenía 1.350 millones de usuarios registrados, que se comunicaban en 70 idiomas y utilizaban 50.000 servidores (computadoras de alta capacidades de procesamiento y almacenamiento). Facebook se ha constituido así en uno de los “dueños de Internet” controlando Instagram desde el 2012 y Whatsapp desde el 2014; un enorme negocio que representa más de 25.000 millones de dólares anuales y un volumen de datos muchísimo mayores a los millones de dólares estimados.

El valor político del flujo de datos permanente de esta plataforma digital, fue visible en el 2013 cuando la Agencia de Seguridad Nacional de USA reconoció la utilización de Facebook para el seguimiento de ciudadanos que aportaban sus datos “inocentemente”, información que durante años había sido un objetivo de los trabajos de inteligencia.

Algo similar sucede con los buscadores como Google que llevan invisibles cookies (pequeños softwares con algoritmos) que permite identificar al usuario y trazar un mapa de su navegación por las webs y profundidad de penetración en cada una, estos datos configuran nuevos productos del negocio digital.

La cuarentena en la que habitamos, nos pone en contexto de teletrabajo, teleeducación, tele entretenimiento, video conferencias; todas las relaciones sociales a través de una pantalla de un dispositivo que se conecta a internet.

Dos dinámicas avanzan para hacernos entrar en una “sociedad del algoritmo”. La primera es la digitalización de la sociedad con demanda creciente de los ciudadanos de ser incluidos; la segunda el desarrollo de los procesos. Estos últimos, mediados por software, entregan a las computadoras/servidores las instrucciones matemáticas para clasificar, ordenar, agrupar, predecir, tratar, agregar y representar la información por medio de datos cada vez más desapercibidos.

Los desplazamientos de personas, los tickets de compras, los clics en Internet, el consumo online, el tiempo de lectura de un libro digital, el tiempo de escucha de música y permanencia en video por demanda; son cifrados por algoritmos, algoritmos que clasifican y predicen nuestro consumo presente y futuro.

Omnipresentes en nuestras vidas, los algoritmos son presentados como “misteriosos” a nuestros conocimientos por no saber de su existencia y funcionalidad. Una nueva religión con nuevos actos de fe.  Raramente nos cuestionamos cómo estos procesos de lógica y cálculo se producen y la visión de mundo que conllevan.

La sociedad digital ubicó a los ciudadanos en el lugar del consumidor digital, sabemos operar dispositivos y consumimos los contenidos a través de las aplicaciones. No conocemos los procesos y los procedimientos que regulan la sociedad digital.  Por ejemplo, que los algoritmos usados por los gigantes tecnológicos, conocidos como GAFAM (Google, Amazon, Facebook, Apple y Microsoft), no sean siempre justos en las decisiones que toman.

Los algoritmos operan dentro de «cajas negras», no conocemos sus funcionalidades. El valor que mueve el cálculo algorítmico no es otro que el de la personalización, el del individualismo.  Este sesgo en la confección del software que implementa el algoritmo responde a modelos políticos y culturales de relaciones sociales y distribución del conocimiento y la riqueza. Esos sesgos también pueden afectar a decisiones como el seguro médico u obra social o prepaga, la escolaridad o el registro criminal, la aceptación a una candidatura laboral. Los datos no hablan más que en función de los cuestionamientos e intereses de quienes los interrogan.

En la cultura actual, los cálculos algorítmicos atrapan deseos de libertades y servicios personales; donde los individuos por medio de sus representaciones, ambiciones y proyectos, se piensan como sujetos autónomos, por fuera de modelos políticos incluyentes o excluyentes.

Es necesario construir otras políticas públicas para la sociedad de los algoritmos. Los procesos y sesgos deben estar explicitados para los ciudadanos, como alertas en el mundo de internet y en la Estadística Estatal. El Estado tiene que garantizar a los ciudadanos la visibilidad pública sobre la conducta de los algoritmos y los datos de entrenamiento.

Es necesario conocer la visión política y cultural que se implementa en los procesos algorítmicos y el sesgo de los datos que arrojan resultados como verdades. Hay que instalar una mirada crítica al funcionamiento de los cálculos ocultos. Es necesario conocer qué sentido y objetivo implementan los algoritmos. Estos sentidos configuran un posible mundo donde el reconocimiento de los méritos no encuentra trabas; donde la autoridad se obtiene únicamente en torno a la calidad y a la resiliencia.

Las GAFAM persiguen instalar un ambiente tecnológico invisible que permita a las personas orientarse, sin contrariarlos. Gran parte de nuestras elecciones diarias, son efectuadas por una infraestructura socio-técnica; comprar un pasaje de avión, traducción automática de lenguajes, encontrar el mejor restaurante, conseguir una cita personal, llenar la heladera o cargar la SUBE (tarjeta digital para utilizar transporte público en Argentina).

Con el GPS hemos perdido el paisaje. Los algoritmos guían nuestras preferencias y atan nuestras elecciones. Vuelven realidad el sueño liberal de la elección sin ataduras, pero este sueño esconde también su contracara. Una libertad algorítmicamente pautada.

Alfredo Moreno

América Latina en Movimiento

A %d blogueros les gusta esto: