Tecnología

Algoritmos y gobierno

Por Santiago Mitnik

La importancia de los algoritmos en internet en la vida de las personas y la humanidad en su conjunto es cada vez mayor. Este fenómeno se puede analizar desde múltiples perspectivas. Hace pocos días Francisco Calatayud lo analizó desde el punto de vista de la filosofía como los sujetos que utilizaban o eran utilizados por los algoritmos.

En esta nota quiero analizar qué son los algoritmos, y en qué medida se cumple la idea de un “gobierno de los algoritmos” o simplemente de quienes manejan esos algoritmos.

Breve historia del código

Para empezar, hay que analizar lo que hizo posible la situación actual. Los principales factores son el creciente acceso de la población a internet, tanto en cantidad de usuarios como en cantidad de interacciones posibles y el enorme volumen de información contenida en la red. Estos elementos son claves para entender la importancia de los algoritmos y cómo estos gobiernan nuestro comportamiento digital.

En primer lugar, debemos definir que es un algoritmo. Se trata, básicamente, de ecuaciones o secuencias lógico-matemáticas de órdenes, orientadas a resolver problemas específicos. Más allá de las 4 o 5 operaciones fundamentales que se pueden hacer con dos bits (and, or, nand, nor), todo lo demás debe programarse, usando esas piezas en una compleja arquitectura lógica. En sí, toda programación es un “algoritmo”. 

Cuando estos programas hacen acciones simples o que nos parecen muy mecánicas, no nos importa demasiado (ya estamos acostumbrados a las máquinas), excepto cuando escala en volumen e importancia el proceso. Los programas informáticos que controlan el arsenal nuclear de las potencias, es un clásico ejemplo de algoritmos/programas que efectivamente amenazan enormemente nuestra seguridad. Pero estos programas parecen estar controlados, y si fallan no diríamos que es un problema de los algoritmos, sino de quienes los programan.

Sin embargo, en las últimas décadas, el surgimiento de internet y la computadora personal transformó radicalmente cómo nos relacionamos con la programación. Antes, quienes eran usuarios estaban mucho más cerca de quien lo creaba y también del contenido que trataba.

Hoy en día, cuando accedemos a una red social, no conocemos el código fuente, ni que tipo de data se maneja, ni donde está almacenada, ni quiénes tienen acceso. Incluso tampoco sabemos quienes son realmente los dueños. El rol del usuario como cliente inculto se expande por la cantidad de áreas en las que hoy se usan plataformas.

Allí entra el factor de la enorme masividad de oferta que hay en la red. Prácticamente se puede acceder a todo producto posible, en todas sus variedades y orígenes. Es para poder filtrarle esta sobre-oferta al usuario-cliente que aparecen los algoritmos de búsqueda. Estos algoritmos son programados o “educados” para ofrecerle al cliente lo que más beneficie al dueño del algoritmo. Con esta perspectiva, el “gobierno de los algoritmos” parecería ser más el gobierno de los programadores o los que contraten a esos programadores.

Sin embargo, la situación es mas compleja. Justamente, por el enorme volumen de data, por la infinidad de posibles consecuencias y la enorme cantidad de actores que operan en la red es imposible pensar que quienes diseñan los algoritmos realmente controlan los resultados.

Estado, Mercado y Foro

Un ejemplo clásico es el del algoritmo de Facebook y las elecciones estadounidenses de 2016. En esas elecciones, ciertos grupos inyectaron a la red infinidad de noticias falsas, a favor y en contra de ciertos candidatos. Estas Fake News tenían como objetivo aprovecharse del algoritmo de Facebook, mediante el targeteo específico de las inclinaciones de los usuarios y títulos sensacionalistas, para generar clicks y por ende dinero y además para influir en el resultado electoral.

Luego de este episodio, las normativas para las publicidades en Facebook cambiaron enormemente. La empresa en sí nunca buscó ese resultado, sino que se produjo como consecuencia imprevista del ecosistema digital que ellos crearon.

Los algoritmos publicitarios más clásicos no son por eso menos relevantes. Amazon, la búsqueda en google de un producto para comprarlo, el marketplace de Facebook, etc etc, son casos donde los algoritmos y las plataformas reemplazan al “mercado”, como espacio físico, convirtiéndose en el “mercado” como espacio simbólico.

El Mercado y el Foro, los espacios que idealmente son la mínima garantía para la existencia de la libertad individual, aparecen hoy con dueños específicos y bajo normas no transparentes. Esto pone en cuestión el tema del control en el mundo digital. Quien decide, no solo cómo son, sino como deben ser los algoritmos que rigen las páginas y sistemas más importantes de la web. El primer criterio posible es el del autogobierno de las plataformas, que cada empresa tiene derecho a decidir qué sistema utilizar. 

Por otro lado, hay un montón de industrias de todo tipo que tienen regulaciones, e internet no tendría por qué ser distinta. Como en las regulaciones ambientales, antimonopólicas o incluso en las limitaciones a la libertad de expresión que existen para combatir y moderar las externalidades negativas que puedan surgir de la legítima búsqueda de ganancia de las empresas privadas. Más allá de que hoy en Argentina esté todo puesto en discusión, ese es el criterio general racional que impera en el mundo.

Hay cierto tipo de criterios fundamentales que todo algoritmo digital debe cumplir, aceptados más o menos universalmente. Un ejemplo bastante particular en el mundo digital es el combate al tráfico de pornografía infantil, aceptado como una linea roja infranqueable incluso en la plataforma mas extremista. 

El rol del Estado es determinar unos límites mínimos para la sana convivencia en el espacio digital, pero también la protección de sus intereses estratégicos. Uno de los centros de la lucha antiterrorista, por ejemplo, está en la detección temprana de ciertos “patrones de conducta” que suelen correlacionarse con la participación en organizaciones extremistas. Obviamente esta clase de operaciones son extremadamente violadoras de las libertades individuales ligadas a la privacidad.

Incluso la idea de regular la propaganda política en plataformas es complejo. En una era de militancia descentralizada, con la excusa de dar un pie “de igualdad” muy fácilmente se puede pasar a nuevos tipos de censura blanda, como la restricción a un máximo de vistas a ciertos posteos exitosos.

Cultura digital

El tema de los bias inconscientes que puedan introducirse en esos algoritmos es también muy relevante. La clase social, el género, la raza, la ideología y el país de quienes diseñan los algoritmos sobre los que funciona gran parte del sistema digital tienen impactos gigantescos, pero muchas veces silenciosos.

Es especialmente importante la cuestión de la influencia cultural de los algoritmos. Al digitalizarse cada vez más los consumos culturales de la población, la forma en que se pueda acceder a ellos va a transformar de raíz como piensa la sociedad. El arte en general es una de las herramientas históricas más poderosas para la transformación social. Hoy, todo activista que quiera que sus ideas impacten en el mundo debe ser experto conocedor de las dinámicas algorítmicas para poder navegar en ellas y llegar al público deseado. Lo mismo cualquier productor de cultura, tenga o no un objetivo político.

Lo más interesante del área de los algoritmos que terminan regulando la cultura es que es prácticamente imposible predecir los resultados porque la tecnología avanzó muchísimo más rápido que las ciencias sociales. Las campañas de regulación de la red para “sofocar” ciertas opiniones suelen tener resultados distintos a los buscados, en muchos contextos. Y el que estos intentos de controlar la cultura desde arriba no funcionan sea algo positivo o negativo depende solo de la medida que se coincida con los intereses de esas élites controladoras o no, o se coincida con ese tipo de idea que se quiera controlar o no.

El viejo sueño del internet abierto y libre parece olvidado y solo queda la posibilidad de unas plataformas autogobernadas, con algoritmos a medida de sus propios intereses o la creciente presencia de un estado regulador y espía. En la mayoría de los países realmente soberanos, ambos procesos ya se dan en conjunto. Salvando ciertas diferencias de estilo, tanto en China como en EEUU, las principales empresas tecnológicas deben entregar la información a sus servicios de inteligencia nacionales. Y así y todo, en todo el mundo hay una idea cada vez más imperante de que las consecuencias sociales del sistema como está constituído son negativas. 

La idea de “Gobierno de los Algoritmos” es en sí peligrosa, porque da un manto de misticismo e inhumanidad, que puede llegar a confundir a la población. Los algoritmos todavía no tienen agencia propia. Aunque no sean plenamente controlables por sus creadores y dueños, esta diferencia es fundamental. Cuán fundamental sea, solo lo vamos a entender sí efectivamente en algún momento se llega a crear un “algoritmo autónomo”, es decir una Inteligencia Artificial Generalista.

Mientras esto no suceda, la responsabilidad de la construcción de mejores ecosistemas digitales sigue residiendo en manos humanas, con todo lo que eso implica. La necesidad de regulaciones estatales o de otro tipo será absolutamente necesario en la medida en que lo que suceda en internet se considere de interés público. Y viendo el desarrollo donde la política, la economía y la cultura están cada vez más digitalizadas, esta tendencia parece incrementarse más y más. 

Pero la política, en el sentido de la gestión estatal o la presión social, no es suficiente en estos casos. La realidad es que, sin un trabajo constante vinculado al desarrollo tecnológico con una perspectiva ética, las declamaciones de cómo deberían ser las cosas no tendrán un impacto positivo. Así como de la agricultura y la industrialización, de lo digital no parece haber vuelta atrás. La tarea entonces será hacer mejores algoritmos.

YPF

Santiago Mitnik

¿Te gustó la nota? Seguilo en sus redes

@santimitnik @santi_mitnik

YPF
Pueblos de Malvinas

Pueblos de Malvinas

Martín Bericat | En esta segunda parte de la crónica de su viaje, casi sin...

100 versiones de Kafka

100 versiones de Kafka

Marina Amabile | Santiago es uno de los protagonistas de las detenciones...

La comuna organizada

La comuna organizada

Bautista Prusso | Bautista Prusso, comunero porteño, argumenta que el espíritu...