Quién le teme a los algoritmos | revista crisis
sagat / tenemos las máquinas / neokantismo de código abierto
Quién le teme a los algoritmos
Una lectura de La revolución silenciosa, de la crítica alemana Mercedes Bunz.
Ilustraciones: Lautaro Fiszman
11 de Abril de 2018
crisis #31

La autora. Mercedes Bunz es una crítica cultural alemana especializada en tecnología, habitual columnista de The Guardian y profesora de periodismo y medios digitales. Cursó estudios de Filosofía e Historia del Arte en la Universidad de Berlín y se doctoró con una tesis sobre la historia de Internet dirigida por Joseph Vogl. En 2009 se radicó en Londres, donde enseña y publica, además de editar diversas páginas web en inglés y alemán.

Con su austero semblante de campesina bávara, Mercedes es habitual conferenciante en charlas TEDx o similares. En Argentina la conocimos a través de La utopía de la copia, una selección de artículos con el ya habitual crossover entre cultura pop y filosofía continental que Interzona compiló y tradujo en 200. La revolución silenciosa, publicado originalmente en alemán en 2012 y editado dos años después en Londres, es un estudio de más largo aliento que se propone, tal como anuncia su subtítulo, estudiar “cómo los algoritmos transforman el conocimiento, el trabajo, la opinión pública y la política sin hacer mucho ruido”.

 

El gancho. La robotización y el desarrollo de la inteligencia artificial son el último estadio en la historia de la mecanización del trabajo, un fantasma que acecha al mundo desde la llamada tercera revolución industrial de los años 80-90 y que se aceleró ante la necesidad de relanzar el capitalismo luego de la crisis de 2008. Los cálculos más alarmistas auguran que casi la mitad de los puestos de trabajo actualmente existentes en los Estados Unidos pueden ser automatizados en los próximos veinte años y el especialista David Autor señala que el efecto neto de la robotización será la polarización laboral, dado que los trabajos más vulnerables en ese proceso son los intermedios. Ese nuevo mundo de morlocks y elois es especialmente palpable en Argentina, con un mercado de trabajo históricamente pródigo en cargos intermedios. El Banco Mundial puso al país al tope de su ranking mundial de naciones que más trabajadores pueden sustituir con robots. Al panorama se suma la introducción creciente de técnicas de big data y focus group en nuevos ámbitos, desde la industria cultural hasta la consultoría política y la gestión gubernamental, con lo cual los algoritmos colonizan dos baluartes históricos del humanismo: el arte y la política.

La mesa está servida para el clásico y generalmente inconducente debate entre luditas apocalípticos y evangelistas de la pastoral tecnócrata. Y La revolución silenciosa comienza con un plato amargo: a partir de la incipiente robotización del trabajo periodístico con algoritmos que rastrillan la web en busca de información (resultados deportivos, opiniones de usuarios sobre películas, restaurantes y libros) y confeccionan reseñas, Bunz concluye que la automatización ya no amenaza solo al trabajo manual industrial, “la digitalización avanza efectivamente sobre las capas medias, amenaza a los empleados con buena formación, o por lo menos pone en tela de juicio su competencia más importante: la experticia (...). Una vez vencidos el hambre, el frío y la falta de higiene en las sociedades occidentales, hay que decir que ahora la nueva desgracia es el miedo. Y se relaciona casi siempre con el puesto de trabajo”. Lo que sigue a ese mazazo es una racionalización analgésica tejida a lo largo de seis capítulos.

 

La hipótesis. Más integrado que apocalíptico, el libro de Bunz se propone articular una reflexión serena y racional de la revolución de los algoritmos, lejos del optimismo pedante de la “ideología californiana” pero sumamente crítico de la irracionalidad tecnofóbica. La revolución silenciosa comienza con un paciente y articulado exordio contra los fantasmas luditas que acompañan estos procesos: junto a peticiones de principio algo ingenuas (“las máquinas no están interesadas en dominar nada, no tienen intereses”) o rayanas en la autoayuda (“este discurso no va dirigido contra las máquinas, sobre todo estamos infundiéndonos inseguridad a nosotros mismos”), Bunz despliega un argumento histórico preciso a partir de la experiencia de la Revolución Industrial: “Fue la lógica capitalista, y no la máquina, la que convirtió el trabajo en explotación, pero exactamente igual que hoy, la lógica de la explotación se ocultó en la tecnología”. El repudio a las máquinas, concluye la autora, fue inútil, sino contraproducente, en aquel momento y lo será ahora también.

Conjurada la tecnofobia, Bunz alinea capítulos dedicados al efecto de los algoritmos en el conocimiento, el trabajo y la opinión pública bajo una premisa: la tecnología es hoy la segunda naturaleza del ser humano. Invirtiendo la indefensión del homínido que hizo la primera choza bajo la lluvia, hoy “la tecnología y la naturaleza cambiaron sus roles [...], podemos decir que en el siglo XXI el hombre aunque no crea la naturaleza, la domina. En cambio la tecnología, que sí fue creada por el humano, sigue sus propias reglas”. Ejemplo de esa autonomía de la tecnología es la algoritmización de la información que permitió el desarrollo de la Inteligencia Artificial: el volumen de información rastreable en la web, la incapacidad humana de abordar ese corpus por sí misma y la dispersión de dispositivos digitales en la vida llevaron a la imposición de los algoritmos en nuestra relación con el conocimiento, con la inevitable transformación que conlleva.

Bunz tiene el buen tino de historizar al conocimiento humano: el saber memorístico recién fue desplazado por “el razonamiento” durante la Ilustración del siglo XVIII. En el mundo alemán, incluso, fue una orden: un decreto de Federico el Grande obligando a todas las universidades de Prusia a ejercer el “pensamiento propio”. La llegada del dato digital, más preciso pero menos duradero, y su modo de alterar la verdad, es solo otro capítulo en la historia de la forma en que las personas entienden a su entendimiento. Luego del ADN y el cerebro, la escritura es la tercera memoria humana, que hoy ya no funciona bajo la lógica del productor erudito sino del buscador artificial. Este cambio implica, en primer lugar, la pérdida de la voz autorizada: el índice canónico deja lugar a la lista del buscador; en segundo lugar, la posibilidad de generar nuevos datos mediante la combinación de la información disponible realizada por el propio algoritmo del buscador, que la autora ejemplifica con WolframAlpha; finalmente, la dispersión de la información: el conocimiento escapa al libro y cubre el mundo entero.

Es este último punto el que afecta al trabajo, no en su forma genérica, sino en la consagrada por el capitalismo industrial: el experto, monopolista autorizado de un saber en una sociedad de conocimiento escaso o desigualmente distribuido. Programas como Check your Symptoms o Epocrates, que invitan al ciudadano a autodiagnosticarse smartphone en mano, prueban hasta qué punto el acceso social al conocimiento funde la autoridad del experto, en este caso nada menos que el médico clínico. Wikipedia incluso demuestra que se puede gestionar el saber sin una organización centralizada. Una vez más, Bunz opta por desdramatizar: la industrial es solo un tipo de experticia, discutida desde mayo del 68, y los algoritmos solo la sustituyen en sus aspectos más rutinarios, apelando todavía a dos dones humanos: la imaginación y el discernimiento. La ausencia de este último hizo temblar el Dow Jones durante el llamado flash crash de 2010 por dejar en manos de robots sin conciencia de riesgo las delicadas faenas financieras. Para bien o para mal, no hay algoritmo que reemplace a George Soros o Bernie Madoff.

El pifie. A la cabeza de las actividades económicas afectadas por la llegada de los algoritmos está el periodismo, cuyas empresas ven trastornados su alcance y su modelo de negocios. A la autora, en cambio, le interesa más el efecto de esta transformación en la opinión pública, tema al que le dedica la mitad de su libro. Desde Jefferson, la prensa fue entendida como un cuarto poder para controlar al gobierno, al tiempo que los diarios fueron vehículos en la conformación de las naciones modernas. Para Bunz, hoy la Internet puede constituir un nuevo tipo de sociedad civil que controle al poder: Facebook conforma un país sin territorio, capaz de materializarse en flashmobs mediante la convocatoria digital, de reemplazar la masa anómica por manadas informadas alla Deleuze, de hacer circular contrainformación mediante Wikileaks (un volumen de información, por otra parte, insondable sin un algoritmo), de regenerar esa opinión pública habermasiana que pareció perecer bajo la masificación, los grandes consorcios comunicacionales y la prepotencia del capitalismo global: “La economía ha conseguido acceder a nuestras ideas y nuestros sueños sociales. Ha sustituido a la política (...) Aunque la economía de libre mercado es un pilar de la democracia, no puede sustituirla, porque en definitiva la política difiere estructuralmente en su orientación de la economía (...) El capitalismo, se dice, no tiene alternativa y además es ingobernable. Pero de allí de ninguna manera se sigue que ahora le toque a la economía hacerse cargo del timón: necesitamos volver a tener esferas sociales en las que podamos ser nosotros los que definimos nuestras acciones y no tengamos que orientarlas según la eficacia económica. Y la digitalización nos ofrece la posibilidad de crear tales esferas”.

Bunz cierra su libro confiada en una comunidad de usuarios, “nerds, programadores e ingenieros que apoyan con herramientas de código abierto” capaces de mantener a las empresas a raya y contener al despliegue del capital dentro de un cauce democrático. Se huele en este libro de 2012 el optimismo fugaz que despertó la primavera árabe. Cinco años después asistimos al poco auspicioso resultado de aquellas flashmobs. Desde periferias menos violentas como la nuestra también es difícil acompañar esa confianza en la ética periodística y la militancia digital.

Los llamados Panama Papers, publicados por el diario alemán Süddeustche Zeitung, se difundieron en Argentina previo aviso al presidente Macri, uno de los implicados. En los años que pasaron desde la edición de La revolución silenciosa pudimos ver en todo el mundo cómo, mientras la legislación avanza sobre la libre expresión digital, las redes también sirven para desplegar operaciones de desinformación, calumnia o mero ocultamiento por parte de los grandes medios y los gobiernos.

El veredicto. La revolución silenciosa es una reflexión clara, serenamente racional y cautelosamente optimista sobre las transformaciones esperables en el mundo del conocimiento, el trabajo y la política a la luz de la tercera revolución (pos)industrial. Precisamente esos atributos del pensamiento de Bunz denuncian una tutela filosófica que el libro honra una y otra vez: Kant. El nuevo experto como “genio”, el ágora de Internet como sapere aude, el dato digital como verdad asintótica “a la que no podemos más que acercarnos”, encuadran al pensamiento de Bunz en el neokantismo que, con Habermas a la cabeza, funda el consenso socioliberal europeo de los últimos cuarenta años: la apuesta por una sociedad civil racional que pueda dialogar con el orden sin romperlo y así resguardar los valores de la modernidad en medio del torbellino del capitalismo global.

Quizás esa impronta tan continental explique la demora de dos años que tuvo el libro para ser traducido y publicado en la Inglaterra donde la autora enseña y trabaja. Aún así, los límites de la propuesta de Bunz no son tanto geográficos como históricos. De la misma manera en que el proyecto kantiano de un iluminismo obediente no resistió las violencias del siglo XIX, hoy el consenso socioliberal europeo encuentra crecientes dificultades para atajar la avanzada autoritaria que, no por casualidad, ha aprendido a hablar el lenguaje de las redes y los algoritmos mejor que nadie. Si el proyecto racionalizador de Kant derivó en la fascinación irracional por lo sublime, el pesimismo de la voluntad o la incorporación sistemática de las contradicciones, habrá que ver qué podemos hacer con la propuesta de Bunz ante la lucha por el control del espacio virtual.

 

Mercedes Bunz

La revolución silenciosa

Cruce Casa Editora, Buenos Aires

2017

156 páginas.

Relacionadas
sagat / el hombre nuevo / todo el poder al algoritmo
Por Facundo Carmona
el rumor de la posdemocracia / economista sin corbata / Yanis Varoufakis
Por Nicolás Mavrakis
el rumor de la posdemocracia / sonría, lo estamos stalkeando / estalinismo de mercado
Por Lucas Malaspina
mmlpqtp 2019 / motoforros / consenso chocobar
Por Ximena Tordini
Destacadas
gps económico / la agenda del purgatorio / vil metal
Por Alejandro Bercovich
mmlpqtp 2019 / motoforros / consenso chocobar
Por Ximena Tordini
zócalo de la pirámide / expert@s en curro / parripollo ponzi
Por Sebastián Rodríguez Mora, Por Pablo Díaz Marenghi
pac-mac / la estrategia del kboy / axel kicillof
Por Juan Pablo Hudson, Por Mario Santucho