Ya no es novedad que los algoritmos comienzan a dominarlo todo. La inteligencia artificial (IA) que consiste en la capacidad de las máquinas de aprender y tomar decisiones autónomas, resulta disruptiva porque cambia el sentido de la evolución tecnológica tal como la conocimos en el siglo pasado.
Los algoritmos son muy útiles porque, entre otras cosas, procesan inmensos volúmenes de datos y los convierten en materia útil para la toma de decisiones. De aquí que la política no escape al derrotero digital de la tan mentada Cuarta Revolución Industrial.
“En Barcelona hay un amigo que está estudiando la oclocracia” me comentaba la semana pasada Mario Adaro, Juez de la Corte Suprema de Justicia de Mendoza, entusiasta de las nuevas tecnologías en el sector público. Incluso, tuvo la delicadeza de explicarme un poco más:
“Claro, porque ahí en Cataluña, que se convirtió en una suerte de Silicon Valley europeo, la gente quiere participar en la toma de decisiones, opinar en todos los asuntos, y la tecnología hoy lo hace posible. Entonces, están cuestionando el modelo de representación de la democracia. Lo que dicen es que antes hacían falta representantes porque no había tecnología; hoy el gobierno del ayuntamiento puede saber en tiempo real lo que opina el pueblo sobre cada tema de gobierno. El riesgo es que eso tienda a que se formen mayorías virtuales que no respeten a las minorías, o que, al revés, se impongan minorías reales que hacen mucho ruido en el plano digital”. Bonita controversia.
La oclocracia es la tiranía de la mayoría, una de las previsibles deformaciones de la democracia. Si hoy hay politólogos analizando este término es porque nunca como ahora el gobierno de la muchedumbre (o de la turba, según la traducción que elijamos) estuvo tan cerca de concretarse, dadas las tecnologías de la información y la comunicación (TICs) que, se supone, reflejan en lo virtual lo que ocurre en lo real.
Ahora bien, ¿verdaderamente lo reflejan?
El fenómeno de que las redes sociales son caja de resonancia ya ha sido suficientemente estudiado en relación con el modo en que nos comportamos digitalmente. Sin embargo, queda por entender cuál es la forma en que la burbuja de filtros y la cámara de eco influyen en la opinión pública y, por ende, en las decisiones de los gobernantes.
Se supone que hemos entendido que en las redes sociales -que, valga la aclaración, no son lo único que internet ofrece- los algoritmos aprenden de nuestro comportamiento digital de forma que nos brindan cada vez, más de lo que nos gusta, para que pasemos más tiempo frente a sus interfaces. De eso se trata la burbuja de filtros: dejarnos ver sólo aquello que nos hará quedarnos un poco más, porque de eso depende la venta de publicidad.
Al mismo tiempo, y más precisamente en lo que hace a opiniones, la cámara de eco es consecuencia de que, en el plano virtual, casi nadie está dispuesto a cambiar de opinión, debatir buscando la verdad, o reconocer errores. Por lo tanto, se produce una espiral en la que sólo leemos, vemos y escuchamos una y mil veces a quienes piensan como nosotros; así nos reafirmamos en nuestra postura y tendemos a reforzar preconceptos, estereotipos y perspectivas. En una palabra, nos damos la razón entre los que pensamos igual.
Y todo a caballo de los famosos algoritmos, porque, después de todo, el modelo de negocio debe funcionar de forma que las redes puedan vender publicidad. El rating digital se mide en tiempo de permanencia, sin importar la calidad del contenido, menos cuando no hay intervención humana en el proceso de difusión.
Así, detrás de la lógica algorítmica de administración de contenidos digitales, se oculta un abuso de la matemática. En la medida en que los robots cuantifican absolutamente todo, ellos -y nosotros- pierden de vista que la calidad, la diversidad y la creatividad importan: que alguien sea de izquierda no significa que se niegue a leer lo que escribe uno de derecha. Que un post tenga mil likes no garantiza que no sea fake. Y que un contenido sea muy recomendado no excluye la posibilidad de que se trate de un video pedófilo. En definitiva, la IA no es tan inteligente.
Pero la pregunta verdaderamente interesante es si no somos nosotros quienes hemos puesto el carro delante de los caballos, y, una vez más, en vez de crear tecnología a nuestro servicio, nos estamos poniendo nosotros al servicio de las máquinas. Algo de eso analizamos con Andrea Barbiero, experta en tecnología y salud, oriunda de Bahía Blanca, pero cuya carrera ha dejado una huella indeleble en el sistema público de salud catalán.
“Yo no creo que la tecnología nos limite, en la medida en que estemos educados digitalmente para sacarle provecho” afirma Barbiero mientras defiende Triem, innovación que lleva su sello, y que permitió a los pacientes de Barcelona decidir quién utiliza la información que consta en las historias clínicas digitales, con qué objetivo, durante cuánto tiempo.
Consultada acerca de si son las ONGs como la que ella encabeza (Salus_Coop) las que interpelan al poder político en esta Cuarta Revolución Industrial, Barbiero duda: “no sé si somos nosotros, pero sí que la gente tiene derecho a opinar, y las tecnologías permiten hoy día organizarse, expresar el punto de vista, decir lo que creemos que nos corresponde”. ¿Impulsan una democracia directa? No lo tienen tan claro, pero sí apuestan cada día a mejorar la educación de los ciudadanos para que puedan participar más y mejor de la cosa pública.
¿Dónde quedó la calidad democrática?
Más allá de que es indudable que las TICs van modificando sustancialmente la comunicación política, aun hoy resulta improbable un escenario en el que se apele a un referéndum permanente. No sólo por la compleja arquitectura institucional del Estado, sino también porque algo no suena del todo verosímil.
Mientras escucho cómo Adaro y Barbieri me cuentan qué es lo que se cocina en Cataluña y otros distritos en materia de participación ciudadana, intento ubicar en el mapa conceptual básico de un demócrata términos como sociocracia o algocracia, que aparecen en boca de mis interlocutores.
La primera de las nuevas palabras enumeradas refiere a la capacidad de cualquier grupo autónomo, de autorregularse conforme un criterio consensuado y horizontal. Partiendo de las teorías sistémicas, es razonable que se use esa etiqueta para designar una forma de participación democrática que se asienta en las TICs por las que viajan de ida y vuelta los pareceres de los ciudadanos y los políticos.
Con algocracia, por otro lado, los expertos se refieren a la injerencia decisiva de los algoritmos en nuestra vida cotidiana. El triángulo que ambos términos conforman, sumando a la oclocracia, es lo que define el presente de la organización política occidental: si los sistemas digitales que usamos definen por nosotros el contenido que consumimos, al tiempo que pretendemos sentar postura sobre asuntos públicos por esas mismas vías, y cualquier tendencia digital tuerce la más férrea voluntad decisoria, estamos ante un problema de proporciones.
“Es que nadie está hablando de la calidad de nuestra democracia” sentencia Dante Avaro, Doctor en Filosofía Política, CONICET. Avaro investiga el presente y el futuro de nuestro sistema de organización política considerando dos cuestiones clave: el avance del modelo chino de crecimiento y vigilancia ciudadana, y las nuevas expresiones políticas que surgen en occidente.
“Cuando se habla de participación directa de los ciudadanos en la esfera pública, no se piensa en que la democracia es más que votar, u opinar sobre la cosa pública”, explica Avaro. “Sería bueno que empecemos a pensar quiénes toman decisiones, cómo es que ellos llegan a los lugares de poder, y cuál es la aptitud que los califica” sostiene, haciendo alusión a un viejo problema acerca del ejercicio del poder representativo: cuál es el criterio apropiado para definir quién manda.
Es que, así como vemos surgir populismos que no hacen más que decirle al pueblo lo que quiere escuchar, e incluso a veces la muchedumbre toma en sus manos la Justicia, los algoritmos no son infalibles ni impolutos. Sus inferencias parten de datos que los seres humanos les cargan, y cuyos sesgos trasladan a complejas fórmulas matemáticas.
La sociocracia parece imposible en conglomerados más grandes que una aldea de sabios. Más aun, basta mirar atrás en nuestra historia política para entender que, quien toma decisiones que afectan a millones de personas, debe estar preparado para eso. No suena simpático ni a favor de los tiempos que corren, pero tampoco resulta difícil sostenerlo.
Así, pues, Avaro entiende que los nuevos vientos democráticos obligarán a construir consensos vinculando al sector productivo involucrado en inversión para infraestructura social como las TICs, más los dirigentes, más los expertos representando a la academia: “Sin participación de todas esas fuerzas, difícilmente la democracia, tal como la conocemos, se sostenga frente al avance descomunal de China”.
Menudo desafío les queda por delante a quienes se preocupan por los problemas del conjunto…
