¿Democracia sin políticos? La engañosa fe en los algoritmos

El físico César Hidalgo propuso reemplazar a los políticos por inteligencia artificial. Para los que están hartos de la corrupción y las promesas electorales con letra chica es un avance. Pero, ¿mejoraría nuestra democracia? J.P. Luna y C. Pérez, del Instituto Milenio de Investigación en Datos, piensan que la inteligencia artificial puede ayudar, pero no apagará los incendios que acosan al sistema, como la falta de participación y legitimidad. Remarcan que cuando potentes algoritmos influyen en el voto de los usuarios de Facebook, manipulando sus miedos, como mostró lo hecho por Cambridge Analytica, el problema no es sólo cómo hacer que los políticos acaten la voluntad popular, sino entender cómo se forma la opinión de los ciudadanos y qué poderes la manipulan.

Franchise (Sufragio Universal) es el título de una historia corta del escritor ruso, nacionalizado estadounidense, Isaac Asimov. Este cuento de 1955 narra la historia de Norman Muller, un ciudadano del Estado de Indiana, quien es seleccionado por una supercomputadora llamada Multivac para ser el único votante de las elecciones de 2008. Entre otras cosas, Multivac es capaz de elegir y decidir la nómina de gobernadores y legisladores a distintos niveles de gobierno mediante el análisis de las opiniones, ideas y reacciones de un solo ciudadano. Ese ciudadano es el representante ideal de los habitantes del país. Esta nueva forma de elegir gobernantes –nos cuenta Asimov—promete eliminar los gastos en campañas políticas y las competiciones partidarias. Pero sobre todo, permite optimizar la representación de los intereses y posiciones de los ciudadanos. Todo ello gracias al trabajo de una inteligencia artificial que es capaz de analizar las preferencias de todos los ciudadanos y elegir el votante más representativo de ese conjunto de billones de preferencias y factores relevantes.

La persona elegida no es la más inteligente, la más informada en política, la más afortunada, ni la más fuerte. Nada de eso. Simplemente se trata de la persona más representativa. Una vez elegido, ese votante es interrogado por Multivac para ajustar más la información recabada de toda la ciudadanía y, por fin, decidir los futuros gobernantes.

La historia de Asimov transcurre en 2008. Y si bien todavía no tenemos una Multivac decidiendo elecciones, no es desacertado decir que la política está siendo asediada por el uso e irrupción de distintas formas de inteligencia artificial. Por este motivo, no es sorprendente que muchos de los temas y problemáticas que surgen en esa vieja historia de Asimov se estén discutiendo en este minuto.

Los políticos corruptos tienen una ventaja ante el algoritmo. Uno los puede ver, los puede controlar, y eventualmente los puede botar con el voto. ¿Qué podemos hacer, en cambio, cuando sintamos que un algoritmo mágico no nos representa?”.

Las propuestas de debate van desde la adopción de formas de inteligencia artificial para influir en el comportamiento de los electores hasta su uso para crear gobernadores y legisladores no humanos. Por ejemplo, quienes defienden esta última idea sostienen que el uso de inteligencia artificial nos puede permitir minimizar distintos males de la política tal como la conocemos (por ejemplo, corrupción, favoritismos –muchas veces inducidos por el lobby y el financiamiento electoral, crisis de representación política). Un agente de inteligencia artificial nos puede ayudar a tomar mejores decisiones a nivel colectivo (diseñando y legislando mejores leyes y políticas) y generando una representación más robusta de las preferencias e intereses de los ciudadanos. Pensando en la democracia chilena, César Hidalgo nos invita a pensar:

«Imagínate un futuro en el cual cada persona tiene un senador personalizado, pero ese senador personalizado no es una persona, es un software, un agente de inteligencia artificial, que toma datos sobre tus hábitos de lectura, sobre tus interacciones en redes sociales, tu test de personalidad, información que tú le provees a esa persona virtual para que te represente cada vez que una ley o una legislación se va a votar«.

La propuesta no es única en el mundo. En Nueva Zelanda, por ejemplo, ya existe SAM, un político virtual “motivado por el deseo de cerrar la brecha entre lo que los políticos quieren y lo que los políticos prometen, así como sobre lo que los políticos finalmente consiguen”. Los impulsores de SAM creen que este agente de inteligencia artificial puede actuar como representante de todos los neozelandeses y generar mejores políticas públicas que los políticos de carne y hueso. A través del uso de redes sociales, SAM analiza las opiniones de los neozelandeses (es decir, de aquellos que se manifiestan en redes sociales) y el impacto de los posibles cursos de acción. Sus creadores esperan que SAM pueda competir en las elecciones de 2020. Algo similar ya ocurre en Japón con un robot llamado Michihito Matsuda. El mismo se encuentra compitiendo por las elecciones de alcalde de la ciudad japonesa de Tama.

II

Propuestas como la de Hidalgo se suman a una larga lista de innovaciones institucionales introducidas en los últimos años con el fin de reducir los déficits de legitimidad y enfrentar la crisis de representación política –y de los partidos políticos como agente de representación– que aqueja a las sociedades contemporáneas. No obstante, de momento, estas iniciativas no han generado los resultados esperados. Irónicamente, Brasil, siendo uno de los casos más prolíficos respecto a la implementación de innovaciones democráticas (véase, por ejemplo), atraviesa hoy una crisis institucional profunda y sin visos de solución.

A diferencia de las iniciativas institucionales aplicadas hasta ahora, la introducción de agentes de inteligencia artificial llega con la promesa de superar los distintos déficits anotados arriba. Primero, los agentes basados en inteligencia artificial serían representantes más fidedignos de las preferencias de la ciudadanía, teniendo una capacidad única para recabar y analizar datos sobre qué preferimos sobre distintos temas del quehacer político. Segundo, estas entidades – a diferencia de los representantes de carne y hueso– serían incorruptibles. En tercer lugar, estas entidades serían capaces de tomar decisiones más inteligentes que los políticos actuales.

Después de todo, tendrían acceso a inmensos niveles de información y una capacidad de procesamiento inasible para cualquier ser humano. Finalmente, la introducción de estos agentes artificiales puede combinarse con otras propuestas de modificación de los sistemas de votación y delegación.

No obstante, la promesa tiene poca probabilidad de concretarse en un futuro cercano. Desde un punto de vista técnico, los agentes de inteligencia artificial solo serían capaces de acceder a datos incorporados en nuestra “huella digital”. Y dicha huella no solo posee múltiples sesgos, sino que también incrementa la polarización y el poder de aquellos con mayor capacidad de influir en la sociedad (Garimella, De Francisci y otros). Por otra parte, los algoritmos no son incorruptibles. No solo sabemos que el software incorpora el sesgo de quienes lo programan (¿serán programadores de izquierda, de derecha, empleados de Facebook o académicos de renombre?), sino también, que aprender a partir de los datos amplifica y multiplica el sesgo de los datos que se usan para entrenar modelos (Zhao, Wang y otros). Asimismo, las técnicas que mejor funcionan en la actualidad, denominadas de deep learning, son extremadamente vulnerables a ataques maliciosos que actúan corrompiendo los datos de entrenamiento de modelos (Papernot, McDaniel y otros). Y si esto sucede, a un algoritmo de deep learning simplemente no podremos interrogarlo respecto a las razones que explican su decisión.

La introducción de agentes artificiales en la política genera una serie de interrogantes de naturaleza práctica pero fundamentalmente normativa. Esto es, preguntas no solo sobre la operativa de estos agentes sino también sobre la deseabilidad de su utilización. Por citar algunos ejemplos, resulta evidente cuestionarnos sobre quién recaerá la responsabilidad por las decisiones que tomen estos agentes de inteligencia artificial. Del mismo modo, debemos decidir cómo proceder cuando estos agentes tomen malas decisiones, o bien delimitar el tipo de información que estas entidades utilizarán para conocer y agregar nuestras preferencias. Por ejemplo, es posible que el éxito de este senador virtual dependa de intromisiones a nuestra privacidad que podemos considerar como inaceptables.

Finalmente, la propuesta también se topa con una discusión previa relacionada a entender la democracia simplemente como un mecanismo para agregar preferencias y no como un sistema que funciona para cambiarlas y adaptarlas. Defensores de modelos participativos y deliberativos de democracia -por citar solo dos casos evidentes- entienden que la política democrática no puede ser simplemente entendida como la sumatoria de nuestras preferencias, sino que la misma necesita del intercambio de argumentos que nos lleven a cambiar nuestras preferencias.

Aún cuando técnicamente resulten cada vez más viables, las propuestas basadas en la incorporación de mecanismos de representación vía inteligencia artificial se quedan cortas al momento de generar más participación, más legitimidad, y mayor representatividad. Además, este tipo de propuesta se fundamenta a partir de problemas de diagnóstico serios respecto a la naturaleza de la representación democrática en sociedades complejas.

Las propuestas basadas en la incorporación de mecanismos de representación vía inteligencia artificial se quedan cortas al momento de generar más participación, más legitimidad, y mayor representatividad”.

La introducción de inteligencia artificial en la política refleja la ilusión de solucionar problemas políticos mediante el uso de más técnica. Creemos, no obstante, que discutir este tipo de iniciativas es crucial, no solo por la prominencia que las mismas están adquiriendo en estos días, sino fundamentalmente porque reflexionar sobre sus limitaciones y virtudes es un ejercicio que puede encaminarnos hacia diagnósticos más certeros sobre la complejidad del problema que tenemos por delante.

Tal vez dicho diagnóstico también nos oriente hacia la búsqueda de soluciones más razonables. A cuenta de un debate más profundo, en lo que resta de esta columna nos detendremos en dos puntos del debate. Primero, discutiremos los desafíos que plantean la formación y agregación de preferencias sobre cursos de acción posibles (políticas públicas) en la sociedad. En segundo lugar, abordaremos el problema de la legitimidad social (del algoritmo), el que constituye otro desafío fundamental que deberá enfrentar la implementación de propuestas de este tipo.

III

Hasta hace poco el debate de representación política se dividía entre aquellos que creían que lo mejor era apostar por formas de representación sustantiva (en que los representantes posean ideas similares a las de sus votantes, y que esas ideas mandaten su acción política) versus quienes defienden formas de representación descriptiva (en las que se espera que los representantes posean características sociodemográficas similares a las de sus representados).

La posibilidad de tener una forma de inteligencia artificial como representante supone una nueva forma de representación. En este caso, lo que importa no son las ideas, ni las características del representante, sino la capacidad del algoritmo para agregar y analizar las preferencias de todos nosotros y a partir de ahí generar una suerte de representante de la mayoría. Concebir a la democracia (o a un régimen político posdemocrático) solo como un sistema de votación en que se representen preferencias dadas, constituye el primer supuesto errado de propuestas basadas en la incorporación de inteligencia artificial al mecanismo de representación.

Aunque la agregación y representación fidedigna de las preferencias de la mayoría (o de cualquier otro criterio para definir una disyuntiva social vía la votación) logre viabilidad técnica en el futuro, el problema fundamental que hoy enfrentan las democracias contemporáneas no está en la agregación de preferencias, sino que radica en el proceso de formación de esas preferencias.

Lo que subyace al escándalo de Facebook y Cambridge Analytica tiene relación con los sesgos que posee la formación de preferencias en una esfera pública en que las interacciones en redes sociales han aumentado exponencialmente. En dicho contexto, las fake news, los bots, los filtros-burbuja, y los algoritmos de optimización de contenidos resultan clave en el proceso de formación de preferencias de los ciudadanos contemporáneos. El proceso de formación de preferencias es, todavía, insondable.

(Fuente: propublica.org)

Aunque las ciencias de la comunicación, la sociología, y la ciencia política poseen un corpus teórico y empírico razonable respecto a la formación de preferencias en sociedades modernas, dado el carácter segmentado, altamente atomizado, y tecnológicamente mediado del proceso de socialización e interacción política actual, dichos modelos solo pueden proveer algunas hipótesis gruesas. Mientras tanto, la investigación en neurociencia, aunque aún incipiente, tiene probablemente más que decirnos respecto a cómo los ciudadanos constituyen “su” opinión sobre un tema determinado, mientras navegan sus redes sociales personales. Al mismo tiempo, vivimos en sociedades en que distintos estratos y segmentos sociales poseen niveles de exposición muy diferentes a las interacciones en redes sociales.

En suma, mientras el proceso de formación de preferencias de los ciudadanos nos resulta aún oscuro, sí sabemos que dicho proceso no es neutro ni se encuentra exento de ser fuertemente influenciado por quienes poseen intereses (y recursos) que defender. También sabemos que los procesos de formación de preferencias están social y económicamente segmentados. Lograr una esfera pública más horizontal que evite reproducir los sesgos de la sociedad moderna constituye una de las grandes promesas incumplidas de la “revolución de las redes sociales”. Montar un sistema de votación y representación sobre un sistema en que la formación de preferencias posee los sesgos que hoy observamos en redes sociales, es poner el carro delante de los bueyes.

Agregar mecánicamente preferencias, más allá del sistema de votación seleccionado (mayoritario, calificado, cuadrático, etc.) puede terminar muy mal. ¿Cómo legislaría el representante de inteligencia artificial cuando se discute la pena de muerte en un contexto particular como cuando suceden, por ejemplo, oleadas de crímenes de alto impacto público? La política sirve para modificar preferencias individuales a favor de bienes e instituciones que son socialmente superiores, no solo para representar preferencias individuales. La institucionalidad política también cumple un rol de estabilización, en tanto opera con criterios generales y alarga los horizontes temporales de la política pública (gobernar al pulso de preferencias fuertemente influenciadas por la noticia del momento acorta dichos horizontes).

Parte del problema de las democracias actuales radica en que los líderes políticos han perdido capacidad de liderar a la opinión pública, constituyéndose en seguidores ansiosos de trending topics y encuestas de popularidad.

Si los políticos han perdido la capacidad de liderazgo en la formación y alteración de preferencias, tal vez la inteligencia artificial pueda venir al rescate. Las innovaciones recientes respecto al procesamiento de lenguaje natural, hacen posible que contemos ya con textos completamente redactados por máquinas. Dichos textos “artificiales”, creados en base a una síntesis inteligente del inmenso corpus de conocimiento hoy disponible en nuestras bases de datos, podrían intentar persuadirnos y encaminarnos hacia preferencias socialmente deseables.

En Nueva Zelanda ya existe un político virtual (SAM) que busca cerrar la brecha entre lo que los políticos quieren, prometen y finalmente consiguen».

El procesamiento de lenguaje natural podría también solucionar un paso muy relevante que las propuestas actuales también parecen ignorar: ¿quién formula las alternativas a ser votadas? Sabemos que en las democracias contemporáneas el poder de agenda, y la capacidad de formatear las alternativas, muchas veces es tan o más importante que el peso de los votos. ¿Será posible en el futuro contar con algoritmos que escriban nuestros proyectos de ley, reglamentos, normativas, e iniciativas de política pública? Sí, seguramente será posible. Tal vez aquí también radique la fórmula para construir una esfera pública menos sesgada y más virtuosa.

Lamentablemente, esto tampoco alcanza. Las iniciativas actuales se sustentan también en el propósito de sustituir por algoritmos a políticos pasibles de ser corrompidos por intereses particulares. Según sus entusiastas, los algoritmos, además de asegurar (una presunta) neutralidad, trabajarán para representarnos en un régimen de 24/7. El problema es que, al menos por el momento, los algoritmos de inteligencia artificial con que contamos poseen dos limitaciones que derivan en un problema político fundamental: la falta de credibilidad y legitimidad social.

Aunque operan sobre un corpus de datos inmenso y en constante expansión (lo que usualmente se llama big data) los algoritmos de inteligencia artificial con que hoy contamos son inductivos. Esto supone que sus procesos de optimización dependen de la información socialmente disponible (contar con más información introduce además dilemas éticos fundamentales), por lo que más allá del volumen de los datos sobre el que corre un algoritmo, la información siempre constituye una muestra parcial (y potencialmente sesgada) de datos.

Piense, por ejemplo, en aplicaciones basadas en interacciones de usuarios en Facebook. ¿Qué sabemos de aquellos ciudadanos que no tienen Facebook y no quieren tenerlo? O ¿a quién sobre-representa y sub-representa la actividad de Facebook hoy, luego del cierre (o creciente inactividad) de cuentas tras el escándalo de Cambridge Analytica? ¿Podemos forzar a nuestros conciudadanos a revelar sus preferencias para ser incorporados en el proceso político?

Por otro lado, quienes trabajan en el área de inteligencia artificial confiesan que aunque eficientes, los algoritmos de optimización, agregación y visualización de datos con que hoy contamos son esencialmente oscuros (además de pasibles de múltiples sesgos mencionados arriba). Nadie sabe muy bien, dada la increíble complejidad y masividad del cuerpo de datos, cuáles son las reglas –más allá de parámetros básicos del modelo seleccionado– a partir de las cuales el algoritmo genera un resultado. La intangibilidad del algoritmo es políticamente muy problemática.

Las propuestas basadas en la incorporación de mecanismos de representación vía inteligencia artificial se quedan cortas al momento de generar más participación, más legitimidad, y mayor representatividad”.

Consideremos la controversia que generan los sistemas de voto electrónico. Aunque sus defensores y promotores argumenten las ventajas que tiene el sistema, muchos de nosotros seguimos confiando en el voto con papel y lápiz. Aún cuando el sistema de voto electrónico funcione limpiamente y sea efectivamente blindado de toda posibilidad de hackeo (algo que todavía hoy no puede asegurarse), siempre habrá quienes adhieran y se movilicen en torno a una teoría conspirativa. Y cuando esto pase, el sistema tradicional, aunque arcaico, es más transparente que un sistema moderno pero oscuro. En definitiva, en política, no solo hay que serlo, sino también parecerlo.

En este escenario, los políticos corruptos tienen una ventaja ante el algoritmo. Uno los puede ver, los puede controlar, y eventualmente los puede botar con el voto. ¿Qué podemos hacer, en cambio, cuando sintamos que un algoritmo mágico no nos representa? Como en la distopía de Aldous Huxley, Un mundo feliz, podríamos confiar y acatar como autómatas. No obstante, y por suerte, estamos rodeados de salvajes.

Un mundo feliz también connota un problema adicional de la propuesta de un gobierno basado en inteligencia artificial. Aún si fuese legítimo, aún si nos representara bien, no es claro que queramos participar de un régimen así. Aún si las democracias actuales poseen fuertes déficits de participación, son sin duda más participativas (al menos en potencia) que un sistema como el que nos promete la sustitución de la representación tradicional por algoritmos de inteligencia artificial que nos indiquen lo que debemos hacer sin poder explicarnos por qué debemos hacerlo.

* Los autores agradecen los comentarios y sugerencias de Jorge Pérez, Sebastián Valenzuela, Marcelo Arenas y Pablo Barceló.