¿Cómo les va? Espero que sus cosas estén en orden en lo que quepa.Y los que anden con quilombos, tomenselo con soda, todo pasa, diría Julio. 

Ando con algo en la cabeza, ¿no les pasa que en la vorágine de los tiempos uno incluye en su dialecto conceptos y términos que suenan “familiares” y cuando los googlean no tienen nada que ver o son, al menos, más complejos de lo que uno pensaba? Bueno eso me pasó hace un año con el concepto de Inteligencia Artificial (IA). Sí, yo pensaba al mejor estilo Terminator que una máquina creada por el hombre aprendía de sus acciones y al final buscaba aniquilar la población. No, mentira, hablando en serio, cuando leí un paper sobre que era la IA dije que me faltaba mucho que aprender. 

Este interés por la IA se me aparece en un anime: Psycho Pass. En resumidas cuentas, en una Tokio del futuro, controlada por un sistema Sibyl que se dota de forma automática de inteligencia, en las elecciones para gobernador para la ciudad nos enteramos que uno de los candidatos usa y ¿es? un holograma con IA dotado para moldear sus discursos según el día, la audiencia y las emociones, y al final la sociedad hace algo impensando, un fla. (Prometo que van a leer más de este anime, pero no spoileo más). 

Claramente en esta entrega no vengo solo, tengo la suerte de poder charlar con Juan Battaleme, especialista en seguridad internacional, docente universitario y, más importante, mi ex director de la carrera. En este caso, Juan es palabra autorizada con respecto a la tecnología y su aplicabilidad en la política y en la defensa(al fondo dejo articulos de él sobre el tema). Juan hace el primer acercamiento: “En la actualidad, vivimos en una transformación por la aplicación de la tecnología y los desarrollos que alcanzan a todas las tecnologías de índole digital que son aplicadas a la biología, a las comunicaciones y a las mismas dinámicas políticas”. Esta transformación marca una tendencia dentro de las sociedades y más con la irrupción de Smart Cities, que acelera procesos de cambio con respecto al uso de las tecnologías y cómo se aplican en la vida de las personas. 

En lo conceptual, Battaleme me explicó que “la IA involucra por algún lado desarrollar redes neuronales”. A esto le agrego algo que me gustó, en su página sobre IA, IBM te recibe con esta frase: “La inteligencia artificial aprovecha las computadoras y las máquinas para imitar la capacidad de resolución de problemas y toma de decisiones de la mente humana”. Uno cuando piensa y analiza esto, dice “Ahh están tratando de que la computadora piense como nosotros” y yo creo que no, que lo que se busca es que piensen mejor que nosotros. 

La discusión de la IA inicia en 1950 cuando un grupo de ingenieros de los Estados Unidos (J. McCarthy, M. Minsky, N. Rochester y C. E. Shannon), arribaron a una serie de definiciones que resumo rápido. La definición más genérica es que “la inteligencia artificial es una de las ramas de la informática, con fuertes raíces en otras áreas como la lógica y las ciencias cognitivas”. Pero no solo esa definición nos aproxima al tema de hoy, se toma la noción de que la tecnología actúa como las personas, lo que implicaría (acá me atajo)actuar razonablemente. 

Resumiendo un poco el campo de acción de la IA (pueden leer más acá), la misma se usa para las finanzas, el campo de la salud, la logística internacional, la industria pesada, el instrumento militar (acá ya vamos a indagar), el transporte, las telecomunicaciones, mejorar procesos de la misma tecnología, obvio, y muchas cosas más. 

Ahora, después de introducir esto se preguntarán, ¿qué me importa todo lo que me contás? ¿Y si les digo que les afecta directamente, no solo en sus vidas, sino en la construcción política, en las estructuras sociales? Aaaa se pone interesante. Juan Battaleme me decía que la discusión de la aplicabilidad de la tecnología en las sociedades es ¿qué tan intrusiva va a dejar el Estado que sea y cuáles van a ser los derivados de esa intrusión? 

“Sin ir más lejos, si uno considera cualquier servicio de cobro de impuestos, desde el IRS hasta la AFIP, son extremadamente intrusivos por parte del Estado, ya que disponen de recabar datos financieros que dejan expuesta la condición económica global de una persona, cuál es su estado pasado, presente y qué perspectivas futuras tiene en función de sus ingresos.  Todos los sistemas que hoy se encargan de recabar datos financieros son extremadamente intrusivos. Ahora la pregunta es ¿qué usos se le van a dar a esos datos? Yo creo que ahí radica la diferencia entre las democracias y las autocracias, pero hasta ahí nomás, porque las democracias, también se ha probado, sin un buen sistema de control detrás, pueden hacer abuso de los datos que tienen y de lo que los algoritmos de aprendizaje les permiten enseñar y predecir a futuro. Esta es la primer gran discusión”. 

Frente a esta discusión leí un muy buen artículo de María Belén Abdala, Santiago Lacroix Eussler y Santiago Soubie en el marco del CIPPEC. Los autores marcan algo interesante, “Integrar nuevas tecnologías con sistemas complejos ya existentes es una tarea delicada. Los algoritmos son, en definitiva, creaciones humanas. Los sistemas pueden fallar y tanto los sesgos como los errores humanos pueden ampliar estas fallas”. Es importante entender que las creaciones en el campo tecnológico son derivadas de decisiones del humano, y el humano, como tal, corre el riesgo de cometer errores. 

En política y en la vida pública, la IA se usa en muchos ámbitos. Por ejemplo, en las campañas electorales (todos deberían ver el documental de Cambridge Analytica). Por otro lado, en la recolección de datos masivos de la población y los sistemas de vigilancia, me quedo en este último. En las manifestaciones prodemocracia de Hong Kong, la Smart City ejemplar, la tecnología jugó un rol clave y parece de película.. En contexto, China tenía la capacidad para anticipar los movimientos de los manifestantes, ya sea por la vigilancia pública, como en los celulares/redes de quienes participaban en las calles. En ese sentido, se creó todo un sistema de encriptación y de mensajería alternativa (Telegram como opción) para evitar el control de las autoridades. Otra cosa que se tuvo en cuenta es que se podía predecir el accionar con la conexión de Wifi o con las cámaras. Sí, claramente te pueden ver y escuchar, ¿no les parece loco que ustedes digan “uh que ganas de comer una hamburguesa”, entran al Instagram y les aparece una publicidad de hamburguesas? Bueno, eso pasaba en HK con los manifestantes. 

¿Se acuerdan de las imágenes y videos de los manifestantes usando lasers como si fuera una joda en un boliche? Bueno, eso, sumado al ocultamiento de los rostros, fueron las contramedidas al avanzado sistema de reconocimiento facial de las cámaras de la vía pública. 

Algunos críticos al sistema chino argumentan la vulneración de la privacidad y del cruce de datos, porque tal vez tu cara no está en el sistema, pero una aplicación con acceso a tu cámara le dio al gobierno tu cara. Me gustó esta frase: “Esta es posiblemente una manera completamente nueva para que el gobierno maneje la economía y la sociedad”, opinó Martin Chorzempa, un investigador del Instituto Peterson de Economía Internacional. “La meta es tener una forma algorítmica de ejercer el gobierno”. 

“Forma algorítmica de ejercer el gobierno”, vuelvo al anime. El mismo sistema Sybil, por el cruce de datos, información y antecedentes, te crea el camino a seguir, te dice que sos bueno para tal u otro trabajo, te dice que te podés casar con X persona y, en caso de que el algoritmo concluya que no servís para nada, te excluye y te desecha. Extrapolamos el panóptico de Foucault pero, en vez de una persona, un conjunto de datos decide tu futuro. ¿Será?  

Y la IA no es solo en el seno del Estado. En la Defensa del Estado (sí, voy a hablar de armas) se ve un gran cambio en la dinámica del conflicto y la diferencia de aquellos que pueden usar la IA y los que no. Este trabajo del Ministerio de Defensa de España explica todos los campos, voy a lo que me importa que son las consecuencias. 

Battaleme lo dice claramente: “Los sistemas militares que tengan integrados algoritmos complejos y/o el uso de IA en sus despliegues militares van a tener consideraciones ofensivas y van a poder predecir inclusive el movimiento o anticipar los movimientos tácticos y operaciones de fuerzas militares que no los tengan. Si vemos a las Fuerzas Militares como un movimiento de ajedrez, uno puede anticipar en cierto sentido las acciones de los otros jugadores o de aquellos que no tengan esa condición”. Juan alerta que vamos en camino a una dinámica asimétrica de los conflictos, de aquellos que tienen estas capacidades y los que no. Con respecto a lo anterior, me recomendó la novela de Joe Haldeman, La Paz Interminable, donde se parte de la idea de que el centro te da tecnología subsidiaria de los países periféricos y estos últimos aceptan determinados “abusos” para estar integrados en esa dinámica. 

Battaleme dice que, a fin de cuentas, lo que se va a tener es un conjunto de sistemas más autónomos, lo que implica que, en términos comparativos, cometan menos errores que el humano, que influenciado por el pulso, las emociones, el contexto puede “errar” a sus objetivos. La IA carece de estas influencias. “Entonces vas a tener un entorno de batalla mucho más automatizado, asimétrico, y hay algunos que señalan que va a ser algo más estable”, me decía Juan. 

En resumidas cuentas, ¿quién controla la IA?. Una aproximación con respecto al control de la IA me permite destacar esta frase del trabajo del CIPPEC: “El camino hacia el futuro digital estará lleno de conflictos sobre quiénes tienen acceso a nuestros datos, quiénes tienen la autoridad para decidir y quiénes el poder para hacer cumplir esa autoridad. Quién tiene derecho a utilizar la información que dejamos en línea es un punto central para pensar cómo evolucionará la IA y qué posibilidades tendrá, puesto que los datos aislados pueden comercializarse o cederse entre distintas organizaciones, así como unificarse en bases de datos más grandes. Es necesario establecer con claridad la cadena de uso de esta información y la conformidad necesaria de los usuarios”. 

Battaleme me dijo que “no hay un régimen de gobernanza, cada cual controla, cada empresa controla lo que desarrolla y en dónde ve el negocio. Por ende, no hay un control, sí hay desarrollos que pueden ser considerados éticos y aquellos que no pueden ser considerados como tales”. 

Se alerta que los cambios de la tecnología tienen que ir acompañados por un régimen de control que se aplique en los modelos de gobernanza, pero en términos concretos como siempre, la dinámica es que los cambios aparecen, cambian las estructuras y la política/gobiernos se amoldan a las nuevas realidades. En ese sentido, Battaleme me (nos) invita reflexionar con esta idea y las recomendaciones literarias: “No va haber mucho debate de la vida pública de la sociedad, va haber un debate secundario, va a haber cuando algo suceda, pero ese debate va a quedar de vuelta en la nada. Vale la pena leer un libro, Armas de destrucción matemática, de Cathy O’Neil. Otro libro que se puede leer es Algoritmos de Opresión, de Safiya Umoja Noble. La sociedad civil está muy activa, pero es un correlato de fuerzas. En ese sentido, vamos a transcurrir y en este contexto la política operacionaliza cambios, siempre y cuando a la política le convenga llevar a cabo estos cambios”. 

Chau, me voy. Antes apoyen a Politólogos al Whisky, tenemos un nuevo Club que yo no me perdería ni loco. 

Picadito: 

Dejo la última columna de Juan Battaleme acá, con respecto a tecnología lo pueden leer acá, acá, acá y acá.

Sobre comunicación política en la pandemia, dejó la nota de Mario Rioda para Perfil.  

Escribí todo este news escuchando cuarteto y no voy a dejar de recomendar este temazo de La Konga