Politólogos al Whisky

El 17 de marzo de 2023 Politólogos al Whisky presentó a Whis, una inteligencia artificial basada en Chat GPT y I-ID, “entrenada para aprender y simplificar los sucesos políticos más importantes de Argentina y el mundo”… y no tiene nombre lo mucho que la detesto.

Obvio que no ayuda que sea más fea que caerse sin poner las manos y suene como contestadora automática de turnero de sanatorio, pero aunque tuviera la apariencia de Michael B. Jordan, la voz de Whitney Houston y el carisma de Lali Espósito me seguiría pareciendo un espanto. Y en esta entrada voy a intentar explicar por qué.

Sé que tengo fama de contraria crónica, pero espero que después de esta lectura comprendan algunas de mis razones.

Orígenes de Chat GPT y I-ID

En términos generales, una inteligencia artificial (AI por sus siglas en inglés) es todo conjunto de sistemas o algoritmos cuyos productos realizan tareas siguiendo 2 principios: replicar el funcionamiento de la inteligencia humana y aprender conforme recopilan información. Bajo este paraguas caen millares de piezas, desde el autocorrector de tu celular hasta Google Lens, que nos acompañan en nuestra vida cotidiana desde hace décadas.

Sin embargo, actualmente el término se utiliza en redes sociales casi exclusivamente para referirse a las creaciones de OpenAI, una institución estadounidense que involucra a figuras como Elon Musk (Tesla, Twitter), Sam Altman (Loopt, WorldCoin), Reid Hoffman (LinkedIn, Greylock Partners), Jessica Livingston (Y Combinator, que lanzó a empresas como Airbnb, Reddit, Twitch), Peter Thiel (PayPal, Founders Fund -financista de Airbnb, SpaceX), Adam D’Angelo (Quora), William Ballard Hurd (político estadounidense, ex legislador y ex miembro del brazo clandestino de la CIA) y compañías como Microsoft, Infosys y Khosla Ventures ¿Notan el hilo, no?

OpenAI fue fundada en 2015 como una organización sin fines de lucro; aunque en 2019 transicionó a un modelo que persigue lucro, logrando inversiones multimillonarias por parte de muchos de los mencionados en el párrafo anterior. Pese al cambio, su misión permanece inmutable: “asegurar que la Inteligencia Artificial General beneficie a toda la humanidad”. Muy al estilo Síndrome de los Increíbles, su fundador Elon Musk anunció su estrategia para lograrlo: “(hay que) empoderar a la mayor cantidad posible de personas para que tengan AI. Si todos tienen poderes de AI, entonces no hay ninguna persona o pequeño grupo de individuos que puedan tener superpoderes de AI” (fuente) ¿Pero cómo se crea ese poder AI?

Open AI ofrece 2 productos populares: DALL-E y GPT. El primero es un modelo de aprendizaje que genera imágenes digitales a través de descripciones escritas. El mismo funciona de la siguiente manera: “escanea” indiscriminadamente todas las fuentes disponibles en internet para crear correlaciones entre las palabras y las imágenes que aparecen asociadas a ellas a lo largo y ancho de toda la web. Estas correlaciones se jerarquizan de forma que las más “obvias y reiteradas” sean privilegiadas, a la vez que se combinan distintas micro partes de cada imagen, para crear una nueva que logre representar de la manera más fiel posible las palabras introducidas, siguiendo y creando patrones predictivos ¿Suena maravilloso, no? 

El problema es que todas las imágenes que formaron parte de este proceso fueron utilizadas sin el permiso o consentimiento de sus dueños o protagonistas: Fotos privadas, ilustraciones originales, pornografía, todo el internet es su materia prima. A esto se le suma otro punto controversial: el algoritmo tiene un sesgo que podríamos llamar de “copia”, tendiendo a replicar lo existente más que a generar algo nuevo. Esto se manifiesta en copias no-intencionales de obras de arte ya existentes, pero también en descarados plagios: con añadir “al estilo de…” como comando, cualquier usuario puede crear una pieza que robe el estilo que un artista ha desarrollado para sí. 

También se han dado situaciones tan grotescas como trágicas, como cuando diversos usuarios de Dall-e y otros generadores propagaron imágenes al estilo de Kim Jung Gi, un famoso artista de mano alzada que había fallecido solo 3 días antes (fuente). Estos no son casos aislados ni daño colateral, sino una gran crisis que ha llevado a la presentación de demandas colectivas y a que artistas de todo el mundo dejen plataformas de arte que no pueden o no están dispuestas a cuidar su trabajo de estas amenazas (fuente).

La otra joya de la corona, GPT (en sus sucesivas versiones), es un modelo de lenguaje entrenado a base de datos estructurados que hace de base al resonante y de creciente popularidad ChatGPT. Al igual que su contraparte visual, este tiene a todo el internet como fuente y escuela de aprendizaje, donde a través de técnicas automatizadas y supervisadas, crea elaboradas respuestas a preguntas escritas en lenguaje “natural” por parte de sus usuarios. Es decir, en vez de basarse en palabras clave y traer un resultado a la parte superior de la pantalla, este chatbot escanea todo el internet y elabora una respuesta personalizada a través de complejos juegos de asociación. 

Esto da lugar a 2 dilemas clave, uno de ellos siendo ¿qué pasa con el contenido cuando ya no hay creadores de contenido? (fuente) La información que utilizan estas inteligencias ya fue escrita (en su mayoría) por personas que recibieron algún tipo de compensación por hacerlo: copywriters que ganaron sus sueldos, host de data que acumularon dinero de anuncios, fans que atrajeron a nuevas personas a sus comunidades, influencers que ganaron suscriptores, etc; pero bajo el modelo de este chat, un gran flujo de visitas se perderá porque los usuarios pueden recibir la información sin ingresar a ningún sitio o reconocer autoría del posteo original. Esto puede llevar a que, eventualmente, la cantidad de contenido nuevo se reduzca significativamente, culminando en un bucle de re-procesamiento de la misma información una y otra vez, con una inteligencia que está diseñada para repetirse a sí misma. Y esta es la segunda disyuntiva: estos modelos carecen de poder de inferencia, por lo que no pueden aprender sobre el mundo: un AI no puede generar ideas o conceptos nuevos porque su existencia sigue un principio de previsibilidad (fuente). 

Entonces, la cuestión no es si estas nuevas tecnologías van a reemplazar a las personas -pues no, puesto que la razón de ser de cualquier texto es una razón humana-, sino qué sesgos humanos nocivos van a seguir reproduciendo. Supongamos que le pedimos a ChatGPT que describa el perfil ideal de un Desarrollador de Software en una empresa IT: ¿Cuán probable es que use adjetivos que asociamos a una mujer, a una persona mayor, una persona discapacitada? ¿O que nos proponga que contratemos jóvenes varones blancos? Después de todo, el sector tech se encuentra compuesto de estos últimos por mayoría, soliendo ser ellos los que aparecen en las entrevistas y quienes quedan al tope de las evaluaciones de desempeño. No es que las AI sean racistas, sexistas, capacitistas etc: es que no entienden qué es el racismo, sexismo, capacitismo y demás. Y lo peor es que ya no se puede atribuirle a nadie en particular estas declaraciones, se convierten simplemente en ideas omnipresentes que no pueden discutirse con una contraparte. 

La respuesta que suele darse a estos planteos es que todas estas innovaciones requieren de supervisión humana. Sin embargo, en primer lugar, uno solo puede leer en el texto lo que el texto permite; y segundo, las presiones del mundo contemporáneo nos dejan cada vez menos tiempo para reflexionar: la eficiencia está siempre por sobre todo, cuanto más rápido y efectivo mejor, aunque lo mejor pudiera ser otra cosa.

I-Id es técnicamente una competencia para Dall-e, pero se desarrolla de la misma forma que este. Dice ser una compañía ética, pero su comité especializado está compuesto solo por expertos en privacidad y seguridad; y sus cláusulas de compromiso son vagas oraciones de 2 renglones redactadas en futuro simple (fuente). Y a la par, utiliza compulsivamente ChatGPT.

Reflexión final

Privacidades violentadas, robo, plagio, precarización laboral, pérdida de autoría individual, sesgos nocivos, son algunos de los flagelos que fueron rozados en esta edición. Y sigue quedando muchísimo de lo que hablar, como su potencial uso militar, el gasto desmedido de energía que necesita, entre otros.

La problemática respecto de las AI no es una cuestión de “perfectibilidad”: no es que haya algo que mejorar, sino que hay que preguntarse por qué existe. ¿A quiénes sirven las tecnologías AI? ¿A quiénes excluye y a quiénes empodera?¿Para qué están siendo utilizadas?

El afianzamiento del internet en la vida diaria del planeta dio lugar a una falsa idea de democracia virtual, donde se expande la idea de que aquí todos tenemos la misma plataforma para ser oídos. Pero no todas las opiniones pesan igual: miles de artistas inundaron populares espacios como DeviantArt y ArtStation de protestas contra el uso de su arte en AI, pero los ejecutivos hicieron oídos sordos (fuente). Porque hay “voces” y “voces”, e incluso los titanes del tráfico no pueden enfrentarse a los dueños de los sitios.

Es por eso que la idea de que poder usar AI nos va a proteger de las consecuencias de su existencia, sobre todo cuando viene de la boca del titular de la empresa que es dueña de esa tecnología, no me hace solo dudar sino helar la sangre. Volvamos a quiénes son las mentes detrás del proyecto AI más relevante del momento: personas con contactos militares, directores de sitios masivos de intercambio comercial y financiero,  quienes viven de la explotación de nuestros datos ya sea en redes sociales, foros, apps de intercambio, etc. Con el crecimiento exponencial del uso de los productos AI les estamos dando aún más poder de decisión sobre nuestra vida cotidiana y futura, para que actúen de forma irrestricta y sin control.

Utilizo estas AI directa e indirectamente todos los días: autollenado en Google Drive, softwares de CC para subtitulado, redes sociales, etc. No estoy en contra de todo adelanto tecnológico, pero entiendo que todos deberían seguir un principio básico: estar al servicio y no en detrimento de todo ser vivo y el planeta en que vivimos.

Estoy cansada, al igual que mucha gente, de que me digan que el futuro es inevitable. Porque ese futuro siempre incluye productos privados creados para enriquecer a pocos; desprotección hacia los trabajadores; nuevos desafíos para las comunidades excluidas; oportunidades para tech-bros que ni conozco, a quienes jamás le di una potestad sobre mí o lo que hago para que decidan cómo hacer dinero a mí costa o al menos sin consultarme.

Detesto a Whis porque llegó sin que la pidiera y aun peor, sin que nadie pregunte.

Detesto a Whis no porque deteste el futuro, sino porque quiero otro. Uno no mío pero nuestro.

Les dejo con un GIF que realicé con mis manos personalmente, que probablemente se vería más prolijo usando AI, pero creo es perfecto así como es.