Episodio 1: Cuando las “redes” nos oyen, nos hablan y también… actúan.

Categories
You are here:
< All Topics

¿Quién no ha deseado y hablado sobre un producto que luego su anuncio se presenta hasta el cansancio en nuestras redes sociales? ¿Quién no ha dudado en afirmar que nuestros teléfonos móviles nos escuchan?

No se trata de magia, el Gran Hermano ya está entre nosotros… 

En el primer episodio de #CómoEsLaOnda realidades, mitos y miradas conspirativas sobre los sistemas de inteligencia artificial. Presentaremos cómo relaciones amorosas, amistades programadas, ocio, economía de la atención, trabajo, compras, pagos, etc., están atravesados por algoritmos demasiado “atentos”.

Hay gente que no duda en afirmar que los sistemas operativos de sus teléfonos móviles oyen. De lo contrario no se explican -continúan afirmando- cómo al entrar en sus redes sociales les aparece el anuncio de ese objeto que han pensado, deseado (¿hablado sobre él?) y que quieren regalarse a su ser querido para una celebración cualquiera.

Desde el boom de los smartphones hasta no hace pocos años, para mucha gente Facebook era “internet”. Esta afirmación basada en hallazgos demoscópicos no hace otra cosa que sostener que un amplio conjunto de usuarios reduce (en la práctica) el uso de internet a las redes sociales.

Y como las redes sociales son un excelente ejemplo del uso de inteligencia artificial en la nube, no ha tardado el ingenio popular en asociar inteligencia artificial a algoritmos, éstos a las redes y la internet a la “magia”.

Gracias a las plataformas comerciales (Alibaba, Mercado Libre, Amazon y otros e-retailers menos conocidos), a las cada vez más frecuentes operatorias de home banking, a la compulsiva gestión impositiva mediante plataformas integradas, y la interacción creciente con chatbots comerciales, las personas corrientes, en estos últimos años, se han vuelto más perspicaces y observadoras sobre el funcionamiento de “internet”. Pero ha sido la pandemia de Covid-19, sin lugar a duda, lo que ha desnudado al rey o a la reina. La “internet” escucha, nos habla y también actúa.

El furor de las “aplicaciones móviles” y códigos de rastreo no sólo han permitido a los diferentes gobiernos, con más o menos éxito, incidir sobre los comportamientos poblacionales, sino también gestionar el encierro no voluntario, también la producción. Durante algunas semanas este asunto se volvió visible, ahora cada sociedad retomó su sendero de discusiones domésticas, aunque la inteligencia artificial quedó como telón de fondo de nuestras vidas.

Este asunto de los Sistema de Inteligencia Artificial (en adelante algoritmos indistintamente) presenta varias caras y múltiples niveles de análisis. Sin embargo, dos son destacables. Está el nivel de lo superficial (obvio), aunque complejo, que se observa de manera palmaria en el doble movimiento antagónico-cooperativo entre algoritmos y humanos, siendo la esfera económica, quizá, su máxima expresión (p.e. robots desplazando a humanos en los puestos de trabajo). Aquí habría que subrayar que este asunto ha sido tempranamente ideologizado o más bien jerarquizado mediante categorías del pasado, casi todas ellas convergentes en torno a sentimientos anticapitalistas (volveremos sobre este asunto en una futura emisión). Luego está, por otro lado, un asunto crucial, aunque algo hundido y muy escurridizo, nos referimos al asunto de los algoritmos y el gobierno de las personas. Etiquetado rápidamente como un asunto específico e inevitable del desarrollo capitalista se lo conoce como sociedad de la vigilancia. De forma más aséptica: es la relación entre la inteligencia artificial y el régimen de gobierno. Así nos topamos de bruces con la actual transformación democrática.

En este escenario de vigilancia sobre los individuos y el gobierno sobre los comportamientos ciudadanos, ¿por qué resulta relevante analizar los eventuales impactos del experimento del Sistema de Crédito Social chino en nuestras democracias? ¿Qué hay de nuevo allí? ¿Qué se juega en ese juego que preocupa tanto?

El Sistema de Crédito Social chino suele presentarse como la consagración de la pesadilla o distopía Orwelliana, pero preocupa porque ¿constituye una posibilidad de evolución para nuestras democracias? O porque ¿es su espejo? ¿Cuáles son los mitos y cuáles las verdades de ese sistema de vigilancia?

Por qué razones resulta necesario tener una mirada analítica que guarde una distancia prudencial entre aquella que sobredimensiona el problema (visiones filosóficas-normativas) con la otra que se conforma con una descripción quirúrgica de los límites actuales de las máquinas predictivas (otra forma de presentar a los algoritmos).

Lo anterior es otra forma de presentar el siguiente punto: ¿Qué asuntos ya se han transformado y cuáles están en proceso de hacerlo? Es decir, ¿qué dimensiones de la democracia ya se han transformado y sobre cuáles hay o tenemos márgenes de maniobra?

Una de las dimensiones que está en juego es la de la “agencia”. Un término o concepto complejo pero que remite a asuntos que todos los ciudadanos de a pie reconocemos fácilmente: libertad, autonomía, responsabilidad, entre otros aspectos cruciales.

La inteligencia artificial es como la energía eléctrica, ubicua. Está presente en nuestras búsquedas amorosas (Dating, Tinder, etc.), en nuestra amistad programada (Facebook, Instagram, etc.), en nuestro “tiempo de ocio” o economía de la atención (Netflix, Flow, etc.), en nuestras compras (Amazon, Mercado Libre, Internet de las Cosas, etc.), en el pago de impuestos (AFIP, Rentas de Córdoba, etc.), en el cuidado de nuestra salud (Apps Fits), en la lectura y evaluación de nuestro currículum (Linkedin, etc.) y la lista es más larga en función del desarrollo de cada país, agregándose cada día un nuevo asunto.

Cámaras, sensores, contratos inteligentes, leyes flexibles, y la lista continua, nos hacen ver que estamos en un mundo de rastreos, accesos, scoring, habilitaciones temporales, jerarquizaciones ponderadas, etc., que gobiernan nuestras acciones, lo que nos lleva una y otra vez a preguntarnos quién gobierna todo este asunto.

Entender un poco más sobre el asunto de cómo intervienen los algoritmos en las democracias actuales significa, entre otras cosas, dibujar posibles senderos de las transformaciones en curso. Muchas de ellas invisibles, pero no por eso inocuas.

Previous Episodio 2: Estado presente, pero no amigo.
Índice