Hace unos días conversamos con la escritora Ariana Harwicz a partir de que la red social Twitter le suspendió la cuenta por “promover el suicidio” e “incitar a la automutilación”. Esto desembocó en una conversación con el docente e investigador en periodismo digital: Fabián Bergero.
¿Qué es un algoritmo? ¿Cómo funciona un algoritmo en internet?
Los algoritmos son fórmulas y funcionan a la manera de una receta de cocina, donde vos disponés de determinados ingredientes para llegar a un resultado final que sería un plato de comida. Pero también los algoritmos son fórmulas matemáticas que se usan para simplificar, facilitar o agilizar procesos. Por ejemplo, vos podés resolver el cubo de Rubik con algoritmos: mové dos para allá, uno para acá, etc. Estos algoritmos se aplican porque lo que más valor tiene en internet, además del Bitcoin, son los datos. Todo lo que nosotros hacemos en la web deja una huella, deja datos. Desde el primer momento que nos metemos en una computadora nosotros hacemos una sesión formidable de datos: estamos diciendo dónde vivimos, cómo somos, que nos gusta, le estamos diciendo a internet cuales son nuestros sueños, nuestros anhelos; cada vez que hacemos una búsqueda en Google… “playa en el caribe”, “playa barata en el caribe”, le estamos marcando nuestro nivel económico-social. Estamos cediendo información en forma gratuita y ese volumen de datos, llamado big data, tiene que poder ser procesado; y para poder procesar esa enorme cantidad de información hacen falta los algoritmos. Es decir, ¿cómo hacemos para sistematizar toda esa información y llevarla al objetivo que tienen esas pocas empresas privadas que lucran con la información?
Por ejemplo, ¿cómo sabe Netflix que una película tiene un 95% de coincidencia con mis gustos? Porque relevó mis gustos, los metió en la máquina de procesar información y determinó que a mi me gustan las series cortas policiales inglesas de los últimos 20 años. Esa información la obtuvo de mi perfil y la sistematizó a través de algoritmos que fueron previamente programados.
Esto quiere decir que toda esta información que nosotros brindamos de nuestra persona, nuestros gustos, etc. y que antes tenía un Estado, ahora está en manos de empresas. ¿De cuántas empresas estamos hablando?
Pocas. Cinco: Google, Microsoft, Amazon, Facebook, Apple… los dueños de la web. Hay un libro muy interesante de Natalia Sosa…
Insisto con esto, es importantísimo tener la información pero es más importante tener la capacidad de procesarla y utilizarla mediante sistemas de procesamiento.
Hace unos días, los algoritmos determinaron el bloqueo de la cuenta Twitter de una escritora argentina, Ariana Harwicz, y en otra ocasión le bloquearon la cuenta al entonces presidente de EE.UU. Donald Trump. Estos casos ¿se deben a errores de programación de los algoritmos?
Ojo que no son errores. Y acá hay un elemento muy interesante: las fórmulas matemáticas no son “la virgen María”, por decirlo irónicamente. El algoritmo fue hecho por personas y fue hecho con un determinado objetivo, con una determinada intención. Cuando Manuel Castells dice en un libro que se llama “Comunicación y poder” que el poder lo tienen los programadores refuerza la idea de que estos algoritmos tienen claramente un sesgo. Hacé la prueba de poner en el buscador la palabra “manos” y vas a ver que los resultados finales son manos blancas, jóvenes, pulcras… claramente hay una selección muy grande de lo que está pasando. Estos algoritmos hacen que aparezcan unas manos y no otras. Y lo mismo pasa en todos los órdenes de las búsquedas de internet. Una experiencia muy interesante que se realizó a través de la Web Foundation determinó que de toda la información que producen los medios y que circula solamente llega al usuario individual un 18%. Ahora, ese 18% de información que te llega a vos no es el mismo que el 18% de la información que le llega a otro usuario, que vive en Junín de los Andes o que vive en Capital Federal.
Este diseño matemático ¿tiene un único fin de hacer todo monetizable?
Son empresas y lo que fundamentalmente buscan es maximizar las ganancias. Aún cuando te digan que lo que buscan es que toda la sociedad pueda acceder a la información, que todo el mundo esté conectado, etc., todo funciona perfectamente para que ellos moneticen absolutamente todo. Los algoritmos se programan, se reprograman y se vuelven a programar intentando maximizar las ganancias pero también son herramientas fundamentales de lo que se llama capitalismo de vigilancia, es decir, para mantener esta sociedad y detectar y denunciar a todos aquellos quienes se desvían de este modelo de sociedad. Son herramientas claves.