Vivimos rodeados de algoritmos. Deciden qué vemos, qué compramos, qué leemos, con quién hablamos, incluso qué oportunidades laborales se nos presentan. Tendemos a pensar en ellos como entidades neutrales, objetivos, puramente técnicos. El libro de Esteban Magnani viene a desmontar esa ilusión.
La mano invisible detrás del algoritmo (2023, Editorial Galerna) toma el título de la famosa metáfora de Adam Smith para darle una vuelta de tuerca: si hay una mano invisible operando, no es la del mercado, sino la de intereses humanos muy concretos que diseñan, entrenan y despliegan estos sistemas.
De qué trata
El libro parte de una premisa simple pero poderosa: los algoritmos no son neutrales porque quienes los crean no lo son. Detrás de cada línea de código hay decisiones que reflejan valores, prejuicios, prioridades económicas y visiones de mundo.
Magnani recorre distintos ámbitos donde los algoritmos tienen impacto real:
- Redes sociales y moderación de contenido — cómo las plataformas deciden qué es aceptable y qué no, y cómo esas decisiones afectan desproporcionadamente a ciertas comunidades.
- Sesgo racial y de género — desde sistemas de reconocimiento facial que fallan sistemáticamente con personas de piel oscura hasta algoritmos de contratación que discriminan a mujeres.
- Economía de plataformas — el trabajo fantasma detrás de la “inteligencia” artificial, los clickworkers que etiquetan datos por centavos.
- Justicia penal y predicción — sistemas que pretenden predecir reincidencia y terminan replicando sesgos del sistema judicial.
Ideas que quedan dando vueltas
El “invisible handwashing”
Uno de los conceptos más potentes del libro es la idea de que las empresas tecnológicas usan el discurso de la neutralidad algorítmica como una forma de lavarse las manos. Si el algoritmo decide, la empresa no es responsable. Es la versión moderna de “es lo que dice el sistema”.
Los trabajadores invisibles
Magnani dedica espacio a los trabajadores fantasma: miles de personas en condiciones precarias etiquetando datos, moderando contenido traumático, entrenando los modelos que luego se venden como autónomos. Es la mano invisible más literal: personas reales cuyo trabajo se oculta deliberadamente.
La falacia de la objetividad técnica
El libro muestra una y otra vez cómo el mito de la objetividad técnica sirve para blindar decisiones políticas y económicas detrás de una fachada de neutralidad. Si el algoritmo lo dice, no se discute.
Por qué leerlo
No es un libro técnico. No necesitas saber programar para entenderlo ni disfrutarlo. Es un libro de divulgación crítica que debería ser lectura obligada para cualquiera que use tecnología (o sea, todos).
Magnani escribe claro, con ejemplos concretos y sin caer en catastrofismo ni en apología tecnológica. Logra algo difícil: explicar problemas complejos de forma accesible sin simplificarlos en exceso.
Si te interesan temas como el sesgo algorítmico, la economía de plataformas, la moderación de contenido o simplemente querés entender mejor el mundo digital en el que vivimos, este libro es un muy buen punto de partida.
Veredicto: vale la pena. No va a cambiar tu vida, pero sí puede cambiar cómo mirás la pantalla.