El gobierno de los algoritmos no es una cosa del futuro
Es evidente que vivimos en la era del algoritmo. Casi todos los espacios en los que nos movemos están siendo determinados por un algoritmo, ya sean los altos de la calle, la distribución de productos en un supermercado o el newsfeed de una red social. El ser humano confía en que los algoritmos son más eficientes y tomarán mejores decisiones, pero esto no es necesariamente cierto y, además, los algoritmos son reflejos de un sistema capitalista que no tiene un control central pero que está programado para seguir creciendo de cualquier forma, sin tregua, como un cáncer.
Como sugieren Douglas Rushkoff y Mark Pesce, en tanto que los algoritmos «se alimentan de tu energía (tu atención: datos), conocen tus debilidades, y pueden influir en tus estados emocionales para que actúes de formas que no están en consonancia con tus mejores intereses», podemos llamarlos demonios, o esto es lo que era llamado algo así hace algunos siglos.
En una investigación científica, Allen Lee y Dionysios Demetis concluyeron que «los roles de la tecnología de la información y los seres humanos se han invertido», pues ahora «la tecnología ha avanzado al punto de que nos está usando y hasta controlando». Esto resulta paradójico, ya que los algoritmos no tienen agencia; los humanos somos los que tenemos agencia, pero los algoritmos ahora nos han eliminado de la toma de decisiones. Somos ahora «artefactos humanos» que existimos en el medioambiente de los algoritmos.
Los ejemplos que citan los investigadores son los siguientes: analistas legales están siendo reemplazados por inteligencia artificial; se le permite a softwares predecir futuros criminales e influir en las decisiones de los jueces (aunque éstos ni siquiera entienden la complejidad de estos mecanismos).
Las compañías más grandes del mundo ya filtran los currículums a través de un software, lo cual impide que sean humanos los que revisen ciertos detalles de candidatos potenciales. Como notan los investigadores, esto hace que algunas compañías, como Amazon, sigan ciertos sesgos indeseados en sus políticas de contratación -y es que los algoritmos suelen ser discriminatorios-. Por otra parte, el 85% de las transacciones financieras en mercados internacionales son hechas únicamente por algoritmos. Y estos algoritmos toman decisiones en base a complejos mecanismos que no entendemos del todo. Se cree que la crisis de 2010 llamada Flash Crash, en la cual el Dow Jones cayó 9% en unos minutos, fue provocada por algoritmos. La gente que controla los mercados y las políticas financieras cree que las decisiones humanas son un obstáculo para la eficiencia del mercado, pero esto ha demostrado que los algoritmos son impredecibles. Demetis y Lee concluyen:
Al tiempo que nuevas fronteras son delineadas entre humanos y tecnología, necesitamos pensar cuidadosamente sobre a dónde nos está llevando nuestra extrema dependencia al software. Mientras las decisiones humanas son sustituidas por decisiones algorítmicas, y nos convertimos en herramientas cuyas vidas están moldeadas por máquinas y sus consecuencias impensadas, nos estamos orillando a ser dominados por la tecnología. Necesitamos decidir, mientras todavía podemos, lo que esto significa para nosotros como individuos y como sociedad.
Cabe preguntarnos si la humanidad no se estará convirtiendo en ese conductor de Uber que sólo sabe ir por donde le dice su app, y deja de saber pensar y decidir por su propia cuenta. La fe ciega en el algoritmo es el peor de los fanatismos. Al final, todos los conductores de Uber serán reemplazados por robots.
