... la BBC ha difundido un reportaje donde recoge "5 algoritmos que ya están tomando decisiones sobre tu vida y que quizá tú no sabías". Presta atención a programas encargados de filtrar los curriculum de candidatos a un empleo, –estimando que en EEUU el 70% de las solicitudes de empleo son filtradas por un algoritmo antes de ser analizadas por un humano– en base a criterios que no son conocidos; nombra sistemas que rastrean nuestras compras en Internet como indicador para decidir si el banco debe darnos un crédito en función de lo que compramos; y alerta de que en 10 estados de EEUU los jueces utilizan para dictar sentencia un programa llamado COMPAS, un algoritmo de evaluación de riesgos que dice predecir las probabilidades de que un individuo cometa un crimen, y en el que, por cierto, alguien ha decidido que los negros tienen más probabilidades de delinquir que los blancos.
Los criterios para que un candidato sea idóneo para un puesto de trabajo, merecedor de un crédito bancario o más propenso a delinquir son variables programadas de forma opaca de acuerdo a valoraciones subjetivas de una persona humana o un grupo de ellas.
Si se quiere profundizar en el tema, Christopher Steiner en su Automate This. How algorithms took over our markets, our jobs, and the world, explora muchos de los campos en los que estos algoritmos están operando, llegando a predecir, por ejemplo, la capacidad de liderazgo de un sujeto mediante un análisis sintáctico de sus correos electrónicos. Y si se le quiere poner un poco de humor, aquí se describe cómo el algoritmo llevó a Tesla a incrementar su capitalización bursátil en 100 millones de dólares al no saber interpretar una broma en forma de anuncio.
Pensar que un algoritmo, en base a un número de variables codificadas puede predecir estos comportamientos de personas, de grupos humanos o de mercados mediante valoraciones neutras, objetivas e irrebatibles, no deja de ser otra forma de pensamiento mágico. Resulta fácil echarle la culpa al algoritmo y obviar que el bicho en cuestión obra de acuerdo a órdenes programadas por humanos con intención, ideología y opciones propias, como no podía ser de otra manera.
Cristina Monge, El pensamiento único se esconde en el algoritmo, infoLibre 12/02/2018 [https:]]