sometidos por algoritmos

Los algoritmos ya se utilizan para tomar decisiones sobre la vida de las personas, como el acceso a vivienda o a un crédito, acceso al empleo, acceso a una promoción, acceso a servicios, acceso a becas e instituciones educativas…. Pero, ¿quién controla la corrección del algoritmo? Sus creadores mantienen en secreto su funcionamiento escudándose en el derecho a proteger su propiedad industrial. Así que no puede auditarse externamente para saber si el algoritmo juega limpio o si se usa correctamente. Abogados y sindicatos no tienen acceso a los algoritmos cuando presentan demandas, esto provoca indefensión en las víctimas. Los actos de los algoritmos son invisibles, aunque sus efectos son ciertos. Sus creadores defienden su perfección, su objetividad e infalibilidad. Pero no olvidemos que los algoritmos no son perfectos, su matemática no es inocente: los algoritmos reproducen los sesgos, prejuicios e intereses de sus creadores.