Resultados de A Level: ¿podemos confiar en un algoritmo?
En un momento en que la vida de los estudiantes en el Reino Unido ya se ha visto trastornada con el año escolar interrumpido por una pandemia mortal, ha surgido una capa adicional de caos y controversia después de que las autoridades decidieran confiar el establecimiento de las calificaciones A-Level de los alumnos a una computadora algoritmo.
En teoría, el algoritmo utilizado para determinar las calificaciones sería «el más justo posible para los estudiantes que progresan hacia estudios posteriores o empleo según lo planeado», según el regulador de exámenes Ofqual.
En realidad, resultó ser todo lo contrario, algo que los funcionarios de educación deberían haber visto venir.
El algoritmo se diseñó supuestamente de una manera que tenía la intención de producir resultados justos en todos los ámbitos mientras se controlaba la posible inflación de calificaciones por parte de los maestros que desean que sus alumnos tengan éxito. Lo que terminó sucediendo es que el 39 por ciento de los estudiantes vieron caer sus calificaciones en comparación con las recomendaciones de sus maestros. Ese porcentaje, en sí mismo, es revelador y suscita dudas sobre la capacidad del algoritmo para generar resultados precisos. Pero cuando consideramos cuán desproporcionadamente los alumnos de entornos desfavorecidos se vieron afectados de manera tan negativa por los resultados, resulta aún más evidente que algo no está del todo bien.
En última instancia, el algoritmo buscó establecer cómo se habría desempeñado la clase de alumnos de este año en sus exámenes basándose en gran medida en el desempeño de la clase del año pasado en cada distrito escolar individual. Como resultado directo de cómo se estableció esto, los estudiantes de alto rendimiento de entornos desfavorecidos fueron castigados injustamente, mientras que los estudiantes de bajo rendimiento de áreas prósperas fueron recompensados inmerecidamente. Esencialmente, lo que esto significa es que las calificaciones de los estudiantes se basaron en gran medida en su código postal y su situación socioeconómica.
Además de ser una metodología completamente injusta para establecer calificaciones de A-Level para los estudiantes, destaca aún más el problema más amplio del sesgo en la inteligencia artificial. Evitar por completo que el sesgo se infiltre en la IA no es fácil, ya que los sesgos humanos inconscientes a menudo se abren camino involuntariamente en los algoritmos sin que los ingenieros se den cuenta de dónde las cosas podrían haber ido de lado hasta mucho después del hecho. Pero en este caso, el potencial de sesgo en el algoritmo era evidente mucho antes de que aparecieran los resultados.
Incluso el secretario de Educación, Gavin Williamson, reconoció que los estudiantes de alto rendimiento de áreas desfavorecidas estaban en riesgo de ser degradados injustamente como resultado de cómo se estableció el sistema. Esto hace que sea aún más desconcertante por qué se dio luz verde a este proceso.
Por supuesto, estos son tiempos extraordinarios y se deben tomar medidas extraordinarias en muchos aspectos de nuestras vidas como resultado de la actual crisis de salud. Encontrar una manera de establecer de manera justa las calificaciones de A-Level en ausencia de evaluaciones formales no podría haber sido una tarea fácil. Eso es algo en lo que probablemente podamos estar de acuerdo, pero confiar en una solución de inteligencia artificial tan sesgada para producir resultados que pueden tener implicaciones considerables y duraderas para el futuro de los alumnos de inglés está enormemente fuera de lugar aquí.
Debido a todo esto, los estudiantes no tenían absolutamente ningún control sobre el resultado. En cambio, sus futuros fueron efectivamente puestos en manos de un algoritmo informático defectuoso que basó en gran medida sus resultados en cómo se desempeñaron otros antes que ellos (y hay evidencia de que ni siquiera hizo un buen trabajo para lograrlo).
El proceso sacrificó al individuo por la mayoría y trabajó para socavar por completo el potencial de los estudiantes injustamente degradados. Podemos esperar una avalancha de llamamientos, cuyo proceso debe ser rápido, sólido, justo y complaciente. Si el proceso de apelación no hace justicia a la injusticia que sufrieron los estudiantes del Reino Unido este año, Downing Street debería emular cómo los funcionarios en Escocia manejaron la situación y ejecutar un cambio de sentido completo. Y hágalo antes de que los resultados de GCSE vayan de la misma manera.
Contribuido por Attila Tomaschek, experto en privacidad digital en ProPrivacy