¿Deberíamos sustituir a los seres humanos que sufren de sesgos en sus decisiones por algoritmos imparciales? ¿O el uso de la heurística rápida y frugal permitirá a los humanos obtener mejores resultados?
Esta es la pregunta que se hace Jason Collins en esta columna.
Por lo que sabemos hasta ahora, los algoritmos funcionan mejor que los humanos en muy diversos ámbitos: cometen menos errores incluso que los expertos en el sector. ¿Por qué? Lo primero, dice Collins, porque el objetivo para el que se usan los algoritmos – las instrucciones – es simple. Por ejemplo, en Medicina,
“muchos de los algoritmos que compiten contra los médicos implicaban un simple recuento del número de factores a favor o en contra de un determinado diagnóstico. Los métodos más complicados eran la regresión. Probablemente se trataba de cálculos hechos a mano.
Ni siquiera, pues, se usaba inteligencia artificial. Bastaba usar técnicas estadísticas o actuariales. Y, en general, heurísticas simples dan buenos resultados y mejores que los del juicio humano incluso experto. Un ejemplo de heurística – narra Collins – es la regla “Elige el mejor indicio”. Por ejemplo, si se trata de
saber cuál de dos colegios tiene la tasa más alta de abandono escolar, utilice la tasa de asistencia a clase (novillos). Este indicio tiene la validez más alta. Si un colegio tiene menor asistencia que el otro, puede usted deducir que ese colegio tiene un nivel más alto de abandono escolar. Sólo si la tasa de asistencia es la misma en los dos colegios, deberá usted recurrir a otro indicio
Resulta que esta heurística – “elige el mejor indicio” – requiere menos computación y permite prescindir de buena parte de los datos pero logra resultados semejantes si no mejores que un sistema de regresiones múltiples. Por lo tanto, deberíamos dar preferencia a la heurística cuando lo que sea escasos sean los datos o la potencia computacional.
Pero los algoritmos son mejores cuando las decisiones humanas son “ruidosas”, es decir, preguntas a muchos expertos sobre la misma cuestión y con la misma información y las respuestas entre ellos son incoherentes. Cuando esto ocurre, los algoritmos son claramente superiores a los humanos. Por ejemplo,
nueve radiólogos juzgando en ocasiones separadas la malignidad del mismo caso de úlceras gástricas tuvieron una correlación de entre 0,60 y 0,92 con sus propios juicios, contradiciéndose alrededor del 20 por ciento de las veces. Un grupo de experimentados profesionales del software a los que se les pidió que estimaran el esfuerzo para llevar a cabo una tarea de software difirió hasta en un 71 por ciento en estimar el tiempo necesario para realizar la misma tarea por segunda vez, con una correlación de 0,7 entre sus propias estimaciones. Esta inconsistencia tiende a aumentar cuando examinamos las decisiones de individuos diferentes.
Aquí está la gran ventaja de los algoritmos: que a diferencia de los humanos, son “típicamente coherentes”. Si tu aplicas un algoritmo a un proceso de decisión una y otra vez, la respuesta que obtendrás será siempre la misma lo que explica – dice Collins – por qué los algoritmos deciden “mejor” que el individuo humano cuyo patrón de decisión sirvió para diseñar el algoritmo. Elimina las inconsistencias. Recuérdese que la tecnología no es más que inteligencia fuera de nuestro cerebro. Si al “sacarla” de nuestro cerebro podemos reducir los “fallos” o, mejor, las limitaciones o las peculiaridades de nuestra racionalidad, por qué no hacerlo. Piénsese en el bolígrafo BIC. Utilizarlo en vez de usar nuestros dedos mojados en tinta para escribir nos permite eliminar un montón de errores y mejorar enormemente la comprensibilidad de lo escrito, la rapidez de la escritura y el tiempo que podemos pasar escribiendo sin interrupción.
Pero lo más interesante es que, dice Collins, si los humanos somos incoherentes en nuestros juicios, es porque nuestro cerebro no utiliza “estos modelos simples para muchas decisiones” lo que da oportunidad para que aparezcan incoherencias. Así que lo que habría que hacer es mejorar los algoritmos utilizando para ello la heurística que usamos para los juicios humanos, es decir, no sustituir el juicio humano por el algoritmo sino mejorar éstos utilizando la herramienta que usamos los humanos para producir juicios.
La paradoja es – dice Collins – que aunque comprobemos que la heurística simple es una herramienta poderosa; que los humanos la usan y que esa heurística nos permite adoptar decisiones inteligentes, los humanos no superan a los algoritmos que aplican consistentemente un modelo simple.
Hay un hilo del trabajo sobre heurística simple que sugiere que podríamos ser capaces de mejorar el rendimiento de los algoritmos aún más, y es considerar si los algoritmos podrían ser aún más simples. Mientras que contar sin ponderar todas las señales podría funcionar, adoptar un enfoque más simple eliminando buena parte de las señales y teniendo en cuenta sólo algunas como en el caso de <<Elige el mejor indicio>> podría funcionar aún mejor en algunas circunstancias… Este es uno de los territorios en los que mejor funciona la heurística simple que utilizan los humanos: los entornos inestables.
Recuérdese que “la tradición es menos importante y la cultura menos persistente en poblaciones que han vivido en entornos menos estables”
La mayoría de las competiciones entre algoritmos y humanos involucran entornos estables con al menos un mínimo de datos; no puede haber ningún cambio estructural en el entorno para despistar al algoritmo. En un mundo incierto, ¿la heurística simple en las mentes de los humanos supera a los enfoques más mecánicos?
No hay comentarios:
Publicar un comentario