Sistemas y sesgos cognitivos o cómo la era de la posverdad tiene sus años contados

El término “posverdad” refleja aquello que las personas sienten ante un estímulo, especialmente las emociones respecto de una idea, un líder o una situación así como sus sensaciones subjetivas, primando todas dentro de sus procesos de toma de decisiones siendo más importantes para ellos que la verdad misma. La “posverdad” constituye el resultado del conjunto de informaciones o aseveraciones que no se basan en hechos objetivos, sino que apelan a las emociones, creencias o deseos del público. Es el reino del sistema 1 predominando sobre un perezoso sistema 2 del pensamiento. (1)

¿Qué pasaría si la inteligencia artificial desmonta y reestructura el trabajo del sistema 1 y potencia el del sistema 2? De esto nos habla Darío Gil. (2)

La inteligencia artificial (IA) de acuerdo a Gil no necesariamente nos llevará a un escenario utópico o distópico. Es mucho más complejo. Es muy probable que al igual que cualquier otra relación con la tecnología termine siendo una relación complementaria, potenciadora y colaborativa con los humanos y puede ser útil si la IA se instrumentaliza como herramienta de gestión de sesgos cognitivos. Allí trabajan muchas empresas y centros académicos como en el caso del equipo que él mismo lidera.

Con equipos IA podríamos gestionar sesgos de confirmación, aversión a la pérdida, el efecto halo y una multiplicidad más que constituyen obstáculos para tomar decisiones racionales. Darío y su equipo, así como otros, trabajan para resolver esta pregunta ¿Podrían los sistema IA con habilidades cognitivas puramente lógicas ayudar a borrar el impacto negativo de estos sesgos?

Hasta ahora los sistemas cognitivos de inteligencia son sistemas que aprenden a partir de datos. No son aún sistemas de inteligencia general. Hasta que no esté mapeado el cerebro, algo en lo que ya se está trabajando a gran escala y tomará décadas, los sistemas cognitivos no serán completamente autónomos u holísticos. Aún falta para ello pero llegará. No obstante, con lo que ya está desarrollado más que la sustitución, en el plano de trabajos muy complejos, lo que está rindiendo frutos es la colaboración entre la racionalidad humana y la IA.

Si algo ayuda en todo esto es el tiempo. Con el tiempo, se puede cerrar la brecha cognitiva entre la racionalidad humana y la IA en evolución en la medida que la primera va pasando al post-humanismo. Pero mientras eso pasa, los sistemas IA pueden de alguna forma ayudarnos a superar la posverdad permitiéndonos gestionar mejor los sesgos que la potencian. Eso sí, sin olvidar también que dentro de nuestros sistemas educativos se debe entrenar cognitivamente a los más jóvenes y no tan jóvenes en habilidades que le permitan interpretar, pensar y procesar toda la masa “infoxicadora” que recibe y los sentimientos y emociones que le provocan. No será fácil, más sí necesario y casi vital.

Notas

1.- Daniel Kahneman, como se sabe, en sus investigaciones resumidas en el libro “Pensar rápido, pensar despacio”, nos habla de dos formas diferentes en que la mente crea el pensamiento. En primer lugar, se encuentra el Sistema 1 o implícito. Esta vía de pensamiento es rápida, automática, frecuente, emocional, estereotipada y subconsciente. Por otra parte, se encuentra el Sistema 2 o explícito. Es lento, perezoso, poco frecuente, lógico, calculador y va acompañado por la consciencia de estar solucionando un problema. Estos dos sistemas de naturaleza aparentemente antagónica se encuentran en el día a día de todas las decisiones de nuestra vida. El Sistema 1 está preparado para creer, no para dudar y tiene miedo de la incertidumbre y del azar que a menudo salta rápidamente a conclusiones precipitadas pero capaces de convertirse en buenas historias. En parte esto ayuda a entender por qué el fanatismo y la seguridad dogmática a menudo se sustentan en la ignorancia, o en evidencias claramente insuficientes, y por qué el escepticismo (una ardua operación del Sistema 2) sigue siendo tan costoso e impopular. En el sistema 1 anida las causas de la posverdad.

2.-Dario es un líder y ejecutivo de IBM Research. Como Director de Sistemas Cognitivos Simbióticos, lidera una estrategia centrada en la creación de sistemas de aprendizaje que están explícitamente diseñados para colaborar con las personas mejorando y ampliando la pericia humana. Lo que para nosotros es superar la brecha cognitiva. La estrategia está compuesta por expertos líderes en inteligencia artificial, sistemas multi-agentes, robótica, visión artificial, procesamiento del lenguaje natural, tecnologías del habla, interacción hombre-computadora, computación social, experiencia del usuario y diseño interactivo. Recibió su Ph.D. En Ingeniería Eléctrica e Informática del MIT.