Big Data Internet SOCIEDAD

ENTREVISTA | Carl Bergstrom, coautor de ‘Contra la charlatanería’ “Hoy es más difícil detectar las mentiras elaboradas porque están adornadas con gráficos, porcentajes y jerga científica”

El biólogo evolutivo Carl Bergstrom y el científico de datos Jevin West empoderan al lector para que sea capaz de reconocer a un vendehúmos aunque se oculte tras una maraña de cifras. El problema, según ellos, es que pensamos erróneamente que los datos no mienten y que si alguien los enseña dice la verdad.

EBFNoticias | SINC | Sergio Ferrer |

El biólogo Carl Bergstrom (Estados Unidos, 1971) estaba hablando con un compañero de la Universidad de Washington, Jevin West, cuando este le comentó que iba a dar una clase sobre big data. “Le dije que era una pena porque entonces yo iba a tener que dar otra señalando las pamplinas del big data”, recuerda. Su amigo le respondió que sería divertido hacerlo juntos. Así nació el curso Calling Bullshit, cuya versión en libro acaba de ser traducida al español y publicado por Capitán Swing con un subtítulo que resume su esencia: “Contra la charlatanería. Ser escéptico en un mundo basado en los datos”.

“Nos dimos cuenta de que no solo se había exagerado con el big data y la inteligencia artificial, sino que teníamos que hablar de cómo se usan mal los números y enseñar a ver a través de todo ese bombo para comprender mejor unas herramientas que pueden ser muy valiosas”, explica Bergstrom a SINC por videoconferencia.

Podríamos reescribir el libro solo con ejemplos de la pandemia, pero estoy harto de la pandemia y nadie quiere leer sobre ella

Bergstrom y West aseguran que todos los seres del planeta intentan vendernos algo. La diferencia es que hoy es más difícil para el público general detectar el bullshit —palabra inglesa de difícil traducción que hace referencia a una mentira elaborada y adornada— de nueva generación, porque el vendedor de coches usados ha sido sustituido por gráficos, porcentajes, cifras y jerga científica.

“La naturaleza del bullshit ha cambiado y cuando se basa en números es muy efectivo”, cuenta Bergstrom. “Queremos empoderar a la gente para que lo vea como cuando una empresa intenta colarte algo y dices: eso es bullshit. Deberíamos ser capaces de hacer lo mismo con los números”.

Pandemia de desinformación

El libro fue terminado premonitoriamente en enero de 2020, pero cada página muestra ejemplos de bullshit que traen a la mente otros relacionados con la covid-19. “Podrías reescribir el libro solo con ejemplos de la pandemia”, admite Bergstrom. “Pensé en hacerlo, pero estoy harto de la pandemia y nadie quiere leer sobre ella”. Con esa advertencia, comenzamos la entrevista.

Intentemos no hablar de la pandemia. Al menos, no de la de covid-19. ¿Ha creado internet una pandemia de bullshit?

La desinformación siempre ha estado ahí: todo ser vivo engaña, desde los seres humanos a los cuervos. Internet no inventó el bullshit, pero es un terreno fértil para que crezca y se difunda, y nos hace vulnerables de nuevas maneras.

Internet no inventó el bullshit, pero es un terreno fértil para que crezca y se difunda

La forma en la que nos comunicamos ha cambiado y eso ha alterado cómo la sociedad procesa la información y toma decisiones. No entendemos cómo está pasando, pero necesitamos descubrirlo rápidamente porque está provocando grandes problemas que irán a más si no lo resolvemos.

Pero, ¿qué ha cambiado exactamente?

Estamos recibiendo mucha información a través de sistemas diseñados para mantenernos online y así aumentar sus ingresos, no para darnos información rigurosa y bienestar. Los algoritmos aprenden de la psicología humana a través de enormes cantidades de datos y saben que si nos muestran un tipo de contenido, clicaremos. Eso promueve el contenido que nos molesta o respalda por encima del que nos informa. Estos algoritmos no nos ayudan a entender el mundo y eso es un problema serio. Tampoco son transparentes ni sabemos qué consecuencias pueden tener.

Luego están los cambios de escala: se crean perfiles con muchos seguidores y gran influencia. Ya no nos comunicamos en grupos de cien, sino a través de una conectividad global. Esa dinámica ha cambiado y, con ella, la de cómo se difunde la información. Eso puede ser problemático.

Proponen una solución sugerente y radical en su libro: consumir menos información. “Piensa más, comparte menos”. ¿Nos estamos ahogando en contenido?

Absolutamente. El primer problema de internet fue que había mucha información, así que las redes sociales se diseñaron para que la cribáramos entre nosotros. El problema es que no somos cuidadosos con lo que compartimos, así que de nuevo nos estamos ahogando en información que, en vez de ser la más precisa, es la más compartible. Retuiteamos lo que nos atrae o nos enfada sin pensar, porque refleja nuestros sesgos aunque no sea cierto.

Una de sus conclusiones es que somos nuestro peor enemigo porque nuestros sesgos crean mucho bullshit. ¿Cómo enfrentarnos a eso?

Necesitamos aprender a no engañarnos tanto a nosotros. El sesgo de confirmación es un gran problema: esta historia dice algo en lo que yo ya creo, así que debe ser verdad. No necesito ni leerla, puedo compartirla. O no la leo de forma crítica, que es como miraría algo con lo que no estoy de acuerdo. Es una forma muy humana de pensar y nos pasa a todos, pero es muy importante intentar evitarlo.

Retuiteamos lo que nos atrae o nos enfada sin pensar, porque refleja nuestros sesgos aunque no sea cierto

Ser conscientes de los sesgos es un buen primer paso, pero no basta. Hay que cambiar nuestros hábitos de consumo de información. Lleva práctica y ganas, pero con el tiempo puedes mejorar y pararte a pensar: ¿es esto demasiado bueno o malo para ser verdad? Si lo es, hay que mirarlo en profundidad. No hablar de un estudio hasta ver si tiene limitaciones, en vez de compartirlo sin leerlo de cerca porque muestra algo en lo que crees.

Nunca seremos perfectos, cuando me pasa a mí borro el tuit para no extender la desinformación. Aprender esos hábitos de detección es muy importante, y entrenarse para filtrar mejor la enorme cantidad de información a la que nos exponemos.

Su libro enseña a detectar el bullshit basado en datos y anima a señalarlo, pero siempre con educación, sin atribuir malicia a los errores, pero tampoco estupidez. ¿Olvidamos esto a menudo?

Es muy importante. Avisar del bullshit de alguien puede ser bueno; que denuncien el tuyo, también. Pero tenemos que hacerlo de forma constructiva porque así es más probable que se acepte. Dar siempre el beneficio de la duda porque hay errores comprensibles. Tenemos que aprender a pensar críticamente, a detectar problemas y a no ser engañados, pero también a compartirlo. Hacerlo puede ser muy positivo para la sociedad, pero reírse de los demás no ayuda.

El libro va de empoderar al lector individual y de cómo este puede empoderar a su comunidad en lugar de atacarla. Quieres una cultura en la que la gente pueda poner a prueba las cosas, en la que si alguien denuncia tu bullshit se vea como un regalo y no como un insulto.

En la comunidad escéptica hay quien obtiene un placer culpable al machacar a la homeopatía a expensas de análisis más sutiles en los que no estamos haciendo suficiente énfasis

¿Nos centramos demasiado en el bullshit fácil y divertido de refutar, como la homeopatía, en detrimento de engaños estadísticos más difíciles de entender y explicar?

Antes de la pandemia habría estado de acuerdo. Si miras la desinformación antivacunas gran parte es bullshit fácil, pero despega. Es verdad que en la comunidad escéptica hay quien obtiene un placer culpable al machacar a la homeopatía. Probablemente hay demasiado de eso a expensas de análisis más sutiles en los que no estamos haciendo suficiente énfasis.

Cuando pensamos en desinformación pensamos en que las vacunas te vuelven magnético, pero también hay mucha en ciencia que a menudo pasa inadvertida, como el p-hacking —una forma de torturar los datos hasta que estos dicen lo que quieres—. La ciencia podría funcionar mejor si abordáramos cómo la desinformación entra y se perpetúa de forma sutil.

¿Tiene la ciencia un problema de bullshit que ha empeorado por la pandemia?

La pandemia está muy politizada: un pequeño número de científicos toma una opinión contraria a la evidencia y es promocionado por grupos políticos. Es un problema. No conozco sus motivos, veo improbable que lo hagan por dinero, creo que de verdad piensan que tienen razón, pero hacen mucho daño. En ciencia siempre tendrás un abanico de opiniones, con extremos en ambos lados. Ese espectro de gente que piensa diferente siempre está ahí, pero cuando algo se vuelve importante para la sociedad las voces en los bordes son amplificadas porque ayudan a promover determinadas causas políticas.

Advierten de que el bullshit científico puede llevar al cinismo. Es algo que hemos visto durante la pandemia, pero también con la erupción del volcán de La Palma.

Recuerdo hablar con un reportero al principio de la pandemia que decía que los CDC no nos estaban contando todo. Había preguntado la tasa de letalidad por infectado, le habían dicho que estaba entre el 0,5 y el 5 % y lo encontraba frustrante. Era una respuesta muy buena, la primera honesta que había recibido en todo el día: que nadie lo sabía. Cuando llamas a científicos a menudo están seguros de que es 0,5 % o 2 %, pero eso es una opinión como podría ser cualquiera otra. Son temas muy difíciles. Hay cosas que no sabemos por falta de datos; otras, porque son eventos aleatorios estocásticos que puede que ni hayan ocurrido. Para solucionar lo primero necesitas tener mejor información. Para lo segundo, una bola de cristal.

Cuando algo se vuelve importante para la sociedad las voces en los bordes son amplificadas porque ayudan a promover determinadas causas políticas

Los científicos estamos acostumbrados a pensar en la incertidumbre y a estar abiertos a múltiples posibilidades, pero no siempre lo hemos comunicado bien durante la pandemia. Tampoco el tiempo que lleva descubrir cosas y cómo de inciertas son. Eso ha creado frustración en la gente.

Inteligencia artficial, big data… ¿Son estos campos especialmente propensos al bullshit?

La gente cree que con suficientes datos puede rodear los problemas del diseño del estudio y no es verdad. Si los datos no son buenos no importa cuántos tengas, seguirás obteniendo basura cuando intentes analizarlos. Decir que usarás aprendizaje profundo para predecir qué vino te gustará suena sexy, pero normalmente es un despropósito porque ni los datos ni las técnicas de análisis son buenos. Es opaco, complicado y elegante, así que tendemos a pensar que va a funcionar, pero en muchos casos es problemático.

Si los datos no son buenos no importa cuántos tengas, seguirás obteniendo basura cuando intentes analizarlos

Aun así, creo que es un campo que intenta entender por qué estas máquinas toman las decisiones que toman y ha ayudado a que los investigadores vieran a través de su propio bullshit. No es una startup intentando venderte algo que saben que es una tontería: es que tenemos unos algoritmos que funcionan y queremos entender lo útiles que pueden ser.

¿Y qué piensa del periodismo de datos? En el libro mencionan que a menudo es engañoso o difícil de entender para el lector medio.

Es como una moda: antes el periodista sintetizaba la historia y ahora la gente cree que la forma de contar una historia convincente es proporcionando los datos al lector. La pega es que pensamos que las figuras y los datos no mienten y que, si alguien los enseña, lo que dice es verdad. Cómo se recolectan, analizan e interpretan los datos puede hacer que se cuenten historias muy diferentes. El periodismo de datos puede ofrecer una visión profunda y valiosa, pero me preocupa que haga que la historia parezca inevitable, la única real posible.

Si el periodismo de datos muestra unas gráficas interactivas sobre la efectividad de las vacunas piensas que tienen que estar bien, pero estas cosas son sutiles y complicadas

Si el periodismo de datos muestra unas gráficas interactivas sobre la efectividad de las vacunas piensas que tienen que estar bien, pero estas cosas son sutiles y complicadas. Si un periodista juega con números y estadísticas reduce nuestra disposición a cuestionar esos datos. Si cuenta una historia es más fácil decir que algo no suena bien, pero parece que no podemos discutir con los números. En realidad sí se puede: necesitamos educar para que la gente sepa hacerlo.

Esta desventaja es mi argumento en general sobre los números y todo lo que parece inevitable y repetible, que viene directo desde la naturaleza, sin subjetividad. Atribuimos más autoridad a los números de la que merecen porque no entendemos lo maleable que es la recogida de los datos y su interpretación.

En el libro usa el término “católico de cafetería” para criticar a esa divulgación que escoge los estudios que le convienen para la historia que quiere contar. ¿Somos los periodistas científicos expertos en crear bullshit?

Es algo que ha cobrado una importancia enorme durante la pandemia y lo hemos visto en los mayores periódicos de EE UU, aunque no tanto entre periodistas científicos. En un artículo alguien dice que la única forma de salir de esta es lograr cero covid con confinamientos estrictos y citan cosas que lo apoyan. En el mismo medio, dos días después, lees que el coronavirus va a ser endémico, sin que eso sea malo, y citan cosas diferentes.

Esto es algo que siempre es posible en temas bien estudiados por la amplitud de resultados e incertidumbre. ¿Ayuda el vino contra las enfermedades cardíacas? Puedes escribir esa historia de ambas formas. Vas a encontrar investigadores con un abanico de opiniones porque dan peso a partes diferentes de la evidencia. Si quieres puedes hacer una historia más sesgada, y esto conecta con la politización de la pandemia. Con el vino no hay diferencias entre ideologías. Hoy, si eres liberal, piensas que las mascarillas funcionan; si eres conservador, que lo hace la hidroxicloroquina. ¿Por qué? No tiene sentido, pero es como la gente se alinea.

¿Se ha enraizado el bullshit moderno en la identidad personal?

Las líneas identitarias son establecidas y perpetuadas por los medios de ambos lados y las redes sociales. Es un tema de señalar identidades: cuando compartes algo malo que Donald Trump o Hillary Clinton ha hecho no estás interesado en informar de lo que hicieron, sino en informar a los demás de ti mismo. “Oye, soy parte de tu grupo”.

Incluso en temas tan importantes como las vacunas la gente toma decisiones basadas en terrenos identitarios tanto como en su propia salud

En EE UU ha sido muy dañino durante la pandemia: las respuestas se han politizado tanto que se han convertido en marcadores identitarios. Incluso en temas tan importantes como las vacunas la gente toma decisiones basadas en terrenos identitarios tanto como en su propia salud.

Compartir un bulo de Trump no cambiará tu vida, pero si te envío cosas que dicen que no te vacunes y tomes ivermectina es diferente porque afectará a tu salud. Compartir desinformación de medicina para mostrar que eres parte de un bando que no confía en el establishment sanitario es muy peligroso y es hacia donde nos hemos deslizado. Está matando gente y dividiéndola. Es trágico.

Aseguran que la universidad ha fracasado a la hora de promover el pensamiento crítico en sus estudiantes de STEM (ciencia, tecnología, ingeniería y matemáticas), que es mejor en sociales y humanidades. ¿Cree que tiene relación con el desprecio de algunos científicos por la filosofía?

Me he dado cuenta de que los mejores alumnos de mis clases son estudiantes de filosofía. Se les ha enseñado a pensar, saben cómo criticar ideas y cuando ven contradicciones saben cómo llegar al fondo del asunto. Necesitamos explicar eso mejor en las clases de ciencias. Necesitas ser capaz de secuenciar genes, pero también de pensar críticamente.

Los estudiantes de filosofía saben cómo criticar ideas y cómo llegar al fondo del asunto. Necesitamos explicar eso mejor en las clases de ciencias

Un estudiante me dijo tras una clase: “Siempre había pensado que estar equivocado en ciencia era malo, pero tras este curso entiendo lo importante que es estar equivocado para llegar a las respuestas correctas”. No enseñamos eso lo suficiente.

Usted ha divulgado mucho sobre la evolución de la pandemia desde que empezó. Tengo que preguntarlo: ¿hacia dónde cree que nos dirigimos este invierno?

La respuesta es que no lo sé. En absoluto. Y eso es algo muy importante de decir para nosotros los científicos. Explicar al público que hay mucha incertidumbre y temas importantes para los que no tenemos respuesta porque no tenemos suficientes datos y porque hay factores aleatorios.