Amalia Herencia Grillo Grado en Historia y Geografía
Lun, 22/02/2021 - 16:30

Retrato realizado por AI Portraits de la cantante norteamericana Kehlani. Fuente: Mashable

      Retrato realizado por AI Portraits de la cantante norteamericana Kehlani. Fuente: Mashable

Serie Haciendo Historia (XXXIV)

Una de las definiciones que ofrece la Real Academia Española de la Lengua sobre la palabra sesgo es “Error sistemático en el que se puede incurrir cuando al hacer muestreos o ensayos se seleccionan o favorecen unas respuestas frente a otras".

Si lo observamos desde el punto de vista que nos interesa, en palabras de Kahneman (1972) un sesgo cognitivo, o predisposición cognitiva serían las expresiones que usamos cuando queremos describir las alteraciones que se producen en nuestra mente, que no son fáciles de eliminar y que pueden derivar en una percepción distorsionada de las cosas. Asimismo, nos pueden llevar a ejercer un juicio impreciso sobre alguna cuestión y a realizar una interpretación ilógica de algo que vemos o percibimos.

En cualquier momento de nuestra vida, podemos ser víctimas de nuestros propios sesgos inconscientes o invisibles. Son ideas educativas, sociales y culturales inconscientes, que nos hacen pensar de una manera determinada sobre la gente que conocemos y con la que trabajamos, los lugares que visitamos y las cosas que escuchamos.

No debemos confundir los sesgos con los prejuicios, ya que estos últimos suelen ser subjetivos y conscientes, basados en opiniones determinadas sobre algo y que entrarían más bien en el campo de estudio de la ética. Los sesgos son principalmente involuntarios, inconscientes, fruto de nuestra educación, nuestra infancia, nuestro grado de conocimiento del mundo y nuestra capacidad de adoptar diferentes perspectivas y asumir que no todo es como nosotros lo vemos.

Existe un ejemplo de esto que quizás recuerden: el 10 de marzo de 2017, pudimos ver en la BBC una entrevista al politólogo Robert Kelly, entrevistado desde su casa en Corea del Sur. En un momento determinado de la entrevista, se abre la puerta detrás del Sr. Kelly y entran dos niños pequeños; inmediatamente después, una mujer asiática que coge a los niños y los tres salen de la habitación. Dejando a un lado el aspecto divertido de esta secuencia, el debate pronto se trasladó al hecho de que, inconscientemente, la noticia se dio dando por hecho que la mujer era la asistenta de hogar, cuando en realidad era la esposa del Sr. Kelly (La Vanguardia, 13-III-2017). El suceso fue trending topic en Twitter con el hashtag #NotTheNanny (#NoEsLaNiñera).

Más recientemente, la polémica ha surgido a raíz del lanzamiento de obras de arte creadas a través de algoritmos e inteligencia artificial. Primero, fue la plataforma AI Portraits, creada en 2018 por un grupo de investigadores del MIT (Massachusetts Institute of Technology). La web ya no está activa, pero consistía en “adaptar” un retrato actual a un estilo pictórico determinado mediante la aplicación de dichos algoritmos. Las lagunas en cuanto a esa adaptación estaban no solo en el tipo de retrato propio de, por ejemplo, el s. XV, sino en la ausencia de rasgos físicos que correspondiesen a rostros diferentes a los caucásicos o con rasgos étnicos marcados.

El portal de internet Mashable publicó un artículo en el que comprobaba cómo era el funcionamiento de la herramienta virtual de reproducción artística partiendo de una fotografía de un rostro contemporáneo. De acuerdo con la herramienta, podíamos conseguir un retrato que “interpretase nuestros rasgos externos, estatus social y luego fuese más allá de nuestro cuerpo y nuestra cara, para ofrecernos un análisis psicológico y una reflexión profunda sobre nuestra existencia” (Mashable, 23-VII-2019).

A priori, esto era así, a no ser que no fuese una cara caucásica, como muestran estos ejemplos de la propia web:

Figura 1. Retrato realizado por AI Portraits de Jungkook, cantante del grupo de pop coreano BTS. Fuente: Mashable

                                  Figura 1. Retrato realizado por AI Portraits de Jungkook, cantante del grupo de pop coreano BTS. Fuente: Mashable

Retrato realizado por AI Portraits de la cantante norteamericana Kehlani. Fuente: Mashable

                                    Figura 2. Retrato realizado por AI Portraits de la cantante norteamericana Kehlani. Fuente: Mashable

En la mayoría de los casos, las reproducciones que se obtenían no incluían los rasgos físicos característicos de la etnia de los protagonistas sino, más bien, una versión “blanqueada” de la realidad. De hecho, los propios creadores admitieron que los datos introducidos en la herramienta eran, principalmente, rasgos caucásicos.

Esto pretende ser solo un ejemplo de cómo los sesgos inconscientes pueden afectar y distorsionar nuestra visión de la realidad, pero no solo a nivel individual, sino que también puede ocurrir con herramientas que, a priori, tienen mayor alcance y caen en el error de homogeneizar rasgos físicos que son, en realidad, mucho más heterogéneos.

El público confía en los sistemas automatizados

Este aspecto es el que denuncian los investigadores Ramya Srinivasan y Kanji Uchino, de los laboratorios Fujitsu de América, que argumentan que esta distorsión involuntaria de la realidad “contribuye a crear sesgos en la comprensión de la Historia e interferir en la preservación de la herencia cultural” y “el público general puede tender a confiar en los resultados de sistemas automatizados, ya que los consideran objetivos y a no tomar en cuenta las pruebas históricas, incluso aunque estas últimas sean ciertas. Por eso el riesgo se vuelve incluso mayor” (Srinivasan y Uchino, 2020, p.3).

Como ocurre con nuestros propios sesgos, esta mala interpretación de una cara concreta de etnias diferentes a la caucásica no correspondía a una intención por parte de sus creadores de discriminar o ser racista, sino a una ausencia inconsciente de una amplitud de rasgos necesaria que incluyese otras razas y etnias. Como nos pasa a nosotros, el alimento de ese programa de inteligencia artificial no había sido educado para adoptar diferentes perspectivas y asumir que otra realidad es posible, sino que daba por hecho que determinados rasgos eran comunes, habituales y predominantes.

Estrategias para evitar sesgos

De cualquier manera, los sesgos inconscientes se pueden eliminar, podemos luchar contra ellos poniendo en práctica algunas de estas estrategias:

  • Promoviendo y mejorando la idea que tenemos de nosotros mismos: mientras más sepas sobre ti mismo y cuál es tu papel en el mundo, más aprenderás sobre las diferencias con los demás. Aprender sobre nosotros, ver qué está bien y qué está mal en nuestras asunciones, de dónde vienen nuestras creencias y cuáles son las realidades de los demás.
  • Realizando el Implicit Association Test (o alguno similar) para determinar cuáles son nuestros sesgos. Es verdaderamente sorprendente cómo estas herramientas pueden ayudarnos en el proceso. 
  • Reflexionando de manera crítica sobre el origen y las razones que subyacen detrás de nuestros sesgos: todos tienen un origen, sea la falta de información, algo que nos hace sentir incómodo, o nuestra educación. Saber de dónde vienen nos ayudará a evitarlos, por ejemplo; es fundamental aprender más sobre Historia, relaciones humanas, aspectos específicos de nuestra cultura y estereotipos.
  • Intentando sumergirnos en situaciones a las que no estamos acostumbrados, saliendo de nuestra zona de confort. Poner en práctica la empatía positiva intentando adoptar la perspectiva de otra persona.
  • Aprendiendo los hechos concretos y reales sobre la cultura, la persona o la situación en la que nos sentimos incómodos, de primera mano, intentando mantener una actitud receptiva y abierta a entender las diferencias. 

 

Referencias

Kahneman, D.,Tversky, A. (1972). Subjective probability: a judgement of representativeness. Cognitive Psychology, 3, 430-454.

Srinivasan, Ramya & Uchino, Kanji. (2020). Biases in Generative Art---A Causal Look from the Lens of Art History.

Editor: Universidad Isabel I

Burgos, España

ISSN: 2659-398X

Añadir nuevo comentario