Por qué perdonamos a los humanos más fácilmente que a las máquinas

Antes de que la IA estuviera de moda, Henry Lieberman, un científico informático, me invitó a ver el trabajo de su grupo en el MIT. Henry estaba obsesionado con la idea de que la IA carecía de sentido común. Así que, junto con sus colegas Catherine Havasi y Robyn Speer, había estado recopilando declaraciones de sentido común en un sitio web.

Las declaraciones de sentido común son hechos que son obvios para los humanos pero difíciles de comprender para las máquinas. Son cosas como “el agua moja” o “el amor es un sentimiento”. También son un punto delicado para la IA, ya que los académicos todavía están trabajando para comprender por qué las máquinas luchan con el razonamiento de sentido común. Ese día, Henry estaba ansioso por mostrarme un gráfico en el que palabras, como amor, agua o sentimiento, se organizaron en base a los datos de su corpus de sentido común. Me mostró una gráfica usando una técnica llamada análisis de componentes principales, un método para determinar los ejes que mejor explican la variación en cualquier tipo de datos numéricos.

“Aplicado al conocimiento del sentido común”, dijo, “es como tratar de encontrar una respuesta matemática a la antigua pregunta filosófica: ¿De qué se trata el conocimiento humano?”.

Así que le pregunté cuáles eran las hachas y me invitó a adivinar.

“No lo sé,” dije. «¿Grande o pequeño? ¿Vivo o muerto?

«No», respondió. «Bueno o malo.»

En retrospectiva, este hecho parece obvio. Todos los días usamos los juicios morales como atajos tanto para la cognición como para la comunicación. Hablamos de tiempo “bueno” y “malo”. Buscamos un “mejor” trabajo o computadora. Disfrutamos de la “buena” música y evitamos el “mal” vino. Pero mientras entendemos racionalmente que un agujero en un calcetín no es poco ético, a menudo no podemos evitar abusar del dulce atajo del razonamiento moralizado. El gráfico de Henry era evidencia de que la moralización generalizada prevalece en nuestro idioma, y ​​que esta moralización generalizada está implícita en el razonamiento de sentido común.

Hoy en día, gran parte de esa moralización no está dirigida al par de calcetines equivocado, sino a la IA y a quienes la crean. A menudo, la indignación está justificada. AI ha estado involucrada en arrestos injustificados, puntajes de reincidencia sesgados y múltiples escándalos relacionados con fotos mal clasificadas o traducciones estereotipadas de género. Y en su mayor parte, la comunidad de IA ha escuchado. Hoy en día, los investigadores de IA son muy conscientes de estos problemas y están trabajando activamente para solucionarlos.

Pero a medida que se asienta el polvo, vale la pena preguntarse no solo si la IA es «buena» o «mala», sino también qué nos enseñan estos episodios de juicios sobre nuestras intuiciones morales. Después de todo, la ética de la IA se trata de nosotros, los humanos, ya que somos nosotros los que juzgamos.

En los últimos años, junto con mi equipo, realicé docenas de experimentos en los que miles de estadounidenses reaccionaron ante acciones realizadas por humanos y máquinas. Los experimentos consistieron en escenarios que podrían presentarse como una acción humana o de una máquina, como una excavadora excavando accidentalmente una tumba o un sistema de alerta de tsunami que no logra alertar a un pueblo costero. Estas comparaciones nos permitieron ir más allá de la forma en que los humanos juzgan la IA y, en cambio, centrarnos en cómo nuestro juicio sobre las máquinas se compara con nuestro juicio sobre los humanos.

Esta diferencia puede parecer sutil, pero nos obliga a juzgar las máquinas en un marco de referencia más realista. Tendemos a comparar la IA con la perfección en lugar de compararla con la forma en que reaccionamos ante un humano que realiza la misma acción con el mismo resultado.

Entonces, ¿qué nos enseñaron los experimentos?

Incluso los primeros puntos de datos mostraron que las personas no reaccionaban por igual ante humanos y máquinas. Por ejemplo, las personas perdonaban menos a las máquinas que a los humanos en escenarios accidentales, especialmente cuando resultaban en daños físicos.

Pero como teníamos miles de puntos de datos, podíamos ir más allá de las observaciones anecdóticas. Entonces, decidimos construir un modelo estadístico que explicara cómo las personas juzgaban a los humanos y las máquinas. El modelo predijo cómo las personas puntuaban un escenario, en términos de incorrección moral, en función de cómo lo puntuaban en función del daño y de la intención percibida.

Para nuestra sorpresa, el modelo mostró que las personas no solo juzgan a los humanos con menos severidad que a las máquinas, sino que usamos una filosofía moral diferente para juzgarlos. La figura cercana resume este hallazgo. El plano azul muestra cómo las personas juzgan, en promedio, a otras personas. El plano rojo muestra cómo los humanos juzgan, en promedio, las máquinas.

Puedes ver claramente que los planos no son paralelos y que hay una rotación entre el plano rojo y el azul. Esto se debe a que, al juzgar las máquinas, la gente parece preocuparse principalmente por el resultado de un escenario. En este caso, el nivel de daño percibido. Por eso el plano rojo crece casi exclusivamente a lo largo de la dimensión del daño. Pero cuando las personas juzgan a otras personas, el plano azul, encontramos una curvatura. Esta vez, el crecimiento es a lo largo de la diagonal, lo que representa la interacción entre el daño y la intención percibida (técnicamente, la multiplicación de los dos). Esto explica por qué las máquinas son juzgadas con más dureza en escenarios accidentales; las personas adoptan un enfoque consecuencialista para juzgar a las máquinas, donde la intención es irrelevante, pero no para los humanos.

Este modelo simple nos llevó a una conclusión interesante, un principio empírico que rige la forma en que las personas juzgan a las máquinas de manera diferente a los humanos. Un principio que en su forma más simple dice: “La gente juzga a los humanos por sus intenciones y a las máquinas por sus resultados”.

Pero, ¿qué nos enseñan estos experimentos sobre nuestras intuiciones morales?

Primero, nos enseñan que nuestras intuiciones morales están lejos de ser fijas. Puede que nos digamos a nosotros mismos que somos personas de principios, pero la verdad es que reaccionamos de forma diferente según a quién o qué estemos juzgando. Este cambio moral va más allá de la forma en que juzgamos a los humanos y las máquinas.

Por ejemplo, los juicios morales de las personas sobre las acciones políticamente motivadas dependen de si el agente acusado de actuar mal está políticamente alineado con sus puntos de vista.

En un estudio reciente, las personas reaccionaron de manera diferente ante un estudiante que arrojó una botella de vidrio durante una protesta, dependiendo de si el estudiante fue identificado como miembro del “movimiento Antifa” o del “movimiento Patriota”. Como es de esperar, los encuestados reaccionaron con más fuerza contra el estudiante cuando su identidad política se oponía a la suya. Sin embargo, el mismo estudio también mostró que este efecto no se observó cuando las infracciones involucraron escenarios no políticos, como fumar en interiores o conducir ebrio. Por lo tanto, nuestros juicios políticamente motivados no nos empujan a cambiar indiscriminadamente, sino solo en el contexto de situaciones particulares.

La segunda lección es que nuestro cambio moral puede ir más allá de un simple sesgo que favorece a un grupo sobre otro. Si la gente simplemente favoreciera a los humanos sobre las máquinas, los planos rojo y azul habrían sido paralelos. Pero no lo son. Esto significa que las personas no favorecen simplemente a los humanos sobre las máquinas. Juzgamos a los humanos y las máquinas de manera diferente. En comparación con la moralidad consecuencialista con la que juzgamos a las máquinas, aplicamos una moralidad más kantiana o deóntica (sobre los medios en lugar de las metas) a nuestros semejantes.

Pero lo que probablemente sea la lección más importante es que podemos aprender algo sobre la moralidad humana usando técnicas diseñadas para enseñar a las máquinas. En nuestro caso, hicimos esto construyendo un modelo simple que conecta diferentes aspectos de los juicios morales. En el caso de Henry, Catherine y Robyn, aprendimos algo sobre la moralidad del sentido común mediante el uso de una popular «técnica de reducción de la dimensionalidad».

Después de que Henry me dijo que la primera dimensión era “buena versus mala”, me pidió que adivinara el segundo eje. “Fácil versus difícil”, dijo. “En una primera aproximación, todo el conocimiento del sentido común se trata de lo que es bueno o malo y lo que es fácil o difícil de hacer. El resto es solo ruido”.