Un estudio de la Universidad de Washington demuestra que la IA puede aprender valores culturales, como el altruismo, al observar a personas jugar un videojuego cooperativo. El trabajo apunta a futuros sistemas de IA que reflejen mejor las comunidades a las que sirven.
Es posible que algún día la inteligencia artificial aprenda a “adaptarse” a diferentes culturas tal como lo hacen los niños: observando y absorbiendo cómo las personas se tratan entre sí.
En un nuevo estudio publicado En PLOS One, investigadores de la Universidad de Washington demostraron que los sistemas de IA pueden captar valores culturales específicos, como el altruismo, simplemente observando a personas jugar a un videojuego cooperativo. La IA luego aplicó esos valores aprendidos a una situación completamente diferente.
El trabajo aborda una preocupación creciente en la IA: la mayoría de los grandes sistemas se entrenan con datos extraídos de internet, lo que tiende a reflejar los valores de algunos grupos más que los de otros. Esto puede dar lugar a herramientas y chatbots que resultan desfasados en muchas comunidades.
“No deberíamos codificar un conjunto universal de valores en los sistemas de IA, ya que cada cultura tiene sus propios valores”, declaró en un comunicado de prensa el autor principal, Rajesh Rao, profesor de la Universidad de Washington en la Escuela Paul G. Allen de Ciencias de la Computación e Ingeniería y codirector del Centro de Neurotecnología. “Por eso, queríamos averiguar si un sistema de IA puede aprender valores como lo hacen los niños, observando a las personas en su cultura y absorbiéndolos”.
Para explorar esa idea, el equipo de la UW recurrió a un campo de entrenamiento sorprendente: una versión modificada del popular juego de cocina cooperativo Overcooked.
En el experimento, 190 adultos que se identificaron como blancos y 110 que se identificaron como latinos jugaron una versión especial del juego. Los jugadores debían cocinar y repartir la mayor cantidad posible de sopa de cebolla. En la pantalla, veían otra cocina donde un segundo jugador debía caminar más para completar las mismas tareas, lo que lo ponía en clara desventaja.
Lo que los participantes humanos desconocían era que el segundo jugador era en realidad un bot controlado por computadora. El bot estaba programado para pedir ayuda, y los humanos tenían una opción: podían ceder algunas de sus cebollas para ayudar al compañero en desventaja, sacrificando su propia puntuación, o quedarse con las cebollas y concentrarse en maximizar su propio éxito.
Cada grupo cultural —blanco y latino— se emparejó con su propio "agente" de IA, un sistema de software diseñado para aprender del comportamiento. En lugar de que se les indicara qué hacer o se les dieran recompensas explícitas, estos agentes utilizaron una técnica llamada aprendizaje por refuerzo inverso.
En el aprendizaje por refuerzo estándar, una IA recibe un objetivo y es recompensada cuando se acerca a él, como un robot que aprende a jugar al tenis sumando puntos. En el aprendizaje por refuerzo inverso, la IA observa a humanos u otros agentes e intenta inferir qué objetivos y valores deben impulsar sus acciones.
Este enfoque, sostienen los investigadores, se acerca más a cómo aprenden realmente las personas, especialmente los niños.
El coautor Andrew Meltzoff, profesor de psicología de la Universidad de Washington y codirector del Instituto de Aprendizaje y Ciencias del Cerebro, estableció un paralelo directo con la crianza de los hijos.
Los padres no se limitan a enseñar a sus hijos a realizar una tarea específica una y otra vez. Más bien, modelan o actúan de la manera general que desean que sus hijos actúen. Por ejemplo, modelan el compartir y el cariño hacia los demás —dijo en el comunicado de prensa—. Los niños aprenden casi por ósmosis cómo se comportan las personas en una comunidad o cultura. Los valores humanos que aprenden se adquieren más por ingestión que por enseñanza.
Al introducir los datos de juego de Overcooked en los agentes de IA, el equipo permitió que cada sistema “observara” cómo se comportaban las personas de su grupo cultural asignado cuando se enfrentaban a una elección entre el interés propio y ayudar a alguien en desventaja.
En promedio, los participantes del grupo latino optaron por ayudar a su pareja desfavorecida con más frecuencia que los participantes del grupo blanco. Los agentes de IA detectaron este patrón. Cuando jugaron el juego ellos mismos, el agente entrenado con los datos de los jugadores latinos ofreció más cebollas que el agente entrenado con los datos de los jugadores blancos, lo que refleja el comportamiento más altruista observado.
Para comprobar si la IA realmente había aprendido un valor general, no solo un truco específico del juego, los investigadores realizaron una segunda prueba. Esta vez, los agentes se enfrentaron a una decisión moral diferente: donar parte de su dinero a alguien necesitado.
Nuevamente, el agente entrenado con datos de participantes latinos en Overcooked se comportó de forma más altruista, optando por ceder más recursos. Esto sugería que el sistema había internalizado una preferencia más amplia por ayudar a los demás, no solo una estrategia ligada a la comida y la bebida.
Los resultados son una señal temprana pero prometedora de que la IA puede ajustarse para reflejar mejor los valores de comunidades específicas al aprender de su comportamiento cotidiano, según Rao.
Creemos que nuestras demostraciones de prueba de concepto se escalarán a medida que se aumente la cantidad y variedad de datos específicos de la cultura que se alimentan al agente de IA. Con este enfoque, una empresa de IA podría perfeccionar su modelo para comprender los valores de una cultura específica antes de implementar su sistema de IA en ella, añadió Rao.
El estudio se basa Investigaciones anteriores de la Universidad de Washington Demostrando que los niños de 19 meses criados en hogares latinos y asiáticos eran más propensos al altruismo que aquellos de otros orígenes culturales. Al replicar este patrón en la IA, el nuevo trabajo sugiere que las máquinas pueden, de forma limitada, reflejar el proceso de aprendizaje de valores observado en el desarrollo humano.
Al mismo tiempo, los investigadores enfatizan que este es solo un primer paso. Los experimentos involucraron solo dos grupos culturales, un entorno de juego simplificado y un enfoque relativamente limitado en el altruismo. Los entornos reales son mucho más complejos, con muchas culturas superpuestas, valores contrapuestos y decisiones de alto riesgo.
Las investigaciones futuras deberán probar cómo funciona el aprendizaje de refuerzo inverso cuando los sistemas de IA están expuestos a datos más ricos y desordenados de la vida cotidiana, y cuando deben buscar soluciones de compromiso entre valores en competencia como la justicia, la lealtad, la privacidad y la eficiencia.
“Crear una IA adaptada a la cultura es una cuestión esencial para la sociedad”, añadió Meltzoff. “¿Cómo creamos sistemas que tengan en cuenta las perspectivas de los demás y adquieran conciencia cívica?”
La respuesta del equipo de la UW, al menos por ahora, es permitir que la IA nos observe más de cerca: no solo lo que decimos valorar, sino cómo nos comportamos realmente cuando ayudar a los demás tiene un precio. Si este enfoque se amplía, la IA del futuro podría centrarse menos en imponer un único reglamento global y más en aprender, comunidad por comunidad, lo que significa ser un buen vecino.
Fuente: Universidad de Washington