Un estudio pionero liderado por la Universidad Estatal de Michigan revela que las personas creadas con IA aún no son fiables para detectar el engaño humano, lo que demuestra tanto el potencial como las importantes limitaciones de las capacidades actuales de la tecnología de IA.
¿Puede la inteligencia artificial detectar eficazmente cuándo una persona miente? Investigadores liderados por la Universidad Estatal de Michigan se han embarcado en un ambicioso estudio para explorar esta provocativa cuestión, examinando las capacidades y limitaciones de la IA para discernir el engaño humano.
Publicado En la revista Journal of Communication, la investigación incluyó 12 experimentos con más de 19,000 participantes de IA, que analizaron la capacidad de las personas con IA para diferenciar la verdad de las mentiras dichas por sujetos humanos.
“Esta investigación tiene como objetivo comprender hasta qué punto la IA puede ayudar en la detección del engaño y simular datos humanos en la investigación en ciencias sociales, así como advertir a los profesionales sobre el uso de grandes modelos de lenguaje para la detección de mentiras”, dijo en un comunicado de prensa el autor principal David Markowitz, profesor asociado de comunicación en la Facultad de Artes y Ciencias de la Comunicación de la MSU.
Para llevar a cabo su análisis, los investigadores utilizaron la Teoría de la Verdad por Defecto (TDT), que sugiere que los seres humanos generalmente tienden a creer que los demás son honestos, un rasgo que se considera ventajoso desde el punto de vista evolutivo.
Comprender este “sesgo de verdad” natural proporcionó un punto de referencia para comparar las respuestas de detección de la IA con las de los humanos.
“Los humanos tenemos una tendencia natural a creer en la verdad: solemos asumir que los demás son honestos, independientemente de si lo son o no”, añadió Markowitz. “Se cree que esta tendencia es útil desde el punto de vista evolutivo, ya que dudar constantemente de todo el mundo requeriría mucho esfuerzo, dificultaría la vida cotidiana y tensaría las relaciones”.
El estudio empleó la plataforma de investigación de IA Viewpoints, presentando a jueces de IA material audiovisual y solo audio de sujetos humanos.
La tarea de la IA consistía en determinar la veracidad de las afirmaciones y justificar sus decisiones. Se manipularon variables como el tipo de medio, el contexto, las tasas de falsos positivos y negativos y las personalidades de la IA para evaluar su influencia en la precisión de la detección.
Uno de los hallazgos más notables de la investigación fue que la IA mostró una tendencia a identificar mentiras, con un rendimiento significativamente mejor (85.8 % de precisión) que verdades (19.5 % de precisión). Si bien la IA igualó la capacidad humana para detectar el engaño en interrogatorios breves, se desvió en contextos distintos a los interrogatorios, mostrando una tendencia a identificar verdades similar a la de los humanos.
“Nuestro objetivo principal era ver qué podíamos aprender sobre la IA al incluirla como participante en experimentos de detección de engaños. En este estudio, y con el modelo que utilizamos, la IA resultó ser sensible al contexto, pero eso no la hizo mejor para detectar mentiras”, añadió Markowitz.
Los hallazgos subrayan que las capacidades actuales de la IA no alcanzan la precisión humana en la detección del engaño. Esto plantea interrogantes cruciales sobre las limitaciones actuales de la IA y la necesidad de avances considerables antes de que pueda utilizarse eficazmente en tales aplicaciones.
«Es fácil entender por qué la gente querría usar la IA para detectar mentiras: parece una solución de alta tecnología, potencialmente justa y posiblemente imparcial. Pero nuestra investigación demuestra que aún no lo hemos logrado», concluyó Markowitz. «Tanto los investigadores como los profesionales deben realizar mejoras sustanciales antes de que la IA pueda realmente detectar el engaño».
Timothy Levine, de la Universidad de Oklahoma, fue coautor del estudio.
Fuente: Michigan State University