IA explicable busca hacer más transparentes las decisiones digitales
La inteligencia artificial puede identificar contenido ofensivo, pero comprender por qué toma esa decisión sigue siendo un desafío. Una investigación liderada desde Chile busca cambiar esa realidad mediante un sistema capaz de justificar sus respuestas con fundamentos morales.
Francielle Vargas, académica de la Iniciativa de Datos e Inteligencia Artificial de la Universidad de Chile, presentó el trabajo en ACL 2026. El encuentro internacional está dedicado al procesamiento del lenguaje natural y reúne investigaciones destacadas del área.
La propuesta se llama Supervised Moral Rationale Attention, conocida como SMRA. Este método incorpora explicaciones directamente en el proceso utilizado por la inteligencia artificial para tomar una decisión.
Además, el sistema utiliza la Teoría de los Fundamentos Morales para identificar fragmentos relacionados con conceptos como daño, deslealtad o degradación. Así evita depender únicamente de palabras que podrían generar asociaciones incorrectas.
Los resultados muestran mejoras tanto en capacidad predictiva como en la calidad de las explicaciones. Asimismo, el modelo mantuvo criterios de equidad entre distintos grupos sociales analizados por los investigadores.
Este tema puede interesarte: Festival Dolores del Río reconocerá a Joaquín Cosío
La investigación adquiere relevancia ante el crecimiento de sistemas automatizados para moderar contenidos digitales. Explicar las decisiones podría facilitar herramientas más transparentes, confiables y conscientes de diferentes contextos culturales.
El trabajo reunió investigadores de instituciones como University of Southern California, University of Melbourne, Virginia Tech y Google Research. También participaron especialistas de universidades de Alemania y Estados Unidos.
Vargas también presidió una sesión sobre seguridad y alineamiento de grandes modelos de lenguaje durante ACL 2026. El estudio fue aceptado en Findings of ACL 2026 y plantea que todavía serán necesarias salvaguardas adicionales antes de implementar estos sistemas en escenarios reales.
El cine mexicano tendrá una cita especial en Durango con la llegada de Joaquín Cosío,…
Cuando la tecnología se pone al servicio de las personas, su impacto puede ir mucho…
Logrand Entertainment Group encontró en el universo el punto de partida para construir una nueva…
El arte argentino encuentra nuevas rutas hacia el mundo gracias a coleccionistas que entienden su…
La nostalgia vuelve a convertirse en objeto de colección en Estados Unidos con una nueva…
En la cultura pop, la energía ya no tiene una sola definición; puede ser la…