IA explicable busca hacer más transparentes las decisiones digitales
La inteligencia artificial puede identificar contenido ofensivo, pero comprender por qué toma esa decisión sigue siendo un desafío. Una investigación liderada desde Chile busca cambiar esa realidad mediante un sistema capaz de justificar sus respuestas con fundamentos morales.
Francielle Vargas, académica de la Iniciativa de Datos e Inteligencia Artificial de la Universidad de Chile, presentó el trabajo en ACL 2026. El encuentro internacional está dedicado al procesamiento del lenguaje natural y reúne investigaciones destacadas del área.
La propuesta se llama Supervised Moral Rationale Attention, conocida como SMRA. Este método incorpora explicaciones directamente en el proceso utilizado por la inteligencia artificial para tomar una decisión.
Además, el sistema utiliza la Teoría de los Fundamentos Morales para identificar fragmentos relacionados con conceptos como daño, deslealtad o degradación. Así evita depender únicamente de palabras que podrían generar asociaciones incorrectas.
Los resultados muestran mejoras tanto en capacidad predictiva como en la calidad de las explicaciones. Asimismo, el modelo mantuvo criterios de equidad entre distintos grupos sociales analizados por los investigadores.
Este tema puede interesarte: Festival Dolores del Río reconocerá a Joaquín Cosío
La investigación adquiere relevancia ante el crecimiento de sistemas automatizados para moderar contenidos digitales. Explicar las decisiones podría facilitar herramientas más transparentes, confiables y conscientes de diferentes contextos culturales.
El trabajo reunió investigadores de instituciones como University of Southern California, University of Melbourne, Virginia Tech y Google Research. También participaron especialistas de universidades de Alemania y Estados Unidos.
Vargas también presidió una sesión sobre seguridad y alineamiento de grandes modelos de lenguaje durante ACL 2026. El estudio fue aceptado en Findings of ACL 2026 y plantea que todavía serán necesarias salvaguardas adicionales antes de implementar estos sistemas en escenarios reales.
El uso de armas capaces de seleccionar y atacar objetivos sin intervención humana en cada…
Guanajuato recibió a la reina Isabel II el 26 de febrero de 1975, durante su…
El caso Vadhir Derbez volvió a generar atención después de que el periodista Jorge Carbajal…
Los cultivos de amapola en México registraron una disminución de 27.65 por ciento entre los…
El Grupo de Trabajo de la ONU sobre la Detención Arbitraria pidió la liberación de…
Camila Fernández ganó su primer Latin Grammy por La Fernández, reconocido como Mejor Álbum de…