La inteligencia artificial puede identificar contenido ofensivo, pero comprender por qué toma esa decisión sigue siendo un desafío. Una investigación liderada desde Chile busca cambiar esa realidad mediante un sistema capaz de justificar sus respuestas con fundamentos morales.
Francielle Vargas, académica de la Iniciativa de Datos e Inteligencia Artificial de la Universidad de Chile, presentó el trabajo en ACL 2026. El encuentro internacional está dedicado al procesamiento del lenguaje natural y reúne investigaciones destacadas del área.
IA explicable para detectar discursos de odio
La propuesta se llama Supervised Moral Rationale Attention, conocida como SMRA. Este método incorpora explicaciones directamente en el proceso utilizado por la inteligencia artificial para tomar una decisión.
Además, el sistema utiliza la Teoría de los Fundamentos Morales para identificar fragmentos relacionados con conceptos como daño, deslealtad o degradación. Así evita depender únicamente de palabras que podrían generar asociaciones incorrectas.
Los resultados muestran mejoras tanto en capacidad predictiva como en la calidad de las explicaciones. Asimismo, el modelo mantuvo criterios de equidad entre distintos grupos sociales analizados por los investigadores.
Este tema puede interesarte: Festival Dolores del Río reconocerá a Joaquín Cosío
Una tecnología que busca ser más transparente
La investigación adquiere relevancia ante el crecimiento de sistemas automatizados para moderar contenidos digitales. Explicar las decisiones podría facilitar herramientas más transparentes, confiables y conscientes de diferentes contextos culturales.
El trabajo reunió investigadores de instituciones como University of Southern California, University of Melbourne, Virginia Tech y Google Research. También participaron especialistas de universidades de Alemania y Estados Unidos.
Vargas también presidió una sesión sobre seguridad y alineamiento de grandes modelos de lenguaje durante ACL 2026. El estudio fue aceptado en Findings of ACL 2026 y plantea que todavía serán necesarias salvaguardas adicionales antes de implementar estos sistemas en escenarios reales.
