Valores

Crean una IA que justifica sus decisiones al analizar textos

La inteligencia artificial puede identificar contenido ofensivo, pero comprender por qué toma esa decisión sigue siendo un desafío. Una investigación liderada desde Chile busca cambiar esa realidad mediante un sistema capaz de justificar sus respuestas con fundamentos morales.

Francielle Vargas, académica de la Iniciativa de Datos e Inteligencia Artificial de la Universidad de Chile, presentó el trabajo en ACL 2026. El encuentro internacional está dedicado al procesamiento del lenguaje natural y reúne investigaciones destacadas del área.

IA explicable para detectar discursos de odio

La propuesta se llama Supervised Moral Rationale Attention, conocida como SMRA. Este método incorpora explicaciones directamente en el proceso utilizado por la inteligencia artificial para tomar una decisión.

Además, el sistema utiliza la Teoría de los Fundamentos Morales para identificar fragmentos relacionados con conceptos como daño, deslealtad o degradación. Así evita depender únicamente de palabras que podrían generar asociaciones incorrectas.

Los resultados muestran mejoras tanto en capacidad predictiva como en la calidad de las explicaciones. Asimismo, el modelo mantuvo criterios de equidad entre distintos grupos sociales analizados por los investigadores.

Este tema puede interesarte: Festival Dolores del Río reconocerá a Joaquín Cosío

Una tecnología que busca ser más transparente

La investigación adquiere relevancia ante el crecimiento de sistemas automatizados para moderar contenidos digitales. Explicar las decisiones podría facilitar herramientas más transparentes, confiables y conscientes de diferentes contextos culturales.

El trabajo reunió investigadores de instituciones como University of Southern California, University of Melbourne, Virginia Tech y Google Research. También participaron especialistas de universidades de Alemania y Estados Unidos.

Vargas también presidió una sesión sobre seguridad y alineamiento de grandes modelos de lenguaje durante ACL 2026. El estudio fue aceptado en Findings of ACL 2026 y plantea que todavía serán necesarias salvaguardas adicionales antes de implementar estos sistemas en escenarios reales.

REDACCIÓN

Entradas recientes

Los “robots asesinos” abren un debate sobre tecnología y vida humana

El uso de armas capaces de seleccionar y atacar objetivos sin intervención humana en cada…

7 horas hace

La reina Isabel II conoció el Teatro Juárez y el Mercado Hidalgo

Guanajuato recibió a la reina Isabel II el 26 de febrero de 1975, durante su…

7 horas hace

Defensa de Vadhir Derbez responde a versiones sobre otra denuncia

El caso Vadhir Derbez volvió a generar atención después de que el periodista Jorge Carbajal…

1 día hace

Informe de la ONU documenta menos hectáreas de amapola en México

Los cultivos de amapola en México registraron una disminución de 27.65 por ciento entre los…

1 día hace

La ONU pide atender el caso de Juan Carlos Ramírez Michaca

El Grupo de Trabajo de la ONU sobre la Detención Arbitraria pidió la liberación de…

2 días hace

El mariachi tiene una nueva celebración con Camila Fernández

Camila Fernández ganó su primer Latin Grammy por La Fernández, reconocido como Mejor Álbum de…

2 días hace