SEED-SET detecta sesgos ocultos en sistemas autónomos complejos

El método integró un modelo para simular preferencias éticas, que comparó escenarios complejos y descubrió riesgos para la justicia que otros enfoques de pruebas tradicionales no lograron identificar.

Investigadores del Instituto Tecnológico de Massachusetts desarrollaron SEED-SET, un método automatizado diseñado para detectar sesgos y riesgos de equidad en sistemas autónomos antes de su implementación. Esta tecnología surge ante el crecimiento de soluciones capaces de tomar decisiones críticas sin intervención humana, como en redes eléctricas o gestión urbana. El objetivo es identificar escenarios donde la optimización técnica entre en conflicto con valores fundamentales como la justicia y la equidad.

Evaluación ética con modelos de lenguaje

El sistema utiliza modelos de lenguaje avanzados para simular preferencias humanas y evaluar decisiones desde una perspectiva ética. A diferencia de los métodos tradicionales, SEED-SET separa métricas objetivas como costos o eficiencia de criterios subjetivos relacionados con el impacto social. En pruebas, logró generar más del doble de escenarios relevantes en el mismo tiempo, además de detectar situaciones que otros enfoques no identificaron, como posibles desigualdades en la distribución de recursos.

Aplicaciones y futuro de la inteligencia autónoma

La herramienta fue probada en contextos como redes eléctricas y rutas urbanas, donde evidenció cómo ciertas decisiones pueden favorecer a sectores con mayores recursos. Su capacidad para adaptarse a distintos valores éticos la convierte en una opción clave para diseñar sistemas más justos. Presentado en la International Conference on Learning Representations, el proyecto abre la puerta a nuevas aplicaciones en inteligencia artificial responsable y en la toma de decisiones automatizada a gran escala. 

Noticias del tema