Application of neural language models for research article classification into sustainable development goals

Dublin Core

Title

Application of neural language models for research article classification into sustainable development goals

Subject

Aprendizaje profundo
Sustentabilidad
Inteligencia artificial explicable
Estudio de usuario
620
Ingeniería

Description

Tesis (Master of Science in Engineering)--Pontificia Universidad Católica de Chile, 2022
La sustentabilidad ha ganado mucha atención recientemente, que se han empezado a evidenciar los efectos del cambio climático y daño al medio ambiente. Esto ha hecho necesario tomar acciones urgentes para poder continuar habitando en el planeta Tierra. Un primer paso en esta dirección es medir la contribución actual de las universidades a los objetivos de Desarrollo Sostenible (ODS). Así, en esta tesis se exploró el uso de modelos de lenguaje basados en Transformers para desarrollar un clasificador de para artículos académicos. Este modelo podría lograr que las instituciones académicas midan su contribución a la sustentabilidad y también promover la colaboración entre investigadores de diferentes áreas para resolver desafíos del mundo actual. Se propone un modelo RoBERTa al que se aplicó fine-tuning que alcanza un f1-score de 73%. Adicionalmente se estudió el uso de dos técnicas de Inteligencia Artificial Explicable (XAI): mecanismos de atención y gradientes integrados, para entender las predicciones generadas por el modelo. Finalmente, se condujo un estudio de usuario para descubrir cuál de los métodos de explicación descritos es mejor, a través del uso de técnicas de visualización de texto. Se concluye que los mecanismos de atención ayudan más que los gradientes integrados a entender las predicciones del modelo, incluso cuando dichas predicciones son erróneas.

Creator

Flores Villanueva, Daniela

Date

2023-01-23T15:34:17Z
2023-01-23T15:34:17Z
2022

Contributor

Parra Santander, Denis
Pontificia Universidad Católica de Chile. Escuela de Ingeniería

Rights

acceso abierto

Format

xvi, 80 páginas
application/pdf

Language

en

Type

tesis de maestría

Identifier

https://repositorio.uc.cl/handle/11534/66404