FAIRTRANSNLP-DIAGNOSTICO: MIDIENDO Y CUANTIFICANDO EL SESGO Y LA JUSTICIA EN SIS...
FAIRTRANSNLP-DIAGNOSTICO: MIDIENDO Y CUANTIFICANDO EL SESGO Y LA JUSTICIA EN SISTEMAS DE PLN
LOS SESGOS EN LAS APLICACIONES DE PROCESAMIENTO DE LENGUAJE NATURAL (PLN) PUEDEN PROVENIR DE DIFERENTES FUENTES, COMO EL MUESTREO DE LOS DATOS, EL PROCESO DE ETIQUETADO, EL USO DE RECURSOS EXTERNOS, ETC. ADEMAS, LAS APLICACIONES A...
ver más
Financiación
concedida
El organismo AGENCIA ESTATAL DE INVESTIGACIÓN notifico la concesión del proyecto
el día 2021-01-01
No tenemos la información de la convocatoria
0%
100%
Información adicional privada
No hay información privada compartida para este proyecto. Habla con el coordinador.
¿Tienes un proyecto y buscas un partner? Gracias a nuestro motor inteligente podemos recomendarte los mejores socios y ponerte en contacto con ellos. Te lo explicamos en este video
Proyectos interesantes
FairER
Fairness in Language Models: Equally right for the right rea...
215K€
Cerrado
RTC-2017-6157-6
Inteligencia Social y Minería de Opinión para la Adaptación...
414K€
Cerrado
PID2021-127641OB-I00
BIOMETRIA Y COMPORTAMIENTO PARA UNA IA IMPARCIAL Y CONFIABLE...
274K€
Cerrado
FairML
Theory of Fair Machine Learning
215K€
Cerrado
PERSONAE
Personalized and Subjective approaches to Natural Language P...
1M€
Cerrado
PID2021-124361OB-C31
FAIRTRANSNLP-STEREOTYPES: IDENTIFICACION DE ESTEREOTIPOS Y P...
117K€
Cerrado
Descripción del proyecto
LOS SESGOS EN LAS APLICACIONES DE PROCESAMIENTO DE LENGUAJE NATURAL (PLN) PUEDEN PROVENIR DE DIFERENTES FUENTES, COMO EL MUESTREO DE LOS DATOS, EL PROCESO DE ETIQUETADO, EL USO DE RECURSOS EXTERNOS, ETC. ADEMAS, LAS APLICACIONES A MENUDO ACENTUAN ESTOS SESGOS, DE TAL MODO QUE SUS RESULTADOS PUEDEN AFECTAR NEGATIVAMENTE A CIERTOS GRUPOS SOCIALES E INCLUSO PERPETUAR LOS COMPORTAMIENTOS DISCRIMINATORIOS Y LOS PREJUICIOS HACIA ELLOS QUE ESTAN ARRAIGADOS EN LA SOCIEDAD.EL OBJETIVO PRINCIPAL DEL PROYECTO COORDINADO DE FAIRTRANSNLP ES DESARROLLAR SISTEMAS EQUITATIVOSY JUSTOS DE APRENDIZAJE AUTOMATICO/APRENDIZAJE PROFUNDO QUE SEAN CAPACES DE REFLEJAR MULTIPLES PERSPECTIVAS Y OPERAR SOBRE DATOS QUE TIENEN ETIQUETAS "CONFLICTIVAS" O CONTRADICTORIAS, PARA NO MARGINAR LAS OPINIONES DE LAS MINORIAS. EN ESTE CONTEXTO, EL SUBPROYECTO FAIRTRANSNLP-DIAGNOSTIC TENDRA COMO OBJETIVO DETECTAR, MEDIR Y CUANTIFICAR EL SESGO Y LA EQUIDAD EN LOS PROCESOS DE PLN, COMO UN PASO ESENCIAL HACIA EL DESARROLLO DE SISTEMAS JUSTOS, TRANSPARENTES Y COMPRENSIBLES.LA DETECCION DE SESGOS Y LA CARACTERIZACION DE SUS TIPOS Y SUS ORIGENES, SON ESENCIALES PARA DESARROLLAR CONJUNTOS DE DATOS IMPARCIALES Y SIN SESGO QUE PERMITAN DISEÑAR Y ENTRENAR SISTEMAS JUSTOS. FORMALIZAREMOS LOS SESGOS, LA EQUIDAD Y LA TRANSPARENCIA DE LOS PROCESOS DE PLN DESDE TRES ANGULOS: (I) SESGO INCRUSTADO EN EL CONJUNTO DE DATOS; (II) GRADO DE EQUIDAD EN LOS ALGORITMOS DE APRENDIZAJE AUTOMATICO; Y (III) TECNICAS DE TRANSPARENCIA UTILIZADAS EN ESTOS ALGORITMOS PARA LOGRAR EXPLICABILIDAD EN LOS PROCESOS DE PLN. ESTAS NUEVAS METODOLOGIAS SERAN EVALUADAS Y VALIDADAS EN TRES CASOS DE ESTUDIO QUE ORIENTARAN LOS AVANCES DEL PROYECTO. EN PARTICULAR, APLICAREMOS LA METODOLOGIA DE DIAGNOSTICO DESARROLLADA A: (I) LA DETECCION DE ESTEREOTIPOS RACIALES EN COMENTARIOS DE NOTICIAS EN ESPAÑOL, (II) LA IDENTIFICACION DEL SEXISMO EN LAS REDES SOCIALES (TANTO EN ESPAÑOL COMO EN INGLES) Y (III) LA IDENTIFICACION AUTOMATICA DE MISOGINIA EN MEMES. ESGO EN LOS DATOS\APRENDIZAJE CON DESACUERDO\METRICAS DE PLN\SISTEMAS DE PLN\EQUIDAD\SESGO EN LOS SISTEMAS