Descripción del proyecto
ESTE PROYECTO PLANTEA LA NECESIDAD Y, SEGUN UN REGLAMENTO DE LA UE, UN DERECHO, DE LOS USUARIOS A RECIBIR EXPLICACIONES DE LAS DECISIONES QUE TOMAN LOS SISTEMAS DE INTELIGENCIA ARTIFICIAL (IA) Y DE APRENDIZAJE AUTOMATICO (MACHINE LEARNING, ML). DIFERENTES USUARIOS PUEDEN TENER DISTINTAS NECESIDADES DE EXPLICACION, FORMACION, ANTECEDENTES Y OBJETIVOS. EXISTEN DISTINTAS APROXIMACIONES Y USAREMOS EL TERMINO ESTRATEGIA DE EXPLICACION PARA REFERIRNOS COLECTIVAMENTE A LOS MODELOS INTERPRETABLES, METODOS DE VISUALIZACION Y ALGORITMOS PARA EXPLICAR LAS PREDICCIONES DE MODELOS DE ML. SI BIEN EXISTEN YA ALGUNAS BIBLIOTECAS DE ESTRATEGIAS DE EXPLICACION, ESTAN DESCONECTADAS Y NO PROPORCIONAN MECANISMOS PARA LA REUTILIZACION A GRAN ESCALA. NUESTRO OBJETIVO VA MUCHO MAS ALLA DEL DESARROLLO DE UNA BIBLIOTECA Y PRETENDE TRANSFORMAR EL PANORAMA DE LA EXPLICACION DE ML A TRAVES DE UNA PLATAFORMA ABIERTA QUE PUEDA AYUDAR A UN ESPECTRO DE USUARIOS (INGENIEROS DEL CONOCIMIENTO, EXPERTOS EN EL DOMINIO, USUARIOS NOVATOS) EN LA SELECCION Y APLICACION DE ESTRATEGIAS DE EXPLICACION ADECUADAS.PLANTEAMOS LA HIPOTESIS DE QUE LA EXPERIENCIA EN EL USO Y CONFIGURACION DE ESTRATEGIAS DE EXPLICACION PUEDE CAPTURARSE Y REUTILIZARSE. EL PROYECTO ISEE MOSTRARA COMO LOS USUARIOS DE SISTEMAS DE IA PUEDEN CAPTURAR, COMPARTIR Y REUTILIZAR SUS EXPERIENCIAS DE EXPLICACION CON OTROS USUARIOS QUE TIENEN NECESIDADES DE EXPLICACION SIMILARES. NUESTRA IDEA ES CREAR UNA PLATAFORMA UNIFICADORA, RESPALDADA POR EL USO DEL PARADIGMA DE CASE BASED REASONING (CBR) EN LA QUE SE CAPTURAN COMO CASOS AQUELLAS EXPERIENCIAS DE EXITO AL APLICAR UNA ESTRATEGIA DE EXPLICACION. NUESTROS CASOS CODIFICARAN EL CONOCIMIENTO SOBRE LAS DECISIONES TOMADAS POR UN USUARIO Y LA EFECTIVIDAD DE LA ESTRATEGIA, DE MODO QUE NUESTRO SISTEMA CBR PUEDA RECOMENDAR LA MEJOR MANERA DE EXPLICAR LAS PREDICCIONES DE ML A OTROS USUARIOS EN CIRCUNSTANCIAS SIMILARES. LAS ESTRATEGIAS DE EXPLICACION QUE POBLARAN LA BASE DE CASOS INICIAL PUEDEN SER LAS ESTRATEGIAS BASICAS FUNDAMENTALES DE LA LITERATURA. SIN EMBARGO, LAS NECESIDADES DE LOS USUARIOS PUEDEN TENER MULTIPLES FACETAS Y PROPONEMOS COMPONER NUEVOS CASOS QUE CAPTURAN ESTRATEGIAS COMPUESTAS USANDO LA TECNICA CBR DE REUTILIZACION CONSTRUCTIVA.DESARROLLAREMOS UNA ONTOLOGIA PARA DESCRIBIR UNA BIBLIOTECA DE ESTRATEGIAS DE EXPLICACION; DESARROLLAREMOS METRICAS PARA EVALUAR SU ACEPTABILIDAD E IDONEIDAD Y LAS UTILIZAREMOS EN UNA REPRESENTACION DE CASO QUE DESARROLLAREMOS PARA CAPTURAR EXPERIENCIAS DE USO DE ESTRATEGIAS DE EXPLICACION. LOS CASOS REGISTRAN LA EXPERIENCIA OBJETIVA Y SUBJETIVA DE DIFERENTES USUARIOS DE DIFERENTES ESTRATEGIAS DE EXPLICACION DEL ML, PARA QUE PUEDAN SER COMPARTIDAS Y REUTILIZADAS.EN EL PROYECTO HEMOS INCLUIDO UNA SERIE DE CASOS DE USO DE ALTO IMPACTO, EN LOS QUE TRABAJAMOS CON USUARIOS DEL MUNDO REAL PARA CODISEÑAR LAS REPRESENTACIONES Y ALGORITMOS DESCRITOS ANTERIORMENTE, Y PARA EVALUAR Y VALIDAR NUESTRO ENFOQUE. EL PROYECTO ISEE FOMENTA TAMBIEN LA EVALUACION DE LAS ESTRATEGIAS DE EXPLICACION; PROMUEVE LA REPRODUCIBILIDAD DE LOS EXPERIMENTOS; EXHIBE COLABORACION INTERNACIONAL; ESTA IMPULSADO POR LA CREACION CONJUNTA DE REPRESENTACIONES Y CRITERIOS DE EVALUACION CON NUESTROS SOCIOS DE LOS CASOS DE USO; CUMPLE CON LOS MEJORES ESTANDARES DE INVESTIGACION EN TERMINOS DE ACCESO ABIERTO A SOFTWARE Y PUBLICACIONES; Y PROPORCIONARA UNA RUTA HACIA POLITICAS, PROCEDIMIENTOS Y TECNOLOGIAS PARA CERTIFICAR EL CUMPLIMIENTO DE LAS REGULACIONES. NTELIGENCIA ARTIFICIAL EXPLICABLE\ONTOLOGIAS\RAZONAMIENTO BASADO EN CASOS