TED2021-131295B-C33
Financiado
INGENIERIA DE VALORES EN SISTEMAS DE IA. SUBPROYECTO: SISTEMAS CONSCIENTES DE LOS VALORES
CON LOS ULTIMOS AVANCES EN IA, LA TRANSICION DIGITAL QUE ESTAMOS VIVIENDO ACTUALMENTE ES INEVITABLE, Y VA MAS ALLA DE UNA ECONOMIA Y SOCIEDAD DIGITAL HACIA UN FUTURO DE SOCIEDADES VERDADERAMENTE MIXTAS DE PERSONAS Y ARTEFACTOS DE...
CON LOS ULTIMOS AVANCES EN IA, LA TRANSICION DIGITAL QUE ESTAMOS VIVIENDO ACTUALMENTE ES INEVITABLE, Y VA MAS ALLA DE UNA ECONOMIA Y SOCIEDAD DIGITAL HACIA UN FUTURO DE SOCIEDADES VERDADERAMENTE MIXTAS DE PERSONAS Y ARTEFACTOS DE IA: ES DECIR, HACIA SISTEMAS SOCIOTECNICOS. NOS REFERIMOS A AUTOMOVILES AUTONOMOS QUE INTERACTUAN EN LAS CALLES, ROBOTS RECOLECTORES DE FRUTAS QUE COLABORAN ENTRE ELLOS Y CON HUMANOS, ETC. DEBIDO A ELLO, EL MAYOR DESAFIO DE ESTA TRANSICION DIGITAL ES CONSEGUIR PONER LAS NECESIDADES Y LOS VALORES HUMANOS EN EL CENTRO DEL PROCESO. GARANTIZAR QUE LA IA SEA DIGNA DE CONFIANZA Y CONFIABLE, QUE SATISFAGA LAS NECESIDADES HUMANAS Y RESPETE LOS VALORES HUMANOS, ES EL ENFOQUE CENTRAL DE VAE.VAE DESARROLLARA HERRAMIENTAS Y TECNOLOGIAS PARA CONSTRUIR SISTEMAS CONSCIENTES DE LOS VALORES. POR CONSCIENTES DE LOS VALORES NOS REFERIMOS A SISTEMAS QUE ENTIENDEN NUESTROS VALORES HUMANOS Y ASEGURAN QUE EL COMPORTAMIENTO DEL SISTEMA SE RIJA POR ESOS VALORES. ENTRE LOS PRINCIPALES DESAFIOS DEL TRABAJO PROPUESTO ESTA LA ESPECIFICACION E INGENIERIA DE VALORES, LO QUE INCLUYE ALINEAR EL COMPORTAMIENTO DE LOS SISTEMAS Y DISPOSITIVOS CON LOS VALORES QUE INFLUYEN EN CUESTIONES COMO LA TOMA DE DECISIONES Y EN EL DISEÑO DEL SISTEMA.EL PROYECTO SE BASARA Y PROMOVERA TRABAJOS EN EL CAMPO DE LOS SISTEMAS MULTIAGENTE. POR EJEMPLO, IMPULSARA EL TRABAJO DE LOS SISTEMAS NORMATIVOS VINCULANDO VALORES Y NORMAS, QUE SE UTILIZARAN COMO MEDIO PARA GARANTIZAR UN COMPORTAMIENTO ALINEADO CON LOS VALORES. SE BASARA EN TECNOLOGIAS DE ACUERDOS EXISTENTES, COMO MECANISMOS DE ARGUMENTACION Y NEGOCIACION, PARA AYUDAR A LOS AGENTES (HUMANOS Y/O SOFTWARE) A LLEGAR A ACUERDOS SOBRE CUALES DEBERIAN SER SUS SISTEMAS DE VALORES. SE DESARROLLARAN MECANISMOS DE APRENDIZAJE PARA AYUDAR A APRENDER EL SISTEMA DE VALORES PREFERIDO DE UN INDIVIDUO O UN COLECTIVO. EL RAZONAMIENTO SIMBOLICO SE UTILIZARA PARA EVALUAR LA ALINEACION DE VALORES. LOS MECANISMOS DE EXPLICACION AYUDARAN A GARANTIZAR QUE EL SER HUMANO SEA CONSCIENTE DE LOS VALORES QUE INFLUYEN EN EL COMPORTAMIENTO DEL SISTEMA. POR ULTIMO, PERO NO MENOS IMPORTANTE, LA COLABORACION CON EXPERTOS DE LAS CIENCIAS SOCIALES GARANTIZARA UNA DIMENSION INTERDISCIPLINARIA DE NUESTRO TRABAJO QUE CONECTARA EL DESARROLLO TECNICO CON SUS TEORIAS SOBRE LOS VALORES Y LA IA ETICA.VAE DEMOSTRARA LA UTILIDAD DE SUS HERRAMIENTAS Y MECANISMOS EN VARIOS DOMINIOS. EVALUAREMOS LA APLICABILIDAD DE NUESTROS MECANISMOS CONSCIENTES DEL VALOR EN CAMPOS COMO PROTOCOLOS MEDICOS, PROTOCOLOS DE EMERGENCIA, REDES DE AYUDA MUTUA, COOPERATIVAS EN EL SECTOR AGRICOLA, Y RESOLUCION DE CONFLICTOS, ENTRE OTROS.VAE CONTRIBUYE AL OBJETIVO GENERAL DE HACER QUE LA IA SEA MAS COMPETITIVA AL SER MAS CONFIABLE, ROBUSTA, GUIADA POR LA ETICA, EXPLICABLE Y, POR LO TANTO, CONFIABLE. NO HACE NUEVAS PROPUESTAS DE DIRECTRICES Y REGLAMENTOS (PARA LOS QUE YA HAY UN ESFUERZO CONSIDERABLE), SINO QUE AVANZA EN EL ESTADO DEL ARTE EN LA TECNOLOGIA DE IA CENTRAL PARA QUE LA ETICA ESTE INTEGRADA EN LAS APLICACIONES, FUNDAMENTANDOLA EN VALORES UNIVERSALES, EUROPEOS Y PERSONALES.EL SUBPROYECTO "SISTEMAS CONSCIENTES DE LOS VALORES" INVESTIGA COMO LOS SISTEMAS DE AGENTES QUE INTERACTUAN PUEDEN EVALUAR LA ALINEACION DE SUS VALORES Y ADAPTARSE PARA GARANTIZAR QUE SE MANTENGAN ALINEACIONES OPTIMAS A LO LARGO DEL TIEMPO. SE DESARROLLARA UN ENFOQUE COMPUTACIONAL PARA CALCULAR LA ALINEACION DE VALORES DE LOS SISTEMAS Y SE DISEÑARAN MECANISMOS PARA MAXIMIZAR LA ALINEACION
ver más
Línea de financiación: concedida
El organismo AGENCIA ESTATAL DE INVESTIGACIÓN notifico la concesión del proyecto el día 2021-01-01
AEI
No se conoce la línea exacta de financiación, pero conocemos el organismo encargado de la revisión del proyecto.
Presupuesto
El presupuesto total del proyecto asciende a
646K€
Líder del proyecto
Universidad Rey Juan Carlos
No se ha especificado una descripción o un objeto social para esta compañía.
