Hola,
¿eres nuevo aquí?

Registrate y conecta tu empresa con financiación pública, partners y proyectos.

TED2021-131295B-C33

Financiado

INGENIERIA DE VALORES EN SISTEMAS DE IA. SUBPROYECTO: SISTEMAS CONSCIENTES DE LO...

CON LOS ULTIMOS AVANCES EN IA, LA TRANSICION DIGITAL QUE ESTAMOS VIVIENDO ACTUALMENTE ES INEVITABLE, Y VA MAS ALLA DE UNA ECONOMIA Y SOCIEDAD DIGITAL HACIA UN FUTURO DE SOCIEDADES VERDADERAMENTE MIXTAS DE PERSONAS Y ARTEFACTOS DE... ver más

01/01/2021

URJC

646K€

Presupuesto del proyecto: 646K€

Líder del proyecto

Universidad Rey Juan Carlos No se ha especificado una descripción o un objeto social para esta compañía.

Total investigadores 1102

Ver Participantes

Financiación concedida El organismo AGENCIA ESTATAL DE INVESTIGACIÓN notifico la concesión del proyecto el día 2021-01-01

0% 100%

Participantes

URJC

Lider

Proyectos interesantes

TED2021-131295B-C31 FUNDAMENTOS DE LA CONCIENCIA DE VALORES 667K€ Cerrado

TED2021-131295B-C32 INGENIERIA DE VALORES EN SISTEMAS DE IA: HERRAMIENTAS PARA L... 654K€ Cerrado

REXASI-PRO REliable & eXplAinable Swarm Intelligence for People with Re... 4M€ Cerrado

PID2019-105484RB-I00 COGNOS: AGENTES COGNITIVOS PARA LA INTERACCION PERSONAL SEGU... 52K€ Cerrado

ECURES Encouraging CUlture of REsponsible RoboticS 219K€ Cerrado

REELER Responsible Ethical Learning with Robotics 2M€ Cerrado

Últimas noticias

25-11-2024: ECE En las últimas 48 horas el Organismo ECE ha otorgado 52 concesiones

25-11-2024: CMVAMADRID En las últimas 48 horas el Organismo CMVAMADRID ha otorgado 1 concesiones

25-11-2024: FUNDACION-EOI En las últimas 48 horas el Organismo FUNDACION EOI ha otorgado 6 concesiones

Líder del proyecto

Universidad Rey Juan Carlos

Total investigadores 1102

Presupuesto del proyecto 646K€

Descripción del proyecto CON LOS ULTIMOS AVANCES EN IA, LA TRANSICION DIGITAL QUE ESTAMOS VIVIENDO ACTUALMENTE ES INEVITABLE, Y VA MAS ALLA DE UNA ECONOMIA Y SOCIEDAD DIGITAL HACIA UN FUTURO DE SOCIEDADES VERDADERAMENTE MIXTAS DE PERSONAS Y ARTEFACTOS DE IA: ES DECIR, HACIA SISTEMAS SOCIOTECNICOS. NOS REFERIMOS A AUTOMOVILES AUTONOMOS QUE INTERACTUAN EN LAS CALLES, ROBOTS RECOLECTORES DE FRUTAS QUE COLABORAN ENTRE ELLOS Y CON HUMANOS, ETC. DEBIDO A ELLO, EL MAYOR DESAFIO DE ESTA TRANSICION DIGITAL ES CONSEGUIR PONER LAS NECESIDADES Y LOS VALORES HUMANOS EN EL CENTRO DEL PROCESO. GARANTIZAR QUE LA IA SEA DIGNA DE CONFIANZA Y CONFIABLE, QUE SATISFAGA LAS NECESIDADES HUMANAS Y RESPETE LOS VALORES HUMANOS, ES EL ENFOQUE CENTRAL DE VAE.VAE DESARROLLARA HERRAMIENTAS Y TECNOLOGIAS PARA CONSTRUIR SISTEMAS CONSCIENTES DE LOS VALORES. POR CONSCIENTES DE LOS VALORES NOS REFERIMOS A SISTEMAS QUE ENTIENDEN NUESTROS VALORES HUMANOS Y ASEGURAN QUE EL COMPORTAMIENTO DEL SISTEMA SE RIJA POR ESOS VALORES. ENTRE LOS PRINCIPALES DESAFIOS DEL TRABAJO PROPUESTO ESTA LA ESPECIFICACION E INGENIERIA DE VALORES, LO QUE INCLUYE ALINEAR EL COMPORTAMIENTO DE LOS SISTEMAS Y DISPOSITIVOS CON LOS VALORES QUE INFLUYEN EN CUESTIONES COMO LA TOMA DE DECISIONES Y EN EL DISEÑO DEL SISTEMA.EL PROYECTO SE BASARA Y PROMOVERA TRABAJOS EN EL CAMPO DE LOS SISTEMAS MULTIAGENTE. POR EJEMPLO, IMPULSARA EL TRABAJO DE LOS SISTEMAS NORMATIVOS VINCULANDO VALORES Y NORMAS, QUE SE UTILIZARAN COMO MEDIO PARA GARANTIZAR UN COMPORTAMIENTO ALINEADO CON LOS VALORES. SE BASARA EN TECNOLOGIAS DE ACUERDOS EXISTENTES, COMO MECANISMOS DE ARGUMENTACION Y NEGOCIACION, PARA AYUDAR A LOS AGENTES (HUMANOS Y/O SOFTWARE) A LLEGAR A ACUERDOS SOBRE CUALES DEBERIAN SER SUS SISTEMAS DE VALORES. SE DESARROLLARAN MECANISMOS DE APRENDIZAJE PARA AYUDAR A APRENDER EL SISTEMA DE VALORES PREFERIDO DE UN INDIVIDUO O UN COLECTIVO. EL RAZONAMIENTO SIMBOLICO SE UTILIZARA PARA EVALUAR LA ALINEACION DE VALORES. LOS MECANISMOS DE EXPLICACION AYUDARAN A GARANTIZAR QUE EL SER HUMANO SEA CONSCIENTE DE LOS VALORES QUE INFLUYEN EN EL COMPORTAMIENTO DEL SISTEMA. POR ULTIMO, PERO NO MENOS IMPORTANTE, LA COLABORACION CON EXPERTOS DE LAS CIENCIAS SOCIALES GARANTIZARA UNA DIMENSION INTERDISCIPLINARIA DE NUESTRO TRABAJO QUE CONECTARA EL DESARROLLO TECNICO CON SUS TEORIAS SOBRE LOS VALORES Y LA IA ETICA.VAE DEMOSTRARA LA UTILIDAD DE SUS HERRAMIENTAS Y MECANISMOS EN VARIOS DOMINIOS. EVALUAREMOS LA APLICABILIDAD DE NUESTROS MECANISMOS CONSCIENTES DEL VALOR EN CAMPOS COMO PROTOCOLOS MEDICOS, PROTOCOLOS DE EMERGENCIA, REDES DE AYUDA MUTUA, COOPERATIVAS EN EL SECTOR AGRICOLA, Y RESOLUCION DE CONFLICTOS, ENTRE OTROS.VAE CONTRIBUYE AL OBJETIVO GENERAL DE HACER QUE LA IA SEA MAS COMPETITIVA AL SER MAS CONFIABLE, ROBUSTA, GUIADA POR LA ETICA, EXPLICABLE Y, POR LO TANTO, CONFIABLE. NO HACE NUEVAS PROPUESTAS DE DIRECTRICES Y REGLAMENTOS (PARA LOS QUE YA HAY UN ESFUERZO CONSIDERABLE), SINO QUE AVANZA EN EL ESTADO DEL ARTE EN LA TECNOLOGIA DE IA CENTRAL PARA QUE LA ETICA ESTE INTEGRADA EN LAS APLICACIONES, FUNDAMENTANDOLA EN VALORES UNIVERSALES, EUROPEOS Y PERSONALES.EL SUBPROYECTO "SISTEMAS CONSCIENTES DE LOS VALORES" INVESTIGA COMO LOS SISTEMAS DE AGENTES QUE INTERACTUAN PUEDEN EVALUAR LA ALINEACION DE SUS VALORES Y ADAPTARSE PARA GARANTIZAR QUE SE MANTENGAN ALINEACIONES OPTIMAS A LO LARGO DEL TIEMPO. SE DESARROLLARA UN ENFOQUE COMPUTACIONAL PARA CALCULAR LA ALINEACION DE VALORES DE LOS SISTEMAS Y SE DISEÑARAN MECANISMOS PARA MAXIMIZAR LA ALINEACION

Conecta tu I+D

Entra hoy

Financiación

Empresas

CTIs/Universidades

Proyectos

Investigadores