Hola,
¿eres nuevo aquí?

Regístrate gratis y conecta tu empresa con financiación pública, partners y proyectos.

Tengo cuenta

Regístrate

Ver video

SYNPROC

Financiado

Cerrado

Synchronous Linguistic and Visual Processing

When humans process language, they rarely do so in isolation. Linguistic input often occurs synchronously with visual input, e.g., in everyday activities such as attending a lecture or following directions on a map. The visual con... ver más

31/08/2014

UEDIN

1M€

Presupuesto del proyecto: 1M€

Líder del proyecto

THE UNIVERSITY OF EDINBURGH No se ha especificado una descripción o un objeto social para esta compañía.

TRL 4-5

Fecha límite participación Sin fecha límite de participación.

Financiación concedida El organismo FP7 notifico la concesión del proyecto el día 2014-08-31 No tenemos la información de la convocatoria

0% 100% 100%

Información adicional privada

No hay información privada compartida para este proyecto. Habla con el coordinador.

1 Participantes

UEDIN

0.00€ | Lider

Proyectos interesantes

PCIN-2015-226

Artificial Inte...

Natural Languag...

75K€ Cerrado

PID2021-126061OB-C43

Artificial Inte...

Natural Languag...

152K€ Cerrado

CALCULUS

Artificial Inte...

Machine Learnin...

2M€ Cerrado

PCIN-2015-251

Artificial Inte...

Machine Learnin...

88K€ Cerrado

TWO!EARS

Artificial Inte...

Machine Learnin...

4M€ Cerrado

TIN2011-24631

Artificial Inte...

Computer Vision

78K€ Cerrado

Conecta tu I+D

¿Tienes un proyecto y buscas un partner? Gracias a nuestro motor inteligente podemos recomendarte los mejores socios y ponerte en contacto con ellos. Te lo explicamos en este video

Líder del proyecto

THE UNIVERSITY OF EDINBURGH No se ha especificado una descripción o un objeto social para esta compañía.

TRL 4-5

Presupuesto del proyecto 1M€

Fecha límite de participación Sin fecha límite de participación.

Descripción del proyecto When humans process language, they rarely do so in isolation. Linguistic input often occurs synchronously with visual input, e.g., in everyday activities such as attending a lecture or following directions on a map. The visual context constrains the interpretation of the linguistic input, and vice versa, making processing more efficient and less ambiguous. Given the ubiquity of synchronous linguistic and visual processing, it is surprising that there is only a sparse experimental literature that deals with this topic, while virtually no computational models exist that capture the synchronous interpretation process. We propose an experimental research program that will investigate key features of synchronous processing by tracking participants' eye movements when they view a naturalistic scene and listen to a speech stimulus at the same time. The aim is to understand synchronous processing better by studying the interaction of saliency and ambiguity, and the role of incrementality, object context, and task factors. These experimental results will feed into a series of computational models that predict the eye-movement patterns that humans exhibit when they view a scene and listen to speech at the same time. The key modeling idea is to treat synchronous processing as an alignment problem, for which a rich literature exists in computational linguistics. Building on this literature, we will develop models that incrementally construct aligned linguistic and visual representations, and that can be evaluated against eye-tracking data.

Conecta tu I+D

Entra hoy

¿Olvidé mi contraseña?

Financiación

Empresas

CTIs/Universidades

Proyectos

Investigadores