fr it Acquisition et modélisation de données articulatoires dans un contexte multimodal Acquiring and modelling multimodal articulatory data Report as inadecuate




fr it Acquisition et modélisation de données articulatoires dans un contexte multimodal Acquiring and modelling multimodal articulatory data - Download this document for free, or read online. Document in PDF available to download.

1 MAGRIT - Visual Augmentation of Complex Environments INRIA Lorraine, LORIA - Laboratoire Lorrain de Recherche en Informatique et ses Applications

Abstract : There is no single technique that will allow all relevant behaviour of the speech articulators lips, tongue, palate

. to be spatially ant temporally acquired. Thus, this thesis investigates the fusion of multimodal articulatory data. A framework is described in order to acquire and fuse automatically an important database of articulatory data. This includes: 2D Ultrasound US data to recover the dynamic of the tongue, stereovision data to recover the 3D dynamic of the lips, electromagnetic sensors that provide 3D position of points on the face and the tongue, and 3D Magnetic Resonance Imaging MRI that depict the vocal tract for various sustained articulations. We investigate the problems of the temporal synchronization and the spatial registration between all these modalities, and also the extraction of the shape articulators from the data tongue tracking in US images. We evaluate the uncertainty of our system by quantifying the spatial and temporal inacuracies of the components of the system, both individually and in combination. Finally, the fused data are evaluated on an existing articulatory model to assess their quality for an application in speech production.

Résumé : La connaissance des positions et des mouvements des articulateurs lèvres, palais, langue

. du conduit vocal lors de la phonation est un enjeu crucial pour l-étude de la parole. Puisqu-il n-existe pas encore de système permettant l-acquisition de ces positions et de ces mouvements, ce travail de thèse s-intéresse à la fusion de plusieurs modalités d-imagerie et de capteurs de localisation pour l-acquisition des positions des articulateurs dans l-espace et dans le temps. Nous décrivons un ensemble de protocoles et de méthodes pour obtenir et fusionner automatiquement un important volume de données échographiques imageant en 2D la dynamique de la langue, stéréoscopiques imageant en 3D la dynamique des lèvres, de capteurs électromagnétiques capturant des points 3D de la langue et du visage, et d-Imagerie par Résonance Magnétique IRM pour acquérir en 3D l-ensemble des articulateurs en position statique. Nos contributions concernent plus particulièrement la synchronisation temporelle, le recalage spatial des données et l-extraction automatique des formes à partir des données suivi de la langue dans les images échographiques. Nous évaluons la précision sur chaque donnée extraite, ainsi que sur l-ensemble des données fusionnées. Nous les validons enfin sur un modèle articulatoire existant. Ces travaux permettent l-obtention de données bien fondées pour la mise en place et l-étude de modèles articulatoires pour des applications en parole.

en fr

Keywords : acquisition and fusion of multimodal articulatory data ultrasound images electromagnetic sensors MRI synchronization spatial registration tongue tracking calibration for freehand 3-D ultrasound system articulatory data validation registration uncertainty

Mots-clés : données articulatoires acquisition multimodale fusion multimodale échographies capteurs électromagnétiques IRM synchronisation suivi de la langue calibrage échographie mains libres recalage multimodal validation de données articulatoires incertitude de recalage





Author: Michael Aron -

Source: https://hal.archives-ouvertes.fr/



DOWNLOAD PDF




Related documents