Detecting and indexing moving objects for behavior analysis by video and audio interpretation - Archive ouverte HAL Access content directly
Theses Year : 2014

Detecting and indexing moving objects for behavior analysis by video and audio interpretation

La détection et l'indexation des objets en mouvement pour l'analyse du comportement par vidéo et audio interprétation

(1, 2)
1
2

Abstract

In the last decades we have assisted to a growing need for security in many public environments. This consideration has led the proliferation of cameras and microphones. However, the main limitation of this traditional audio-video surveillance systems lies in the so called psychological overcharge issue of the human operators responsible for security, that causes a decrease in their capabilities to analyse raw data flows from multiple sources of multimedia information. For the above mentioned reasons, in this thesis we propose an intelligent surveillance system able to provide images and video with a semantic interpretation, for trying to bridge the gap between their low-level representation in terms of pixels, and the high-level, natural language description that a human would give about them.In particular, the proposed framework starts by analysing the videos and by extracting the trajectories of the objects populating the scene (tracking module): it is important to underline that the trajectory is a very discriminant feature, since the movement of objects in a scene is not random, but instead have an underlying structure which can be exploited to build some models. Once extracted, this large amount of trajectories needs to be indexed and properly stored in order to improve the overall performance of the system during the retrieving step (storing and retrieval module). Furthermore, the human operator is informed as soon as an abnormal behaviour occurs (visual behaviour understanding module). Whereas the information extracted from the videos are not sufficient or not sufficiently reliable, the proposed system in enriched by a module in charge of recognizing audio events, such as shoots, screams or broken glasses (audio recognition module). It is worth pointing out that the integration between audio and video based information is a significant add-on for the proposed framework, being a completely novel aspect in the field of video and audio analysis.Each proposed module has been tested both over standard datasets and in real environments; the promising obtained results confirm the advance with respect to the state of the art, as well as the applicability of the proposed method in real scenarios.
Dans les dernières décennies, nous avons été témoin d'un besoin grandissant de sécurité dans les espaces publics. Cette nécessite a conduit à une prolifération de caméras de surveillance et de microphones. Toutefois, la limitation principale induite par les systèmes de vidéo surveillance réside dans la surcharge cognitive des opérateurs humains chargés de la sécurité, ce qui diminue leur capacités à analyser le flux d'information émanant de sources multimédia multiples. Pour ces raisons, nous proposons dans cette thèse un système de surveillance intelligent capable d'associer des images et des vidéos à une interprétation sémantique afin de faire le lien entre des représentations bas niveau, sous forme de pixels, et le haut niveau correspondant à une description en langage naturel qu'un être humain pourrait faire d'une scène.Plus précisément, les travaux proposés dans cette thèse débutent par l'analyse des vidéos et par l'extraction des trajectoires des objets présents dans la scène (module de suivi) : Il est important de souligner que la trajectoire est une caractéristique primordiale étant donné que le mouvement des objets dans une scène n'est pas aléatoire, mais possède une structure sous-jacente qui peut aider à la conception de certaines modèles. Une fois extraites, ce grand nombre de trajectoires doit être indexé et stocké afin d'augmenter la performance du système durant la phase de reconnaissance (module de stockage et de reconnaissance). En outre, l'opérateur humain est informé immédiatement si un comportement anormal est observé (module de compréhension visuelle de comportement). Tandis que l'information extraite des vidéos n'est pas suffisante ou n'est pas suffisamment fiable, le système proposé est enrichi par un module en charge de la reconnaissance des événements sonores tels que des tirs, des cris ou des vitres cassées (module de reconnaissance audio). Il est important de noter que la fusion de l'information basée sur la vidéo et l'audio est une contribution importante et originale de nos travaux dans le cadre de l'analyse vidéo et audio.Chaque module proposé a été à la fois testé sur des jeux de données standards mais aussi dans un environnement réel ; les résultats obtenus, tout comme l'application des méthodes proposées dans un contexte réel, permettent de confirmer la contribution de nos travaux à l'état de l'art.
Fichier principal
Vignette du fichier
THESIS_FRENCH_AlesiaSaggese.pdf (34.95 Mo) Télécharger le fichier
Loading...

Dates and versions

tel-01082696 , version 1 (14-11-2014)

Identifiers

  • HAL Id : tel-01082696 , version 1

Cite

Alessia Saggese. Detecting and indexing moving objects for behavior analysis by video and audio interpretation. Computer Science [cs]. Université de Caen, 2014. English. ⟨NNT : ⟩. ⟨tel-01082696⟩
197 View
96 Download

Share

Gmail Facebook Twitter LinkedIn More