Representing evidence for attribute privacy : bayesian updating, compositional evidence and calibration
Représentation de la preuve pour le respect de la vie privée : inférence bayésienne, preuve compositionnelle et calibration
Résumé
Attribute privacy in multimedia technology aims to hide one personal characteristic of an individual rather than the full identity. For example, an attribute can be the sex, nationality, or health state. When the attribute is discrete with a finite number of possible values, the attacker's belief is represented by a discrete probability distribution over the set of possible values. The Bayes' rule—known as an information acquisition paradigm—tells how the likelihood function is changing the prior belief into a posterior belief. In the binary case, the likelihood function can be written as the Log-Likelihood-Ratio (LLR) also known as the weight-of-evidence, this informs which hypothesis the data is supporting and how strong. The Bayes' rule can be written as a sum between the LLR and the log-ratio of prior probabilities decoupling therefore the evidence provided by the data and the prior belief. This thesis proposes to represent the sensitive information disclosed by the data by a likelihood function. However, the appealing form of the Bayes' Rule, in the binary case, cannot be generalized directly to cases where more than two hypotheses are possible. This thesis proposes therefore to treat discrete probability distributions and likelihood functions as compositional data. Compositional data lives on a simplex where an Euclidean vector space structure—known as the Aitchison geometry—can be defined. With the coordinate representation given by the Isometric-Log-Ratio (ILR) approach, the additive form of the Bayes' rule is recovered. Within this space, the likelihood function (ILRL) can be seen as the multiple hypotheses and multidimensional extension of the LLR. The norm of the ILRL is the strength-of-evidence and measures the distance between the prior distribution and the posterior distribution. Perfect privacy is reached when the attacker's belief does not change when observing the data: its posterior probabilities remain equal to its prior ones. In other words, we want the data to provide no evidence about the value the attribute takes. This idea is theoretically reached when the LLR is zero in a binary setting, and by extension when the ILRL is the zero vector in a non-binary case corresponding to no strength-of-evidence. The information—contained in an observation—about an attribute, is represented by a ILRL. However, in order to properly represent the information, the ILRLs have to be calibrated. The idempotence of calibrated LLRs and its constraint on the distributions of normally distributed LLRs are well-known properties. In this thesis, these properties are generalized to the ILRL for multiple hypotheses applications. Based on these properties and on the compositional nature of the likelihood function, a new discriminant analysis approach is proposed. First, for binary applications, the proposed discriminant analysis maps the input feature vectors into a space where the discriminant component forms a calibrated LLR. The mapping is learned through normalizing flow, a cascade of invertible neural networks. This can be used for pattern recognition but also for privacy. Indeed, since the mapping is invertible, the LLR can be set to zero and the data can then be mapped back to the feature space. This protection strategy is tested on the concealment of the speaker's sex in neural network-based speaker embeddings. The resulting protected embeddings are tested for speaker verification and for voice conversion applications. Since the properties of the LLR naturally extend to the ILRL, the proposed discriminant analysis is generalized to multiclass cases. This new approach is called compositional discriminant analysis. It maps the data into a space where the discriminant components form calibrated likelihood functions expressed by the ILRLs. Although this work is presented in the context of privacy preservation, we believe this opens several research directions in pattern recognition, calibration, and representation learning.
Dans les technologies multimédia, le respect de la vie privée orienté attributs consiste à dissimuler l'information relative à un seul attribut de l'utilisateur comme par exemple son sexe, sa nationalité ou son état de santé. Quand l'attribut ne peut prendre qu'une valeur parmi un ensemble fini de valeurs possibles, la connaissance d'un attaquant sur l'attribut est représentée par une distribution de probabilité discrète sur l'ensemble des valeurs possibles. L'inférence bayésienne décrit comment une connaissance a priori, est transformée en une connaissance a posteriori par une fonction de vraisemblance. Dans le cas binaire, la fonction de vraisemblance peut être écrite comme le log-ratio des vraisemblances (LRV). Le LRV informe quelle hypothèse (ou valeur de l'attribut) une observation appuie et à quel point. La formule de Bayes peut être écrite comme la somme du LRV et du log-ratio des probabilités a priori. La contribution de l'observation et celle de la connaissance a priori sont ainsi séparées dans le calcul de l'a posteriori. Dans cette thèse, il est proposé de représenter l'information sensible, révélée par une donnée, par une fonction de vraisemblance. Cependant, la forme intuitive de la formule de Bayes dans le cas binaire n'est pas directement généralisable aux cas non-binaires. Il est donc proposé de traiter les distributions de probabilité et les fonctions de vraisemblance comme des données compositionnelles. Ces données vivent sur le simplexe où un espace vectoriel euclidien, connu sous le nom de géométrie d'Aitchison, peut être défini. Avec le système de coordonnées défini par l'approche isométrique-log-ratio, la forme additive de l'inférence bayésienne est retrouvée. Dans cet espace, la fonction de vraisemblance (ILRV), est considérée comme la généralisation multidimensionnelle et multi-hypothèses du LRV. Le secret parfait, appliqué ici au respect de la vie privée, est atteint lorsque l'a posteriori de l'attaquant est égale à son a priori. De cette manière, les données ne fournissent aucune information. Le secret parfait est atteint lorsque le LRV est zéro pour les cas binaires et, par extension, lorsque l'ILRV est égal au vecteur nul pour les cas non-binaires. Pour que les ILRVs représentent correctement l'information révélée par les données, ils doivent être calibrés. L'idempotence des LRVs calibrés et sa contrainte sur la distribution des LRVs normalement distribués sont des propriétés bien connues. Dans cette thèse, ces propriétés sont étendues aux ILRVs pour des applications multi-hypothèses. À partir de ces propriétés et de la nature compositionnelle des fonctions de vraisemblance, une nouvelle analyse discriminante est proposée. D'abord présentée pour des applications binaires, l'approche plonge les données dans un espace où la composante discriminante est un LRV calibré. La transformation est apprise avec un flot normalisant qui est une cascade de réseaux de neurones artificiels inversibles. Cela peut être utilisé pour le respect de la vie privée orienté attributs. La transformation étant inversible, le LRV peut être mis à zéro, avant de replonger les données dans l'espace d'origine. Cette approche est testée sur la dissimulation du sexe du locuteur sur des représentations locuteur issues de réseaux de neurones artificiels. Ces représentations protégées sont testées sur une tâche de vérification automatique du locuteur et sur une tâche de conversion de la voix. Les propriétés du LRV étant généralisables au ILRV, l'analyse discriminante se généralise aux cas non-binaires. Appelée Analyse Discriminante Compositionnelle, elle plonge les données dans un espace où les dimensions discriminantes forment une fonction de vraisemblance calibrée exprimée par l'ILRV. Présentés dans un contexte de sécurité des données personnelles, ces travaux ouvrent cependant de nombreuses directions de recherche dans les domaines de la calibration et de l'apprentissage automatique de représentations interprétables de l'information
| Origine | Version validée par le jury (STAR) |
|---|