New data-driven predictive modelling methods for data scarcity scenarios in smart manufacturing
Nouvelle démarche de développement de modèles prédictifs de pilotage par les données en Smart-Manufacturing dans les cas de pénurie de données par l'utilisation de techniques de machine-Learning et l'IA
Résumé
Data-driven smart manufacturing has demonstrated tremendous potential across the entire manufacturing lifecycle, and initiated and enriched a series of new paradigms, such as digital twin, Industry 4.0, cloud manufacturing and IoT-enabled manufacturing. As a fundamental topic of smart manufacturing, manufacturing predictive modelling (MPM) aims to construct high-fidelity predictive representations of the concerned properties of products, processes or manufacturing systems, for further process optimisation for decision-making.Various machine-learning methods have been developed and successfully applied to address different manufacturing predictive modelling problems. However, the superior performance and effectiveness of data-driven predictive modelling methods heavily depend on the availability of a substantial amount of labelled data. Unfortunately, labelling manufacturing data, both computationally and experimentally, is often a costly and time-consuming task. Therefore, establishing data-driven predictive models with scarce and insufficient labelled data is an inevitable challenge for the development of smart manufacturing.Generally, the performance limit for data driven predictive models is constrained by the information contained within the labelled dataset, particularly for data scarcity scenarios. This leads to the research gap, the insufficient modelling information. Therefore, it is necessary to actively leverage the data generation process, while simultaneously compensating for the insufficient modelling information by incorporating other available sources of information.To deal above-mentioned research gap for data driven predictive modelling under data scarcity, this thesis proposed a systematic framework including the active sampling of direct labelled data, knowledge transfer from the auxiliary data and data-physics combination. (a) Firstly, an aggregation-value-based sampling (AV4Sam) method was proposed based on the Game theory for sampling the most promising labelled data. Experiments on several manufacturing cases demonstrated that the proposed method could generate optimal dataset actively compared with state-of-arts methods As a result, the data generation process can be proactively harnessed to facilitate the subsequent data modelling process. (b) A new transfer learning approach, structured Conditional Distribution Adaptation (CDA), was proposed to facilitate the knowledge transfer from auxiliary data to the target task, thus improving the performance of the target model under data scarcity situations. (c) To further leverage the wide-existed physics prior knowledge of the manufacturing process, a physics-guided Low-dimensional Neural Operator (LNO) was developed, which incorporates physics priors into the neural network structure to enhance the learning capabilities in predicting the high-dimensional part properties.The proposed methods of data sampling, transfer learning and data-physics combination were validated in various manufacturing cases including composite curing, multi-sensor measurement and tool wear prediction. In addition, a data-driven curing deformation prediction system was developed for composite manufacturing based on the proposed methods. The effectiveness of the system was validated in the curing deformation prediction of a complex composite workpiece. Experimental results show that the developed system could provide accurate deformation prediction results while significantly reducing the required training data by 90% compared to the existing method.In summary, this thesis leverages manufacturing data generating process to enhance the data-driven predictive modelling under data scarcity scenarios. The proposed methods not only contribute to the engineering-oriented machine learning, but also offer valuable insights for the development of smart manufacturing.
Le smart-manufacturing (SM) basé sur le pilotage par les données a démontré un potentiel très significatif dans l'ensemble du processus de fabrication et a initié et enrichi de nouveaux paradigmes, tels que le jumeau numérique, l'industrie 4.0, le cloud-manufacturing. En tant qu'élément fondamental du SM, la modélisation prédictive en fabrication (MPM) vise à construire des représentations prédictives de haute-fidélité des propriétés des produits, des processus ou des systèmes de fabrication, en vue d'une optimisation ultérieure des processus pour la prise de décision.Diverses méthodes de machine-learning, ont été proposées et appliquées avec succès dans la littérature pour résoudre différents problèmes de modélisation prédictive. Cependant le niveau de performance de ces méthodes de modélisation prédictives sont directement liées à la disponibilité des données et leur structuration préalable. Malheureusement, la qualification de ces données issues de la fabrication restent un travail fastidieux et coûteux. Établir des modèles prédictifs de pilotage à partir de données en pénurie reste donc un challenge inévitable.En générale, le niveau de performance des modèles prédictifs, dépend de la quantité et de la structuration des données utilisées. On aboutit alors au verrou scientifique suivant : « comment peut-t-on combler l'insuffisance d'informations pertinentes? » Pour y répondre il convient d'agir sur deux niveaux : exploiter activement le processus de génération de données, et compensant l'insuffisance des informations de modélisation par l'intégration d'autres sources d'informations.Pour résoudre le problème de pénurie de données, cette thèse propose une nouvelle méthodologie basée sur l'échantillonnage actif de données directement labellisées et le transfert de connaissances à partir de données auxiliaires et réel combinées. (a)Dans un premier temps, une méthode d'échantillonnage basée sur la valeur d'agrégation (AV4Sam) est proposée sur la base de la théorie des jeux afin d'échantillonner les données labellisées les plus prometteuses. L'application de cette méthode sur des exemples industriels a démontré qu'elle pouvait générer activement des données optimaux par rapport aux méthodes de la littérature. Ainsi elle peut être exploité de manière proactive pour faciliter le processus ultérieur de modélisation des données. (b)Une nouvelle approche de transfert de données, l'adaptation structurée de la distribution conditionnelle (CDA), a été proposée pour faciliter le transfert de connaissances depuis des données auxiliaires vers la tache cible afin d'améliorer les performances du modèle cible dans les situations de carence de données. (c)Afin d'exploiter au maximum les connaissances réelles préexistantes (RP) du processus de fabrication, un opérateur neuronal à faible dimension guidé par le réel (LNO) a été mis au point. Il incorpore les connaissances RP dans la structure du réseau neuronal afin d'améliorer les capacités d'apprentissage dans la prédiction des propriétés des éléments et des process visés.La méthode proposée a été validée à travers plusieurs cas d'applications industriels (mesure multi-capteurs, prédiction d'usure d'outils). Ou encor le développement d'un modèle prédictif piloté par les données permettant la prédiction de déformation précise d'une pièce composite complexe tout en réduisant de manière significative les données d'apprentissage requises de 90%.En résumé, nous nous sommes intéressés à proposer un processus de génération de données pour améliorer la modélisation prédictive en particulier pour les cas où il y a une pénurie de données. Les solutions proposées sont basées sur les techniques de machine-learning et d'intelligence artificielle et contribuent non seulement à l'apprentissage automatique axé sur l'ingénierie, mais offrent également des perspectives précieuses pour le développement du Smart-Manufacturing en facilitant par exemple la mise en place des Jumeaux Numériques.
| Origine | Version validée par le jury (STAR) |
|---|