petit travail sur les slides

slides/slides.md

@@ -2,7 +2,8 @@
 theme: academic
 class: text-white
 coverAuthor: Laurent Fainsin
-coverBackgroundUrl: https://git.fainsin.bzh/ENSEEIHT/projet-fin-etude-rapport/media/branch/master/assets/aube.jpg
+coverBackgroundUrl: >-
+  https://git.fainsin.bzh/ENSEEIHT/projet-fin-etude-rapport/media/branch/master/assets/aube.jpg
 coverBackgroundSource: Safran Media Library
 coverBackgroundSourceUrl: https://medialibrary.safran-group.com/Photos/media/179440
 coverDate: '2023-09-07'
@@ -12,12 +13,19 @@ themeConfig:
   paginationPagesDisabled:
     - 1
 title: Projet de fin d'étude
+download: true
 ---
 
 <h2 class="opacity-50" style="font-size: 2rem;">Projet de Fin d'Étude</h2>
 
 <h1 style="font-size: 2.4rem; line-height: normal;">Modèles génératifs pour la représentation latente d'aubes 3D sous forme de maillages non structurés</h1>
 
+<!--
+Hello, donc je vais vous présenter aujourd'hui le travail que j'ai effectué lors de mon stage de fin d'étude, qui porte sur...
+
+Et mon but aujourd'hui c'est de vous présenter ce queces 3 lignes veulent dire
+-->
+
 ---
 
 ## Sommaire
@@ -37,7 +45,7 @@ title: Projet de fin d'étude
 <!--
 Petit sommaire pour cadrer un peu les parties de ma présentation
 
-- Présentation brève de Safran et de mon Stage
+- Présentation brève de Safran et contexte Stage
 - Présentation de mes données
 - Présentation de modèles pour traiter le problème
 - Résultats de ces modèles
@@ -66,7 +74,7 @@ Safran génère des revenus principalement grâce à la vente de moteur pour la
 
 Lors de mon stage j'ai fait partie d'une équipe de Safran Tech qui est le département recherche de Safran qui explore de nouveaux procédés pour les nouvelles générations de moteurs...
 
-Dans mon cas j'ai donc travaillé sur l'amélioration des aubes, qui sont les pales à l'interieur du moteur qui permettent de comprimer l'air.
+Dans mon cas j'ai donc travaillé sur l'amélioration des aubes, qui sont un peu se genre de pales, mais à l'intérieur du moteur (non visible ici, dans le compresseur.
 -->
 
 ---
@@ -87,15 +95,17 @@ Dans mon cas j'ai donc travaillé sur l'amélioration des aubes, qui sont les pa
 <!--
 Rotor37_1200, le dataset sur lequel j'ai principalement travaillé.
 
-Il s'agit de 1200 échantillons de déformations d'une des 37 aube du compresseur d'un moteur d'avion, déformations à partir d'une aube nominale.
+Il s'agit de 1200 échantillons de déformations d'une des 37 aube du compresseur d'un moteur d'avion (déformations à partir d'une aube nominale)
-Sous forme de maillage triangulaire, 30k nœuds, 60k triangles et 90k arêtes.
+Ces aubes, sous forme de maillage triangulaire, 30k nœuds, 60k triangles et 90k arêtes.
 
-En chaque nœuds, positions, normales + physqique (température, pression, simu cfd).
+En chaque nœuds, positions 3D, normales et champs physqique (température, pression, issue de la simu cfd)
-\+ pour chaque échantillons, 5 métriques globales.
+\+ pour chaque échantillons, 5 métriques globales (input/output de la simu cfd, vitesse air en entrée du moteur, l'efficacité du moteur...)
 
-Maillage (donc des graphes), mais connectivité assez "locales" (voisins proches dans l'espace) donc dans la suite des travaux on va souvent utiliser seulement les noeuds. Ça nous arrange en plus, car connectivité des maillages trop complexe à prédire (quadratique), et y'a des techniques pour reconstruire la surface juste à partir des points (ça marche plus ou moins bien, il faut souvent bcp de points)
+Donc on travaille avec un maillage qui est un graphe, mais connectivité assez "locales" (voisins proches dans l'espace) donc dans la suite des travaux on va souvent utiliser seulement le nuage de points.
 
-On aurait aussi pu imaginer travailler directement sur la CAO de ces aubes, mais c'est bcp plus complexe car représentation pas uniques, et zero littérature.
+Ça nous arrange en plus, car connectivité des maillages trop complexe à prédire (quadratique), et y'a des techniques pour reconstruire la surface juste à partir des points (ça marche plus ou moins bien, il faut souvent bcp de points)
+
+On aurait aussi pu imaginer travailler directement sur la CAO de ces aubes, mais c'est bcp plus complexe car représentation d'une objet pas unique via CAO, et zero littérature.
 -->
 
 ---
@@ -109,11 +119,11 @@ Donc nous ce qu'on veut c'est générer des trucs qui ressemblent à rotor37. po
 
 Les modèles génératifs c'est pas nouveaux, si on souhaite trouver une aube qui respecte un certaine critère de performance par exemple pour un nouveau moteur, une méthode simple et largement déjà utiliser c'est "l'exploration d'un espace paramètre" (un peu comme un sweep d'hyperparamètres en deep learning).
 
-Si on suppose qu'on a une CAO (construction d'une aube avec des objets primitifs) sous la main paramétrisé (par l'angle d'attaque, hauteur, largueur, ...). On peut échantilloner, passer sous simu, relever les perfs, interpoler, trouver des endroits interessants à explorer, échantilloner de nouveaux paramètres, répéter...
+Si on suppose qu'on a une CAO (construction d'une aube avec des objets primitifs) sous la main paramétrisé (par l'angle d'attaque, hauteur, largueur, ...). On peut échantilloner, passer sous simu, relever les perfs, à partir résultats rajouter des points, répéter...
 
 À la fin, on a normalement au moins une aube qui nous convient.
 
-Inconvénient, c'est long, à cause de la simu, et si on veut optimiser un autre paramètre on peut pas trop réutiliser ce qu'on à là.
+Inconvénient, c'est long, à cause de la simu, et si on veut optimiser un autre paramètre on peut pas trop réutiliser ce qu'on à là. En plus nous on voudrait être capable d'avoir le processus inverse (perf -> aube)
 -->
 
 ---
@@ -127,9 +137,11 @@ Inconvénient, c'est long, à cause de la simu, et si on veut optimiser un autre
 <!--
 Solution: balancer des réseaux de neurones là dedans et voir si ça marche. Y'a globalement 4 grosses familles de modèles génératifs (gan, vae, nf, dm).
 
-L'objectif de ces modèles se ressemblent un peu tous. Dans les trois premiers, on veut apprendre à génerer distrib x' qui ressemble très fortement à x. Donc en gros formelement pendant leur entrainement on veut apprendre l'identité, mais particularité dans ces réseaux, par exemple dans vae on passe (généralement) par un goulot d'étranglement qu'on appelle espace latent (z), auquel on peut donner plusieurs propriétés interessantes.
+L'objectif de ces modèles se ressemblent un peu tous. Dans les trois premiers, on veut apprendre à génerer distrib x' qui ressemble très fortement à x.
 
-La famille qui nous interesse le plus ici c'est les modèles de diffusion, le plus récent. Le principe c'est de trouver un processus réversible et discret entre notre distribution de données et une autre distribution qu'on connait parfaitement mathématiquement (qu'on sait sampler sans soucis).
+Formelement pendant entrainement on veut apprendre l'identité, mais particularité dans l'archi, par exemple dans vae on passe (généralement) par un goulot d'étranglement qu'on appelle espace latent, ou GAN on a une architecture adversarial, etc.
+
+La famille qui nous interesse le plus ici c'est les modèles de diffusion, récent et potentiel. Le principe c'est de trouver un processus réversible et discret entre notre distribution de données et une autre distribution qu'on connait parfaitement mathématiquement (qu'on sait sampler sans soucis).
 -->
 
 ---
@@ -141,17 +153,17 @@ La famille qui nous interesse le plus ici c'est les modèles de diffusion, le pl
   <img src="/assets/ddpm_example.png" class="m-auto w-full">
 </div>
 
-<p class="absolute bottom-0 font-extralight mb-1 mr-2 right-0 text-xs">
+<p class="absolute bottom-0 font-extralight !my-0 mr-2 right-0 text-xs">
   <a href="https://arxiv.org/abs/2006.11239">arxiv:2006.11239</a>,
   <a href="https://cvpr2022-tutorial-diffusion-models.github.io/">CVPR 2022 Diffusion Tutorial</a>
 </p>
 
 <!--
-Il existe plusieurs méthodes pour faire de la diffusion, la plus simple/connue d'entre elles c'est DDPM. Le principe de cette méthode c'est d'apprendre un mapping réversible entre nos données et une gaussienne isotropique.
+Il existe plusieurs méthodes pour faire de la diffusion, la plus simple d'entre elles c'est DDPM. Le principe de cette méthode c'est d'apprendre un mapping réversible entre nos données et une gaussienne isotropique.
 
-Ce mapping on va l'apprendre par l'intermédiaire d'un réseau débruiteur. Pour se faire on prend une de nos données (x0), on la bruite (xt), on la donne notre réseau, on récupère la prédiction (eps_theta) de notre réseau, qu'on utilise ensuite pour optimiser le réseau à prédire le bruit que l'on a ajouté (eps).
+Ce mapping on va l'apprendre par l'intermédiaire d'un réseau débruiteur (c'est le d de denoising). Pour se faire (algo 1) on prend une de nos données (x0), on la bruite (xt), on la donne notre réseau, on récupère la prédiction (eps_theta) de notre réseau, qu'on utilise ensuite pour optimiser le réseau à prédire le bruit que l'on a ajouté (eps).
 
-Une fois le réseau entrainé, on est capable de débruité des données. Le plus intéressant c'est lorsque que l'on part d'un bruit blanc et que l'on demande quand même au réseau de débruiter. Le réseau se met à halluciner des informations, et génère finalement une nouvelle donnée qui se rapproche très fortement de celles qu'il a apprises.
+Une fois le réseau entrainé, on est capable de débruiter des données. Le plus intéressant c'est lorsque que l'on part d'un bruit blanc (xT) et que l'on demande quand même au réseau de débruiter. Le réseau se met à halluciner des informations là où y'en a pas, et génère finalement une nouvelle donnée qui se rapproche très fortement de celles qu'il a apprises. (algo 2)
 -->
 
 ---
@@ -203,12 +215,13 @@ Le résultat (ici kp-fcnn) est pas mal, mais pas ouffissime car il reste une bon
 <a href="https://arxiv.org/abs/2112.10752" class="absolute bottom-0 font-extralight mb-1 mr-2 right-0 text-xs">arxiv:2112.10752</a>
 
 <!--
-LDM part du constat que c'est plus efficace de travailler sur les informations latentes des données plutot que directement sur les données. Y'a toute une série de travaux sur la représentivité des réuseaux de neurones qui le prouve.
+LDM part du principe que c'est plus efficace de travailler sur les informations latentes des données plutot que directement sur les données. Y'a toute une série de travaux sur la représentivité des réuseaux de neurones qui le prouve (un peu empiriquement).
 
-Pour ça, tout ce qu'on fait c'est rajouter (généralement) un VAE en amont du modèle de diffusion pour permettre de passer de nos données à leurs représentation latente et inversement. Comme ces transformations agissent un peu comme une opération de compression (et de decompression) l'apprentissage du modèle de diffusion est plus simple.
+Et ce genre d'avantage on le voit sur figure de gauche. Nos distributions de données sont généralement divisée en deux partie si l'on regarde la quantité d'information nécéssaire à la construction d'un échantillon. On a la partie semantic, très peu d'info, grande variations, et la partie perceptuelle, bcp d'info, traite les détails.
-La figure de gauche représente "la quantité d'information dans un processus de reconstruction en fonction de l'impact sur la génération", c'est un peu compliqué à expliquer, mais ça ressemble un peu aux modes d'une SVD en fait.
 
-Dans notre cas, puisque la structure des données s'y porte bien (bien régulière, noeuds tous dans le même ordre, ...) on peut se passer d'un VAE et utiliser une PCA pour obtenir un espace latent. Ça a l'avantage d'être non paramétrique, mais l'inconvenient d'être spécialisé sur un jeu de données (ce qui n'est pas super grave dans le cadre industriel).
+Les espaces latents permettent de travailler uniquement sur semantic. Pour ça, tout ce qu'on fait c'est rajouter (généralement) un VAE en amont du modèle de diffusion pour permettre de passer de nos données à leurs représentation latente et inversement.
+
+Dans notre cas, puisque la structure des données s'y porte bien (bien régulière, noeuds tous dans le même ordre, ...) on peut se passer d'un VAE et utiliser une PCA pour obtenir un espace latent. Ça a l'avantage d'être non paramétrique, leger et rapide, mais l'inconvenient d'être spécialisé sur un jeu de données (ce qui n'est pas super grave dans le cadre industriel
 -->
 
 ---
@@ -225,7 +238,7 @@ Autre amélioration !
 
 jusqu'à présent avec tout ce que j'ai dit, on est capable de générer des données qui ressemble à une certaine densité de probabilité x. Cependant couramment on veut générer des données qui ressemble à un sous ensemble de données (x,y) avec y la classe de x. On appelle ça le conditionnement.
 
-Il existe plusieurs méthode pour faire cela, la plus performante d'entre elles étant la cfg. Le principe c'est d'entrainer notre réseau de diffusion conjointement à la prédiction non conditionnée et conditionnée. Jusque là rien de spécial, mais lors de l'échantillonage ça nous permet de faire une interpolation linéaire entre une prédiction non condtionnée et conditonnée pour guider la génération.
+Il existe plusieurs méthode pour faire cela, l'un d'entre elle etant cfg. Le principe c'est d'entrainer notre réseau de diffusion conjointement à la prédiction non conditionnée et conditionnée. Jusque là rien de spécial on complexifie un peu plus l'apprentissage, mais lors de l'échantillonage on va pouvoir choisir quel type de données on souhaite générer.
 -->
 
 ---
@@ -238,9 +251,21 @@ Il existe plusieurs méthode pour faire cela, la plus performante d'entre elles
 </div>
 
 <!--
-Et donc si on applique nos diffusion latente via une PCA et un conditionnement par cfg, on obtient ceci. Un nuage de point de très bonne qualité, et en bonus grâce à la pca, on peut appliquer la connectivité de l'aube nominale à notre génération pour obtenir une surface (pas besoin de méthode de reconstruction).
+Et donc si on applique nos diffusion latente via une PCA, on obtient ceci. Un nuage de point de très bonne qualité (on a plus tout le bruit qu'on avait avec kpconv), et en bonus grâce à la pca, on peut appliquer la connectivité de l'aube nominale à notre génération pour obtenir une surface (pas besoin de méthode de reconstruction).
+-->
 
-Problème, on est incapable de voir visuellement la différence entre une aube conditionné avec efficacité à 2 et une aube efficacité à 10. Une solution ça serait de passer nos générateurs dans le simu, mais trop long. Donc on va utiliser des modèles de regression.
+---
+
+## Résultats
+
+<div class="flex items-center w-full bg-black">
+  <img src="/assets/result_surface_variations.gif" class="m-auto w-full">
+  <img src="/assets/result_points_variations.gif" class="m-auto w-full">
+</div>
+
+<!--
+On peut aussi conditonner via la cfg.
+Problème, on est incapable de voir visuellement la différence entre une aube conditionné, là par exemple toutes ces aubes sont conditonnés sur le même critère physqiue, et ça se voit pas trop. Une solution ça serait de passer nos générateurs dans le simu, mais trop long. Donc on va utiliser des modèles de regression.
 -->
 
 ---
@@ -257,9 +282,11 @@ Problème, on est incapable de voir visuellement la différence entre une aube c
 <a href="https://distill.pub/2019/visual-exploration-gaussian-processes/" class="absolute bottom-0 font-extralight mb-1 mr-2 right-0 text-xs">Distill</a>
 
 <!--
-Donc on pourrait très bien entrainer un réseau de neurones pour faire la regression entre nos nuage de points (ou leur représentation latente, modes pca) et le critère de performances. Mais on a un peu la flemme, donc on peut utiliser des méthodes non paramétriques, telles que les GP.
+On pourrait entrainer un réseau de neurones pour faire regression entre nuage de points et critère de perf. Mais y'a plus simples.
 
-Les GP c'est des méthodes à noyau, probibilitiques. On a entre autre l'avantage d'avoir des intervals de confiances (diagramme saucisse) et aussi l'avantage que plus on met de données dans le modèles, plus celui-ci est précis (mathématiquement, pas juste comme en deep learning, où c'est un peu empirique).
+Les GP c'est des méthodes à noyau, probibilitiques. Avantage:
+* fournir des intervals de confiance
+* bien moins paramétriques (on cherche juste un noyau).
 -->
 
 ---
@@ -272,11 +299,9 @@ Les GP c'est des méthodes à noyau, probibilitiques. On a entre autre l'avantag
 </div>
 
 <!--
-Donc on peut utiliser des GPs.
+Donc on peut utiliser des GPs pour relation modes pca et perfs.
 
-Ces deux figures c'est juste pour illustrer que la précision du GP varie proportionnelement aux nombre de modes PCA que l'on utilise. Donc on voit ici qu'une 30 de modes PCA suffisent, et ça on le détermine en calculant de coefficient de détermination entre les prédictions du GP et ce qu'il devrait prédire (sur des données de test). On observe qu'on prédit bien en gros y=x donc, le GP est capable de trouver une relation entre les modes PCA et les performances.
+On s'assure juste que leurs prédictions sont correctes par rapport à des données de test, ici coeff détermination ~= 1 donc correct.
-
-q2 = r2 = Coefficient de détermination
 -->
 
 ---
@@ -289,7 +314,7 @@ q2 = r2 = Coefficient de détermination
 </div>
 
 <!--
-Maintenant si on rajoute en orange nos données générés on va pouvoir observer si celle-ci sont là ou elles devraient êtres.
+Maintenant, vérifier conditionnement génération (orange).
 
 Figure du haut, on conditionne selon out_massflow, on le fait varier entre -2 et 2 (visible dans le titre) et si on regarde la distribution des prédictions on observe que ça suit bien le conditonnement.
 
@@ -301,16 +326,16 @@ Figure du bas, on fait pareil pour l'isentropic_efficiency, mais entre -3 et 3.
 ## Vérification par Gaussian Process (GP)
 
 <div class="flex flex-col items-center h-100">
-  <img src="/assets/gp_guidance.gif" class="m-auto w-full">
   <img src="/assets/gp_double.gif" class="m-auto w-full">
+  <img src="/assets/gp_guidance.gif" class="m-auto w-full">
 </div>
 
 <!--
 Encore d'autres figures
 
-La figure du haut montre comment on peut régler le conditionnement, on peut faire varier la guidance gamma, et donc on observe la distribution se concentrer progressivement.
+Figure du haut, on conditionne sur deux trucs en même temps, ça marche plutot bien.
 
-Figure du bas, on conditionne sur deux trucs en même temps, ça marche plutot bien.
+La figure du bas, montre comment on peut régler le conditionnement, on peut faire varier la guidance gamma, et donc on observe la distribution se concentrer progressivement.
 -->
 
 ---
@@ -327,7 +352,7 @@ Figure du bas, on conditionne sur deux trucs en même temps, ça marche plutot b
 
 ### Axes d'amélioration
 
-- Vérifier le conditonnement par simulation CFD
+- Vérifier le conditionnement par simulation CFD
 - Remplacer la PCA par une méthode paramétrique
 - Travailler directement sur les CAOs
 - Tester des méthodes par RL
@@ -366,7 +391,7 @@ Figure du bas, on conditionne sur deux trucs en même temps, ça marche plutot b
 
 ---
 
-<style>
+<style scoped>
 p {
   height: 100%;
 }
@@ -378,3 +403,5 @@ p {
   width="100%"
   height="100%"
 />
+
+<a href="/projet-fin-etude/rapport.pdf" class="absolute bottom-0 font-extralight mb-1 mr-2 right-0 text-xs">Link to PDF</a>