Nettoyage des donnees

Le nettoyage transforme les fichiers importes en couches utilisables pour la conception. L’espace d’import enregistre vos choix, puis la plateforme applique le verdict.

Espace de nettoyage d'import
Le nettoyage est un verdict explicite. Les edits de mapping changent le plan; Update ou Apply lance le traitement cible.

Ordre de nettoyage

  1. Lire les donnees importees depuis le stockage du navigateur.
  2. Appliquer les choix d’inclusion, exclusion et renommage.
  3. Appliquer les remplacements exacts, y compris null.
  4. Normaliser les valeurs assimilables a null et appliquer les domaines connus.
  5. Resoudre les colonnes finales en double avec la source primaire choisie.
  6. Appliquer les regles de remplissage depuis les valeurs emises.
  7. Emettre les chunks nettoyes, puis preparer les donnees carte ou edition seulement quand c’est necessaire.

Les colonnes desactivees peuvent rester sources

Desactiver une colonne signifie qu’elle n’est pas emise comme champ final. Cela ne veut pas dire que ses valeurs sont inutiles. Une colonne desactivee peut etre retenue en prive pendant le nettoyage, normalisee par les remplacements et domaines, utilisee par une regle de remplissage, puis supprimee avant la sortie.

Le remplissage utilise les valeurs emises

Si cat1 = "poor" est mappe vers Pauvre, alors remplir cat depuis cat1 ecrit Pauvre, pas "poor". La priorite suit l’ordre des sources, et les regles en chaine se stabilisent dans le meme verdict de nettoyage.

Priorite de remplissage dans l'explorateur de valeurs
L’explorateur de valeurs previsualise les colonnes concernees : cible, priorite des sources et valeur emise. Il ne relance pas tout l’espace de travail.

Transformer des valeurs en null

Utilisez un remplacement de valeur pour emettre JSON null quand un token n’a pas de sens, par exemple UNKNOWN, N/A ou un code temporaire. Ce null est applique avant les domaines et avant les regles de remplissage, donc une autre source peut reparer la valeur manquante.

Streaming et progression

Les gros imports sont traites par chunks. La progression doit afficher la couche et le chunk courant afin qu’une operation longue ressemble a un travail actif, pas a une page bloquee. Les timeouts sont volontairement longs, car un vrai nettoyage peut prendre plusieurs minutes.

English