Un modèle apprend ce qu’on lui montre. La labellisation de données est le travail qui décide de ce qu’il verra, et ce travail se joue davantage dans les décisions prises avant la première image que dans le geste de celui qui annote.
Cet article ouvre un parcours consacré à cette activité et à ses conditions.
Ce que recouvre cette activité
Cinq opérations composent un projet de labellisation de données. La définition de ce qui doit être décrit et à quel niveau. La rédaction du référentiel qui tranche les cas ambigus. La production elle-même, conduite par des opérateurs formés. Le contrôle mesurant ce que le résultat vaut réellement. Et la livraison dans un format que la chaîne du client sait lire. Une conséquence pratique importante en découle. Seule la troisième opération est visible depuis l’extérieur, ce qui conduit à comparer des prestations sur leur part la moins déterminante.Ce que la modalité change
Cinq familles de données appellent des méthodes de labellisation distinctes. L’image fixe, où l’objet se désigne par une simple géométrie. La vidéo, qui ajoute la continuité entre les instants. Le texte, où la frontière entre deux segments se discute. L’audio, où le repère devient purement temporel. Et les données tridimensionnelles, qui décrivent une scène entière. Une observation importante en découle pour un projet de labellisation de données. Ces cinq familles partagent les mêmes difficultés de fond, la convention à écrire et l’omission à mesurer revenant partout, ce qui rend l’expérience acquise sur une modalité largement transposable aux autres.Ce que le référentiel détermine
Cinq points se décident avant toute production de labellisation de données. Le périmètre exact de ce qui doit être décrit. Les classes retenues ainsi que leur frontière mutuelle. Le traitement des cas où la donnée reste ambiguë. Le seuil en deçà duquel un élément n’est pas décrit. Et la conduite à tenir devant un cas non prévu. Une conséquence pratique s’ensuit. Le dernier point manque presque toujours et pèse le plus lourd, un référentiel silencieux sur les cas nouveaux laissant chaque opérateur inventer sa propre règle.Ce que l’opérateur apporte réellement
Cinq compétences distinguent un annotateur formé d’un exécutant. La lecture rapide d’une consigne ainsi que sa mémorisation. La reconnaissance immédiate des cas déjà tranchés. Le réflexe de signaler un cas nouveau plutôt que d’inventer. La régularité du geste maintenue sur des milliers d’éléments. Et la conscience de sa propre baisse de régime. Une conséquence pratique importante en découle pour un projet de labellisation de données. La troisième compétence protège la cohérence de tout le corpus, un opérateur tranchant seul un cas non prévu créant une convention parallèle que personne ne connaît, ce qui produit un travail cohérent par personne et incohérent globalement.Ce que la mesure doit établir
Cinq indicateurs décrivent la qualité d’un corpus labellisé. La proportion d’éléments présents et non décrits. La proportion d’éléments décrits sans exister. La justesse des catégories effectivement attribuées. L’accord entre deux opérateurs sur les mêmes données. Et la cohérence du traitement des cas limites. Une observation en découle. Le premier indicateur est le plus coûteux à produire et le plus utile, l’omission n’apparaissant que si quelqu’un reprend les mêmes données, ce qui explique son absence fréquente des rapports.Ce que le coût recouvre
Cinq postes composent le prix d’un travail de labellisation de données. Le cadrage initial, référentiel et premiers arbitrages compris. La formation des opérateurs à ce référentiel précis. La production, seul poste que le tarif rend visible. Le contrôle ainsi que les reprises qu’il déclenche. Et la livraison, conversion et documentation comprises. Une conséquence pratique importante en découle. Quatre postes sur cinq disparaissent derrière le tarif unitaire, ce qui permet à deux devis affichant le même prix de recouvrir des prestations très différentes.Aborder un projet de labellisation
Cinq questions cadrent un projet de labellisation de données. Que doit-on décrire exactement. Le périmètre décide du reste. Le référentiel est-il écrit. Sinon chacun l’inventera. L’omission est-elle mesurée. Elle reste invisible autrement. Quel format attend la chaîne. Il se demande avant. Et le corpus servira-t-il plusieurs usages. Cela change tout. Ces cinq réponses déterminent la valeur du corpus produit. Les poser avant la production évite un travail que rien ne permettra de vérifier.Ce que ce chapitre enseigne
Une observation transversale mérite de clore cette ouverture. La partie visible du travail est la moins déterminante. Trois constats la composent. Seule la production se voit depuis l’extérieur d’une prestation. Un référentiel silencieux laisse chaque opérateur inventer sa règle. Et l’omission ne se révèle qu’en reprenant les mêmes données. Ce constat ouvre les quatorze chapitres suivants, chacun revenant sur un aspect que la simplicité apparente de cette activité fait négliger.Les erreurs les plus fréquentes
- Comparer deux prestations sur le seul prix unitaire.
- Lancer la production sans référentiel écrit.
- Mesurer la qualité sans mesurer l’omission.
- Découvrir le format attendu après la production.
- Négliger la conduite à tenir devant un cas non prévu.
- Supposer que deux opérateurs décriront la même chose.
- Confondre volume produit et valeur du corpus.
- Livrer un corpus sans sa documentation.
- Estimer un volume sans avoir compté sur un échantillon.
- Traiter le cadrage comme une formalité préalable.
Ce que le format de livraison exige
Cinq éléments accompagnent utilement un corpus livré. Le format employé ainsi que la convention qui lui est associée. La correspondance entre codes et catégories. Le référentiel appliqué pendant la production. Le traitement réservé aux données sans élément à décrire. Et les mesures de qualité obtenues sur un échantillon. Une observation importante en découle pour un projet de labellisation de données. Le troisième élément se néglige presque toujours et vaut cher, un corpus livré sans son référentiel devenant inexploitable pour qui voudra l’étendre plus tard, ce qui transforme un document interne en pièce livrable à part entière.Ce que le corpus doit couvrir
Cinq axes structurent un jeu de données labellisé. Les situations courantes, qui servent de référence. Les cas difficiles, où la convention s’éprouve. Les catégories rares, systématiquement sous-représentées. Les conditions d’acquisition les plus défavorables. Et les données ne contenant aucun élément à décrire. Une conséquence pratique importante en découle pour un projet de labellisation de données. Le dernier axe se néglige presque toujours, un corpus composé uniquement de données riches produisant un système enclin à trouver partout ce qu’on lui a appris à chercher, ce qui se corrige en incluant délibérément des exemples vides.Trois décisions avant de produire
Trois décisions engagent un projet de labellisation de données. Écrire un référentiel qui tranche plutôt qu’un document qui décrit. Prévoir un dispositif capable de mesurer l’omission. Et obtenir du client le format attendu par sa chaîne de traitement. Ces trois décisions coûtent quelques jours, elles précèdent la première donnée traitée, et leur absence produit un corpus dont la valeur restera inconnue.La question qui cadre le projet
Une question détermine l’ampleur d’un projet de labellisation de données. Le corpus servira-t-il un usage précis ou plusieurs usages successifs. Un usage précis autorise le niveau de description le plus économique que le besoin tolère, le corpus disparaissant avec le modèle qu’il aura servi. Plusieurs usages justifient une description plus riche, chaque emploi ultérieur pouvant l’appauvrir vers ce dont il a besoin alors que l’inverse est impossible. Cette question relève de l’ambition du client et non du besoin immédiat, elle se pose avant la première donnée, et elle sépare une économie ponctuelle d’un actif réutilisable.Trois vérifications sur un corpus existant
Trois contrôles qualifient un jeu de données déjà labellisé. La présence du référentiel appliqué pendant la production. L’existence d’une mesure d’omission distincte des autres indicateurs. Et l’indication du taux d’accord entre deux opérateurs. Ces trois contrôles se posent en une question chacun, ils ne demandent aucune compétence technique, et leur absence indique un corpus dont la cohérence repose sur des habitudes plutôt que sur une règle.Ce que le prestataire apporte ici
Quatre apports distinguent une prestation de labellisation de données sérieuse. Un référentiel écrit avant la production plutôt qu’après. Une mesure de l’omission publiée plutôt que passée sous silence. Une couverture délibérée des cas difficiles du corpus. Et une documentation remise avec les données livrées. Une conséquence pratique importante en découle. Le deuxième apport dessert le prestataire en apparence, un taux d’omission publié faisant nécessairement moins bonne figure qu’un chiffre flatteur, alors qu’il désigne la seule mesure que le client ne peut obtenir autrement et fonde une confiance qu’aucun indicateur avantageux ne construit.Ce que le premier lot doit établir
Quatre résultats justifient un lot d’essai avant la production. Le nombre moyen d’éléments à décrire par unité de données. Le taux d’accord obtenu entre deux opérateurs. La liste des cas que le référentiel ne tranchait pas. Et le temps réel passé sur un échantillon représentatif. Une observation importante en découle pour un projet de labellisation de données. Le troisième résultat vaut davantage que les autres au démarrage, chaque cas remonté devenant une règle écrite qui ne se posera plus, ce qui fait du premier lot un exercice de rédaction du référentiel autant qu’une mesure de cadence.Ce que l’automatisation déplace
Quatre effets accompagnent une proposition produite par un modèle. Le volume traité manuellement diminue sur les cas courants. La vérification remplace partiellement la description. Les éléments que l’outil ignore restent presque toujours ignorés. Et la convention du modèle s’impose silencieusement au corpus. Une conséquence pratique importante en découle pour un projet de labellisation de données. Le troisième effet aggrave le défaut principal de cette activité, un opérateur vérifiant des propositions cessant de chercher ce qu’aucune proposition ne signale, ce qui concentre les omissions sur la population qui en souffrait déjà le plus.Ce que ce parcours va traiter
Quatre familles de questions occupent les chapitres suivants. Les modalités de données et les méthodes qu’elles appellent. L’organisation du travail, des équipes et des compétences. Les aspects opérationnels, coût, qualité, consignes et sécurité. Et les évolutions, automatisation, données synthétiques et tendances. Une observation importante en découle pour un projet de labellisation de données. Ces quatre familles reviennent toutes sur des décisions prises avant la production, ce qui explique qu’une activité réputée simple occupe quinze chapitres alors que son geste central s’apprend en une heure.Trois erreurs propres à cette activité
Trois défauts de labellisation de données tiennent à sa nature même. Une convention laissée implicite parce qu’elle paraissait évidente. Un élément omis, invisible dans le livrable comme dans la mesure. Et un corpus livré sans le document qui explique ce qu’il contient. Ces trois défauts ne se voient pas sur un exemple isolé, ils se révèlent au moment où le corpus sert, et leur point commun est de porter sur ce qui entoure la donnée plutôt que sur la donnée elle-même.Ce que le client doit fournir
Quatre éléments viennent du client plutôt que du prestataire. L’usage final auquel le corpus est destiné. La définition métier de chaque catégorie du référentiel. Les cas qu’il sait déjà ambigus dans son domaine. Et un échantillon de données pris au hasard plutôt que choisi. Une conséquence pratique importante en découle pour un projet de labellisation de données. Le dernier élément décide de tout le chiffrage, un échantillon soigneusement sélectionné montrant des données propres alors que le corpus réel comporte des cas bien plus lourds, ce qui produit une estimation juste sur des données qui ne seront jamais traitées.Ce que l’organisation du travail décide
Cinq choix pèsent autant que la compétence des opérateurs. La durée des sessions et le rythme des pauses. La répartition des lots entre les personnes. Le circuit permettant de remonter un cas nouveau. Le délai de réponse sur les cas remontés. Et la diffusion des décisions à toute l’équipe. Une observation importante en découle pour un projet de labellisation de données. Le quatrième choix conditionne tous les autres, un opérateur qui attend plusieurs jours une réponse tranchant seul en attendant, ce qui produit un précédent que la décision ultérieure viendra contredire sans que personne ne reprenne le travail déjà fait.Ce que cette activité a de particulier
Quatre traits distinguent la labellisation de données d’autres prestations. Son geste central s’apprend en une heure et se maîtrise lentement. Sa qualité ne se lit pas sur le livrable qu’elle produit. Son coût unitaire faible pousse à traiter de très grands volumes. Et sa valeur se décide avant que le travail ne commence. Une conséquence pratique importante en découle pour un projet de labellisation de données. Ces quatre traits se combinent défavorablement, une activité facile menée sur de gros volumes sans cadrage écrit produisant une incohérence massive et peu visible, ce qui explique que les corpus les plus décevants soient souvent les plus simples à produire.Ce que le contrôle doit viser
Cinq dispositifs composent un contrôle utile. Une double description d’une fraction du corpus. Un tri des écarts entre divergence de convention et erreur. Une relecture ciblée sur les cas proches du seuil. Un suivi des indicateurs au fil des lots plutôt qu’à la fin. Et une exploitation des divergences pour corriger le référentiel. Une observation importante en découle pour un projet de labellisation de données. Le dernier dispositif transforme la nature du contrôle, chaque divergence relevée fournissant une correction gratuite du référentiel, ce qui en fait un outil de cadrage autant qu’un outil de vérification.Ce que la sécurité impose ici
Quatre exigences accompagnent des données sensibles. Un accès restreint aux seules personnes affectées au projet. Une traçabilité des consultations et des exports. Un engagement de confidentialité signé par chaque opérateur. Et une destruction documentée des données à la fin du projet. Une conséquence pratique importante en découle pour un projet de labellisation de données. La quatrième exigence se néglige souvent et se contrôle mal, une copie oubliée sur un poste de travail suffisant à vider les trois autres de leur portée, ce qui rend la procédure de sortie aussi importante que celle d’entrée.Ce que l’échelle change
Quatre effets accompagnent un projet de grande ampleur. Le cadrage se répartit sur un volume bien supérieur. La dispersion entre opérateurs croît avec leur nombre. Le contrôle doit se resserrer pour compenser cette dispersion. Et la formation d’un renfort devient une opération fréquente. Une observation importante en découle pour un projet de labellisation de données. Le dernier effet rend le référentiel déterminant, un document abouti permettant d’intégrer un opérateur en quelques jours là où un document flou impose des semaines, ce qui décide de la capacité réelle à absorber une montée en charge.Trois questions à poser avant de chiffrer
Trois questions précèdent tout devis de labellisation de données. Combien d’éléments comporte en moyenne une unité de données. Sur quel échantillon ce comptage a-t-il été effectué. Et quelle fraction du corpus le contrôle couvrira-t-il. Ces trois questions se posent en quelques minutes, elles demandent l’examen d’un échantillon réel, et leur absence conduit à s’engager sur un périmètre que ni le client ni le prestataire n’a vérifié.Ce que le corpus devient après le projet
Quatre usages lui survivent une fois la livraison faite. Il sert de base à un modèle successeur. Il permet d’évaluer un système que personne n’avait prévu. Il documente des conventions que plus personne ne se rappelle. Et il s’étend si sa cohérence a été préservée. Une conséquence pratique importante en découle pour un projet de labellisation de données. Le dernier usage dépend entièrement de décisions prises au départ, un corpus produit sans référentiel écrit ne pouvant plus être étendu sans rompre sa cohérence, ce qui transforme une économie initiale en dépense bien supérieure quelques années plus tard.Ce que ce chapitre suppose du prestataire
Quatre pratiques distinguent un prestataire de labellisation de données sérieux. Écrire un référentiel avant que le client ne le demande. Publier l’indicateur le moins flatteur plutôt que le plus présentable. Refuser un engagement sur un volume jamais échantillonné. Et livrer la documentation sans attendre qu’on la réclame. Une observation importante en découle. Ces quatre pratiques coûtent peu et ne se remarquent qu’au second projet, un client ayant déjà travaillé avec un prestataire moins rigoureux reconnaissant immédiatement la différence, ce qui rend cette exigence plus commerciale qu’elle n’en a l’air.Ce que ce chapitre laisse au suivant
Chaque type de donnée pose ces questions à sa manière. Trois questions restent ouvertes en labellisation de données. Ce qu’une image demande que le texte ne demande pas. Pourquoi l’audio et la vidéo déplacent le repère vers le temps. Et ce qui reste commun à toutes les modalités. Ces trois questions relèvent du panorama par modalité, qui constitue l’objet du chapitre suivant.Ce que ce guide établit
Quatre principes traversent l’ensemble de ce parcours. Ce qui se décide avant la production détermine ce qu’elle atteindra. Un défaut invisible dans le livrable coûte plus qu’un défaut visible. Une mesure globale masque toujours un échec sur une population. Et un corpus sans documentation perd sa valeur avec la mémoire de l’équipe. Une conséquence pratique importante en découle. Ces quatre principes portent sur le cadrage et la mesure plutôt que sur l’exécution, ce qui les rend insensibles aux évolutions techniques et explique qu’ils s’appliquent identiquement à toutes les modalités traitées dans les chapitres suivants.Ce qu’il faut retenir
La valeur d’un corpus se décide avant que la production ne commence. Trois lectures se dégagent. Seule la production est visible depuis l’extérieur d’une prestation, ce qui conduit à comparer des offres sur leur part la moins déterminante et rend le prix unitaire trompeur. Un référentiel silencieux sur les cas nouveaux laisse chaque opérateur inventer sa propre règle, ce qui produit une dispersion que rien dans le livrable ne signalera. Et l’omission ne se révèle qu’en reprenant les mêmes données, ce qui explique son absence fréquente des rapports et en fait le défaut le plus coûteux de cette activité. Pour le détail par type de donnée, l’article consacré aux modalités de labellisation l’expose. Pour l’organisation du travail, l’article sur le choix entre internalisation et externalisation le détaille. Pour approfondir les modalités d’exécution, les formats pris en charge et les dispositifs de contrôle applicables, vous pouvez consulter notre page dédiée à l’annotation 2D et 3D. Et si vous préparez un projet de labellisation, échangeons sur votre besoin. Un modèle apprend ce qu’on lui montre. La labellisation de données est le travail qui décide de ce qu’il verra, et ce travail se joue davantage dans les décisions prises avant la première image que dans le geste de celui qui annote. Cet article ouvre un parcours consacré à cette activité et à ses conditions.Ce que recouvre cette activité
Cinq opérations composent un projet de labellisation de données. La définition de ce qui doit être décrit et à quel niveau. La rédaction du référentiel qui tranche les cas ambigus. La production elle-même, conduite par des opérateurs formés. Le contrôle mesurant ce que le résultat vaut réellement. Et la livraison dans un format que la chaîne du client sait lire. Une conséquence pratique importante en découle. Seule la troisième opération est visible depuis l’extérieur, ce qui conduit à comparer des prestations sur leur part la moins déterminante.Ce que la modalité change
Cinq familles de données appellent des méthodes de labellisation distinctes. L’image fixe, où l’objet se désigne par une simple géométrie. La vidéo, qui ajoute la continuité entre les instants. Le texte, où la frontière entre deux segments se discute. L’audio, où le repère devient purement temporel. Et les données tridimensionnelles, qui décrivent une scène entière. Une observation importante en découle pour un projet de labellisation de données. Ces cinq familles partagent les mêmes difficultés de fond, la convention à écrire et l’omission à mesurer revenant partout, ce qui rend l’expérience acquise sur une modalité largement transposable aux autres.Ce que le référentiel détermine
Cinq points se décident avant toute production de labellisation de données. Le périmètre exact de ce qui doit être décrit. Les classes retenues ainsi que leur frontière mutuelle. Le traitement des cas où la donnée reste ambiguë. Le seuil en deçà duquel un élément n’est pas décrit. Et la conduite à tenir devant un cas non prévu. Une conséquence pratique s’ensuit. Le dernier point manque presque toujours et pèse le plus lourd, un référentiel silencieux sur les cas nouveaux laissant chaque opérateur inventer sa propre règle.Ce que l’opérateur apporte réellement
Cinq compétences distinguent un annotateur formé d’un exécutant. La lecture rapide d’une consigne ainsi que sa mémorisation. La reconnaissance immédiate des cas déjà tranchés. Le réflexe de signaler un cas nouveau plutôt que d’inventer. La régularité du geste maintenue sur des milliers d’éléments. Et la conscience de sa propre baisse de régime. Une conséquence pratique importante en découle pour un projet de labellisation de données. La troisième compétence protège la cohérence de tout le corpus, un opérateur tranchant seul un cas non prévu créant une convention parallèle que personne ne connaît, ce qui produit un travail cohérent par personne et incohérent globalement.Ce que la mesure doit établir
Cinq indicateurs décrivent la qualité d’un corpus labellisé. La proportion d’éléments présents et non décrits. La proportion d’éléments décrits sans exister. La justesse des catégories effectivement attribuées. L’accord entre deux opérateurs sur les mêmes données. Et la cohérence du traitement des cas limites. Une observation en découle. Le premier indicateur est le plus coûteux à produire et le plus utile, l’omission n’apparaissant que si quelqu’un reprend les mêmes données, ce qui explique son absence fréquente des rapports.Ce que le coût recouvre
Cinq postes composent le prix d’un travail de labellisation de données. Le cadrage initial, référentiel et premiers arbitrages compris. La formation des opérateurs à ce référentiel précis. La production, seul poste que le tarif rend visible. Le contrôle ainsi que les reprises qu’il déclenche. Et la livraison, conversion et documentation comprises. Une conséquence pratique importante en découle. Quatre postes sur cinq disparaissent derrière le tarif unitaire, ce qui permet à deux devis affichant le même prix de recouvrir des prestations très différentes.Aborder un projet de labellisation
Cinq questions cadrent un projet de labellisation de données. Que doit-on décrire exactement. Le périmètre décide du reste. Le référentiel est-il écrit. Sinon chacun l’inventera. L’omission est-elle mesurée. Elle reste invisible autrement. Quel format attend la chaîne. Il se demande avant. Et le corpus servira-t-il plusieurs usages. Cela change tout. Ces cinq réponses déterminent la valeur du corpus produit. Les poser avant la production évite un travail que rien ne permettra de vérifier.Ce que ce chapitre enseigne
Une observation transversale mérite de clore cette ouverture. La partie visible du travail est la moins déterminante. Trois constats la composent. Seule la production se voit depuis l’extérieur d’une prestation. Un référentiel silencieux laisse chaque opérateur inventer sa règle. Et l’omission ne se révèle qu’en reprenant les mêmes données. Ce constat ouvre les quatorze chapitres suivants, chacun revenant sur un aspect que la simplicité apparente de cette activité fait négliger.Les erreurs les plus fréquentes
- Comparer deux prestations sur le seul prix unitaire.
- Lancer la production sans référentiel écrit.
- Mesurer la qualité sans mesurer l’omission.
- Découvrir le format attendu après la production.
- Négliger la conduite à tenir devant un cas non prévu.
- Supposer que deux opérateurs décriront la même chose.
- Confondre volume produit et valeur du corpus.
- Livrer un corpus sans sa documentation.
- Estimer un volume sans avoir compté sur un échantillon.
- Traiter le cadrage comme une formalité préalable.