Rédiger des consignes d’annotation

Une consigne d’annotation se juge à un seul critère : deux opérateurs qui la lisent doivent tracer la même chose. Ce critère paraît modeste et la plupart des référentiels y échouent, non par négligence mais parce qu’ils décrivent au lieu de trancher.Cet article expose cette rédaction. Il prolonge l’article consacré aux erreurs qui dégradent un détecteur.

Ce qu’une consigne doit trancher

Six points doivent être décidés dans un référentiel de bounding box.Ce que la boîte doit contenir exactement.Le traitement des parties cachées ainsi que des objets coupés.Le seuil de taille précis en deçà duquel un objet s’ignore.La règle applicable à un objet dont la classe demeure incertaine.L’écart maximal toléré entre deux annotations du même objet.Et la conduite à tenir devant un cas que rien n’avait prévu.Une conséquence pratique importante en découle. Le dernier point manque presque toujours et détermine le reste, un référentiel silencieux sur les cas nouveaux laissant chaque opérateur inventer sa propre règle, ce qui produit exactement les biais décrits au chapitre précédent.

Ce qu’une consigne ne doit pas faire

Cinq travers rendent un référentiel de bounding box inapplicable.Décrire l’objet plutôt que de dire comment le tracer.Employer des termes qui admettent visiblement deux lectures.Renvoyer au bon sens plutôt que de trancher explicitement.Multiplier les règles au point qu’aucune d’elles ne se retienne.Et illustrer uniquement les cas les plus faciles.Une observation importante en découle pour un projet de bounding box. Le troisième travers est le plus répandu, une consigne demandant d’entourer l’objet au plus juste ne disant rien de vérifiable, ce qui laisse la règle à l’appréciation de chacun tout en donnant l’illusion d’avoir été écrite.

Ce que l’exemple visuel transmet

Quatre propriétés distinguent une image annotée d’un simple paragraphe.Elle n’admet jamais qu’une seule lecture.Elle se consulte en une seconde au cours même du travail.Elle montre le cas limite au lieu de chercher à le décrire.Et elle se compare directement au tracé en cours de réalisation.Une conséquence pratique s’ensuit. Ces quatre propriétés rendent quelques images plus efficaces que plusieurs pages, un exemple annoté valant règle sans qu’aucune formulation ne vienne s’interposer, ce qui explique qu’un référentiel bref et illustré surpasse régulièrement un référentiel long et rédigé.

Ce que le test d’une consigne établit

Quatre observations découlent d’un référentiel éprouvé avant la production.Deux opérateurs annotent les mêmes images sans jamais se concerter.Les divergences constatées désignent les phrases à réécrire.Les questions posées désignent les points purement absents.Et le temps passé révèle les règles bien trop coûteuses à appliquer.Une conséquence pratique importante en découle pour un projet de bounding box. La troisième observation vaut autant que la deuxième, chaque question d’opérateur signalant un vide que la rédaction avait laissé sans qu’aucun désaccord n’en révèle l’existence, ce qui rend l’écoute aussi utile que la comparaison des tracés.

Ce que la structure d’un référentiel suppose

Cinq parties composent un document de bounding box réellement utilisable.Le rappel de l’usage final auquel le corpus se trouve destiné.La définition de chaque classe accompagnée d’un exemple.Les règles de tracé, illustrées plutôt que simplement décrites.Le catalogue de tous les cas limites déjà tranchés.Et la conduite à tenir devant un cas encore absent du catalogue.Une observation en découle. La première partie se néglige et change la qualité des arbitrages, un opérateur comprenant à quoi servira le corpus tranchant bien mieux les cas nouveaux qu’un opérateur appliquant des règles sans en connaître la destination.

Ce que le catalogue de cas limites devient

Quatre propriétés caractérisent cette partie du référentiel.Elle est vide au démarrage et s’enrichit ensuite chaque semaine.Elle grandit vite au début puis se stabilise.Chaque entrée règle définitivement un cas déjà rencontré.Et elle constitue à terme le coeur même du document.Une conséquence pratique importante en découle pour un projet de bounding box. La deuxième propriété donne un indicateur d’avancement précieux, un catalogue qui continue de croître au même rythme après plusieurs semaines signalant un cadrage initial insuffisant plutôt qu’un corpus particulièrement varié.

Aborder la rédaction d’un référentiel

Cinq questions cadrent cette rédaction sur un projet de bounding box.L’usage final est-il rappelé. Il guide les arbitrages.Les règles sont-elles illustrées. Le texte seul ne suffit pas.Les cas limites sont-ils catalogués. Ils reviendront.Le cas non prévu est-il traité. C’est le point manquant.Et le document tient-il en peu de pages. Sinon il ne sera pas lu.Ces cinq réponses déterminent l’applicabilité du référentiel. Les poser avant la production évite un document que personne n’ouvrira deux fois.

Ce que ce chapitre enseigne

Une observation transversale mérite de clore cet examen.Une consigne se juge à ce qu’elle tranche, non à ce qu’elle décrit.Trois constats la composent.Un référentiel silencieux sur les cas nouveaux laisse chacun inventer sa règle.Une consigne demandant d’entourer au plus juste ne dit rien de vérifiable.Et un exemple annoté vaut règle sans qu’aucune formulation ne s’interpose.Ce constat prolonge le chapitre précédent, la plupart des biais coûteux remontant à une phrase que personne n’a jugée ambiguë.

Les erreurs les plus fréquentes

  • Décrire l’objet au lieu de dire comment le tracer.
  • Renvoyer au bon sens plutôt que trancher explicitement.
  • Illustrer uniquement les cas faciles.
  • Omettre la conduite à tenir devant un cas non prévu.
  • Rédiger un document trop long pour être consulté.
  • Négliger le rappel de l’usage final du corpus.
  • Laisser un cas limite tranché oralement sans l’écrire.
  • Figer le référentiel au démarrage sans le faire vivre.
  • Employer des termes admettant plusieurs lectures.
  • Diffuser une version corrigée sans signaler ce qui a changé.

Ce que la révision d’un référentiel impose

Cinq précautions accompagnent toute modification en cours de projet.Dater la version et conserver toutes les précédentes.Signaler explicitement tout ce qui vient de changer.Préciser si les lots antérieurs se trouvent concernés.Prévenir tous les opérateurs de façon simultanée.Et vérifier l’application effective du changement sur le lot suivant.Une observation importante en découle pour un projet de bounding box. La troisième précaution évite un mélange coûteux, un référentiel modifié sans dire si l’ancien travail doit être repris produisant un corpus régi par deux conventions superposées, ce qui reproduit exactement le défaut que la révision voulait corriger.

Ce que la longueur du document change

Quatre effets accompagnent un référentiel qui s’allonge.La consultation en cours de travail devient tout à fait improbable.Les règles importantes se noient parmi une foule de précisions mineures.Les contradictions internes deviennent bien difficiles à repérer.Et la mise à jour se complique à mesure que le texte grossit.Une conséquence pratique importante en découle pour un projet de bounding box. Ces quatre effets plaident pour une séparation nette, quelques pages de règles à mémoriser tenant à part d’un catalogue de cas à consulter, ce qui préserve la lisibilité de l’un pendant que l’autre grossit librement.

Trois décisions avant de rédiger

Trois décisions engagent un référentiel de bounding box.Séparer les règles à mémoriser du catalogue destiné à la consultation.Illustrer chaque règle plutôt que de se contenter de la décrire.Et écrire dès le départ la conduite à tenir devant un cas non prévu.Ces trois décisions coûtent une matinée, elles précèdent la première image, et leur absence produit un document que les opérateurs cesseront d’ouvrir dès la deuxième semaine.

La question qui cadre la rédaction

Une question détermine la forme utile d’un référentiel de bounding box.Le document servira-t-il à former ou à trancher pendant le travail.Former suppose un texte suivi, expliquant l’usage final et la logique des règles, lu une fois au démarrage puis rarement rouvert.Trancher suppose un catalogue consultable en quelques secondes, organisé par cas plutôt que par thème, ouvert plusieurs fois par jour.Cette question relève du moment où le document est utilisé, elle se pose avant d’écrire la première ligne, et elle explique pourquoi un référentiel unique échoue régulièrement aux deux usages.

Trois vérifications sur un référentiel

Trois contrôles qualifient une consigne de bounding box.La présence d’exemples visuels associés à chaque règle de tracé.L’existence d’une conduite à tenir devant un cas non prévu.Et la date de la dernière révision apportée au catalogue de cas.Ces trois contrôles se posent en une question chacun, ils ne demandent aucune compétence technique, et leur absence indique un document qui produira des divergences que personne ne saura expliquer.

Ce que le prestataire apporte ici

Quatre apports distinguent un référentiel de bounding box professionnel.Une première version rédigée avant la production plutôt qu’après coup.Un catalogue de cas alimenté par les remontées des opérateurs.Un test du référentiel mené sur un lot avant de le figer.Et une remise du document au client avec le corpus.Une conséquence pratique importante en découle. Le dernier apport se néglige et vaut cher, un corpus livré sans son référentiel devenant inexploitable pour qui voudra l’étendre plus tard, ce qui transforme un document de travail interne en pièce livrable à part entière.

Ce que la remontée des opérateurs apporte

Quatre conditions rendent ce circuit efficace.Un moyen simple de signaler un cas sans avoir à interrompre le travail.Un délai de réponse court sur les cas remontés.Une décision consignée par écrit plutôt qu’une réponse orale.Et une diffusion immédiate de cette décision à toute l’équipe.Une observation importante en découle pour un projet de bounding box. La deuxième condition détermine tout le reste, un opérateur qui attend plusieurs jours une réponse tranchant seul en attendant, ce qui produit un précédent que la décision ultérieure viendra contredire sans que personne ne reprenne le travail déjà fait.

Ce que ce chapitre laisse au suivant

Une consigne bien écrite s’applique aussi aux propositions d’un outil.Trois questions restent ouvertes en bounding box.Ce qu’une pré-annotation fait gagner et ce qu’elle fait perdre.Pourquoi une proposition impose sa propre convention au corpus.Et comment contrôler un travail devenu une vérification.Ces trois questions relèvent de la pré-annotation, qui constitue l’objet du chapitre suivant.

Trois erreurs propres à la rédaction

Trois défauts de bounding box tiennent au référentiel lui-même.Une règle formulée sans qu’aucune image ne l’illustre.Un cas tranché oralement et jamais consigné par écrit.Et un document dont la longueur décourage toute consultation.Ces trois défauts ne se voient pas dans le document, ils se révèlent dans la dispersion des annotations produites, et leur point commun est de laisser une règle exister sans qu’elle soit réellement transmise.

Ce que le client doit fournir ici

Quatre éléments viennent du client plutôt que du prestataire.La définition métier propre à chaque classe du référentiel.Les cas qu’il sait déjà ambigus dans son propre domaine.L’usage précis auquel le corpus se trouve destiné.Et un interlocuteur capable de trancher rapidement un cas nouveau.Une conséquence pratique importante en découle pour un projet de bounding box. Le dernier élément conditionne la vitesse du projet entier, un cas remonté sans destinataire identifié restant en suspens pendant que la production continue, ce qui rend la disponibilité d’un arbitre plus déterminante que la qualité du document initial.

Ce que ce chapitre partage avec les précédents

Trois constats reviennent depuis le début du parcours.Un exemple visuel transmet une convention mieux qu’un paragraphe.Une divergence entre opérateurs désigne le référentiel plutôt qu’une faute.Et une règle non écrite se remplace par autant de règles que d’opérateurs.Une observation importante en découle pour un projet de bounding box. Ces trois constats convergent tous vers le même travail, la rédaction du référentiel apparaissant après coup comme le point où se décidait la plus grande part de ce que les autres chapitres tentaient ensuite de mesurer ou de corriger.

Ce que la formation ajoute au document

Quatre apports ne passent pas par le texte écrit.L’annotation commentée de quelques images faite devant l’opérateur.La comparaison de son propre tracé avec celui d’un relecteur.La correction immédiate des toutes premières habitudes prises.Et la découverte des cas limites directement en situation réelle.Une conséquence pratique importante en découle pour un projet de bounding box. Le troisième apport justifie à lui seul cet accompagnement, une habitude corrigée le premier jour coûtant quelques minutes alors que la même habitude découverte trois semaines plus tard aura produit un biais sur plusieurs milliers d’objets.

Ce que ce sujet a de particulier

Quatre traits distinguent la rédaction des autres chapitres du parcours.Elle coûte quelques jours et décide de plusieurs mois de travail.Elle se juge à la dispersion des annotations et non à sa propre qualité.Elle continue de s’écrire pendant toute la production.Et personne ne la réclame explicitement dans un cahier des charges.Une observation importante en découle pour un projet de bounding box. Le dernier trait explique sa fréquente absence, un client demandant des annotations et non un référentiel, ce qui laisse au prestataire la responsabilité d’un travail que rien dans la commande ne rendait obligatoire.

Ce que le référentiel devient après le projet

Quatre usages lui survivent une fois le corpus livré.Il permet d’étendre le corpus sans rompre la cohérence d’ensemble.Il explique à un tiers ce que les annotations livrées signifient.Il sert de base à un projet voisin conduit dans le même domaine.Et il documente les décisions que plus personne ne se rappelle.Une conséquence pratique importante en découle pour un projet de bounding box. Le dernier usage se révèle deux ou trois ans plus tard, une équipe renouvelée reprenant un corpus dont les conventions ne subsistent que dans ce document, ce qui en fait la pièce dont la valeur augmente à mesure que la mémoire du projet s’efface.

Trois questions à poser avant de figer une règle

Trois questions précèdent l’inscription d’une règle au référentiel.Deux personnes la liraient-elles de la même façon.Une image suffirait-elle à la remplacer.Et un opérateur pourra-t-il l’appliquer sans réfléchir.Ces trois questions se posent en une minute par règle, elles ne demandent aucune compétence particulière, et leur absence produit un document exact que personne ne parvient à appliquer de la même manière.

Ce que le référentiel change à l’économie du projet

Quatre effets se répercutent sur le budget en bounding box.La cadence progresse dès que les cas cessent d’interrompre le travail.Le taux de reprise diminue à mesure que les règles se stabilisent.Le contrôle se concentre sur les points réellement ambigus.Et la formation d’un opérateur supplémentaire raccourcit nettement.Une observation importante en découle pour un projet de bounding box. Le dernier effet compte davantage sur les gros volumes, un référentiel abouti permettant d’intégrer un renfort en quelques jours là où un référentiel flou impose des semaines, ce qui rend ce document déterminant pour la capacité à absorber une montée en charge.

Ce que ce chapitre suppose du prestataire

Quatre pratiques distinguent un référentiel vivant d’un document mort.Écrire une première version avant que le client ne la demande.Consigner chaque arbitrage plutôt que le transmettre oralement.Relire le document lorsque la dispersion augmente.Et le livrer avec le corpus sans attendre qu’on le réclame.Une conséquence pratique importante en découle. La deuxième pratique demande une discipline que rien n’impose, un arbitrage rendu en trois mots dans une conversation réglant le cas du jour sans rien régler pour la suite, ce qui explique que tant de projets répondent plusieurs fois à la même question.

Ce que l’outil peut porter du référentiel

Quatre fonctions rapprochent la règle du geste en bounding box.Un rappel de la convention affiché pendant le tracé.Un accès direct au catalogue depuis l’écran de travail.Un signalement de cas envoyé sans quitter l’image.Et une contrainte technique interdisant une boîte non conforme.Une observation importante en découle pour un projet de bounding box. La dernière fonction remplace avantageusement une règle écrite, un seuil de taille imposé par l’outil se passant de toute mémorisation, ce qui montre qu’une partie du référentiel gagne à devenir une contrainte plutôt qu’une phrase.

Ce que le référentiel ne peut pas résoudre

Quatre difficultés subsistent quelle que soit la qualité du document.Un cas réellement indécidable sur l’image reste indécidable.Une fatigue en fin de session dégrade l’application des règles.Un usage final mal défini rend tout arbitrage arbitraire.Et une classe mal choisie au départ le reste jusqu’au bout.Une conséquence pratique importante en découle pour un projet de bounding box. La première difficulté mérite d’être assumée plutôt que niée, un référentiel honnête pouvant prescrire de signaler un cas plutôt que de le trancher, ce qui vaut mieux qu’une règle inventée pour éviter d’admettre que l’image ne dit rien.

Ce que la première semaine doit produire

Quatre résultats justifient un démarrage prudent.Une dizaine de cas limites tranchés et consignés.Un premier taux d’accord mesuré entre deux opérateurs.Une liste des formulations que la relecture a révélées ambiguës.Et une version corrigée du référentiel diffusée à l’équipe.Une observation importante en découle pour un projet de bounding box. Ces quatre résultats valent mieux qu’un volume produit rapidement, une semaine consacrée à stabiliser les règles épargnant des reprises sur tout ce qui suit, ce qui rend un démarrage lent nettement plus rentable qu’un démarrage énergique.

Ce qu’il faut retenir

Un référentiel utile tranche des cas plutôt qu’il ne décrit des objets.Trois lectures se dégagent. Un référentiel silencieux sur les cas nouveaux laisse chaque opérateur inventer sa propre règle, ce qui produit précisément les biais systématiques les plus coûteux. Une consigne demandant d’entourer l’objet au plus juste ne dit rien de vérifiable, ce qui laisse la règle à l’appréciation de chacun tout en donnant l’illusion d’avoir été écrite. Et un exemple annoté vaut règle sans qu’aucune formulation ne vienne s’interposer, ce qui rend quelques images plus efficaces que plusieurs pages de texte.Pour l’automatisation, l’article consacré à la pré-annotation détaille la démarche. Pour la troisième dimension, l’article sur le passage au cuboïde l’expose.Pour approfondir les modalités d’exécution, les formats pris en charge et les dispositifs de contrôle applicables, vous pouvez consulter notre page dédiée à l’annotation 2D et 3D. Et si vous préparez un projet de détection, échangeons sur votre besoin.
Tags

Découvrez nos articles