Approfondissement · module 69 de 100
Intégrer un contrôle humain
Assure-toi qu'il y a toujours un point de contrôle humain lors des étapes importantes.
Après cette leçon
Tu conçois un workflow avec un moment d'approbation explicite.
En image · Étape par étape
L'humain précède l'action
Le système prépare un résultat sans l'exécuter déjà.
Une personne désignée vérifie les faits, les limites et les conséquences.
L'action suit l'approbation ; en cas de doute, on retravaille ou on arrête.
Partie 1 de 3 · Proposition de l’IA
Ta préférence pour moins de mouvement est prise en compte. Choisis chaque partie toi-même.
Détermine les étapes risquées
Où une erreur peut-elle avoir de grandes conséquences ?
Intègre un moment d'arrêt
Fais en sorte que le workflow s'arrête jusqu'à ce que quelqu'un ait approuvé.
Rends-le visible
Assure-toi qu'il soit clair qui doit contrôler et ce qui doit être contrôlé.
Nouvel exemple d'exercice
De l'explication à un résultat utilisable.
Un point de contrôle humain ne fonctionne que si quelqu'un sait ce qu'il doit évaluer et peut stopper une action.
Situation d'exercice fictiveFictif : un système génère des projets d'e-mails pour les fournisseurs. Un employé doit décider s'ils peuvent être envoyés.
Voir une résolution possible
Voici comment faire
Affiche ensemble les données de la source, le destinataire, le contenu et l'action proposée. Laisse l'employé modifier, rejeter ou approuver. Sans approbation explicite, cela reste un projet.
Pourquoi cela fonctionne
Le contrôle intervient avant la conséquence et peut réellement stopper celle-ci. Détermine qui porte la responsabilité.
Rends cela un peu plus difficile
Décris ce qui se passe si le responsable est absent. L'envoi automatique n'est pas une norme neutre.
Entraîne-toi davantage, à ton rythme. Tu n'as rien à envoyer. Cela ne compte pas comme une évaluation automatique.
Lire la suite : Anthropic : l'humain garde le contrôle sur les agents. La situation ci-dessus est un exemple de leçon fictif personnel.
Ton lieu de travail · apprendre par la pratique
Crée quelque chose. Regarde ce qui change.
Vérification de la connexion IA en cours… Tu peux déjà consulter l'exemple écrit.
Présente ta mission à Ende.
Lis la réponse, change une seule chose et compare.
Version précédente
Nouvelle version
Tu gardes le contrôle
Que veux-tu améliorer dans ta prochaine tentative ?
Uniquement sur cet appareil. Les réponses de l’IA restent uniquement dans la mémoire de cette page. Il s'agit d'un auto-contrôle, pas d'une note.
Pourquoi cette approche fonctionne
Le contrôle intervient avant la conséquence et peut réellement stopper celle-ci. Détermine qui porte la responsabilité.
Une étape de plus
Décris ce qui se passe si le responsable est absent. L'envoi automatique n'est pas une norme neutre.
Essaie & découvre · sans engagement
Pilote un agent avec un port de contrôle
Essaie d'envoyer avant le contrôle. Teste ensuite une source manquante ou une panne.
- Récupérer la source
- Vérifier le concept
- Exécuter l'action
Que se passe-t-il ?
- Aucune source n'a encore été récupérée. N'hésite pas à essayer d'abord le bouton d'envoi.
Tous les outils, files d'attente et envois sont simulés. Aucun message ne part et aucun service externe n'est appelé.
Cet essai fonctionne localement avec des données fictives et ne compte pas pour ta complétion de leçon. Elle recommencera lors d'une nouvelle leçon ou d'un rechargement.
Un prompt pour commencer
Conçois un workflow court pour l'envoi d'un e-mail client avec IA. Intègre un seul point d'arrêt clair pour une approbation humaine.
Applique-le
Une automatisation prépare directement un brouillon IA pour l'envoyer aux clients, sans que personne ne voie les données sources.
Quelle approche correspond le mieux à cette situation ?
- Ajoute un contrôle avec les données sources et une approbation explicite avant l'envoi.
- Place le contrôle seulement après l'envoi.
- Laisse l’IA enregistrer sa propre approbation comme contrôle humain.
Avec JavaScript, tu peux contrôler ton approche et recevoir un feedback immédiat.
Teste ta compréhension
Pourquoi un point de contrôle humain est-il important ?
- Parce que IA ne fait jamais d'erreurs.
- Parce que tu restes responsable du résultat final.
- Ce n'est pas nécessaire.
S'entraîner davantage
Décris un workflow personnel avec un point de contrôle intégré.
Création du concept d'e-mail → arrêt → relecture par un collègue → envoi seulement après.
