Avancé · Éthique et société · module 149 de 155
Évaluations éthiques avec un plan par étapes
Évalue une application d’IA avec un plan par étapes fixe : qui est concerné, quels sont les avantages et les risques, et quel choix peux-tu justifier ?
Après cette leçon
Tu mènes une évaluation éthique avec les parties concernées, les avantages et les préjudices possibles, les alternatives et une décision consignée.
En image · Étape par étape
Une réflexion éthique par étapes
Que fait l’application, pour qui, et qui est touché sans avoir voix au chapitre ?
Avantages et préjudices possibles par groupe ; peut-on le faire avec moins de risques ?
Consigner la raison, prendre des mesures et prévoir un moment pour faire le bilan.
Partie 1 de 3 · Application et personnes concernées
Ta préférence pour moins de mouvement est prise en compte. Choisis chaque partie toi-même.
Du ressenti à l’évaluation
Face à une nouvelle application d’IA, les gens ont souvent un sentiment fort : de l’enthousiasme ou un malaise. Un plan par étapes aide à transformer ce sentiment en une évaluation que tu peux expliquer. Décris d’abord concrètement l’application et l’objectif : que fait-elle, pour qui, et quelle décision soutient-elle ? Recense ensuite les parties concernées, y compris celles qui ne sont pas autour de la table : clients, citoyens, collaborateurs ou enfants (leçons 83 et 93).
Pèse les avantages et les préjudices possibles
Note pour chaque groupe les avantages possibles et les préjudices possibles : erreurs, inégalité de traitement, perte de vie privée ou de contact humain, dépendance vis-à-vis d’un fournisseur. Regarde aussi qui est le plus vulnérable. Cherche des alternatives : est-ce possible sans IA, avec moins de données, ou avec un humain qui décide ? Imagine des mesures qui limitent les préjudices, comme un contrôle humain, la transparence ou une procédure pour introduire une objection (leçon 84).
Décide, consigne et reviens-y
Prends une décision et note la raison, avec les risques que tu acceptes et les mesures que tu prends. Qui a décidé, et quand évalues-tu ? Une évaluation consignée permet d’apprendre plus tard, même si les choses se passent autrement que prévu. Mets-toi d’accord sur ce que tu feras en cas de plaintes ou si les conséquences s’avèrent différentes. L’éthique n’est pas une case à cocher au préalable, mais une question que tu continues à te poser.
Nouvel exemple d'exercice
De l'explication à un résultat utilisable.
Un plan par étapes transforme un ressenti sur l’IA en une mise en balance que tu peux expliquer et évaluer plus tard.
Situation d'exercice fictiveFictif : une maison de repos et de soins envisage des caméras avec IA qui détectent les chutes dans les chambres et alertent le personnel.
Voir une résolution possible
Voici comment faire
Personnes concernées : résidents, famille et personnel. Avantage : une aide plus rapide après une chute. Préjudice possible : perte d’intimité dans sa propre chambre, fausses alertes et moins de rondes personnelles. Alternatives : un capteur de chute sans caméra, ou un bouton d’alarme portable. Mesures : uniquement avec le consentement du résident, pas de stockage d’images, et les rondes sont maintenues. Décision : d’abord un essai avec des capteurs sans caméra ; évaluation après trois mois.
Pourquoi cela fonctionne
L’alternative sans caméra conserve l’avantage avec moins d’atteinte à la vie privée. La mise en balance rend ce choix visible et explicable.
Rends cela un peu plus difficile
Quelle question poserais-tu aux résidents eux-mêmes avant de décider ?
Entraîne-toi davantage, à ton rythme. Tu n'as rien à envoyer. Cela ne compte pas comme une évaluation automatique.
Ton lieu de travail · apprendre par la pratique
Crée quelque chose. Regarde ce qui change.
Vérification de la connexion IA en cours… Tu peux déjà consulter l'exemple écrit.
Présente ta mission à Ende.
Lis la réponse, change une seule chose et compare.
Version précédente
Nouvelle version
Tu gardes le contrôle
Que veux-tu améliorer dans ta prochaine tentative ?
Uniquement sur cet appareil. Les réponses de l’IA restent uniquement dans la mémoire de cette page. Il s'agit d'un auto-contrôle, pas d'une note.
Pourquoi cette approche fonctionne
L’alternative sans caméra conserve l’avantage avec moins d’atteinte à la vie privée. La mise en balance rend ce choix visible et explicable.
Une étape de plus
Quelle question poserais-tu aux résidents eux-mêmes avant de décider ?
Essaie & découvre · sans engagement
Mets les étapes dans un ordre opérationnel
Déplace les étapes avec les flèches. Vérifie que chaque étape possède ses entrées et ses contrôles nécessaires.
De quoi une étape dépend-elle ?
- Décris l’application et l’objectif doit précéder Recense toutes les personnes concernées
- Recense toutes les personnes concernées doit précéder Pèse les avantages et les préjudices possibles pour chaque groupe
- Pèse les avantages et les préjudices possibles pour chaque groupe doit précéder Cherche des alternatives et des mesures
- Cherche des alternatives et des mesures doit précéder Décide et note la raison
- Décide et note la raison doit précéder Évalue après une période convenue
Déplace une étape puis vérifie l'ordre. Les flèches fonctionnent également avec ton clavier.
Ce modèle contrôle les dépendances, pas la durée, la capacité ou l'exécution réelle. En cas de multiples agents, la décision humaine reste une étape distincte.
Cet essai fonctionne localement avec des données fictives et ne compte pas pour ta complétion de leçon. Elle recommencera lors d'une nouvelle leçon ou d'un rechargement.
Un prompt pour commencer
Aide-moi à faire une évaluation éthique de cette application fictive : une commune veut utiliser l’IA pour trier les demandes de prime selon leur complétude, afin que les collaborateurs puissent travailler plus vite. Parcours les étapes : application et objectif, parties concernées, avantages et préjudices possibles par groupe, alternatives et mesures, et la décision avec un moment d’évaluation. Ne prends pas de décision toi-même ; présente les éléments à mettre en balance.
Applique-le
Une école veut utiliser l’IA pour prédire quels élèves risquent de décrocher. L’idée vient de la direction ; les élèves et les parents n’ont pas encore été associés.
Quelle approche correspond le mieux à cette situation ?
- Mettre en place tout de suite ; intervenir tôt aide toujours.
- Mettre en place sans le dire aux élèves, pour ne pas les inquiéter.
- Mène une réflexion éthique avec les élèves, les parents et les enseignants, examine les alternatives et les mesures possibles, et ne décide qu’ensuite.
Avec JavaScript, tu peux contrôler ton approche et recevoir un feedback immédiat.
Teste ta compréhension
Quelle étape manque le plus souvent dans une évaluation éthique ?
- Décrire l’objectif de l’application.
- Recenser les parties concernées qui ne sont pas autour de la table, et prévoir un moment pour évaluer la décision.
- Regarder quel fournisseur est le moins cher.
S'entraîner davantage
Choisis une application d’IA dans ton propre environnement. Parcours le plan par étapes sur une page et soumets-le à quelqu’un qui voit l’application autrement que toi.
Application : trier les demandes selon leur complétude. Parties concernées : les demandeurs, les collaborateurs et les personnes qui ont du mal avec les formulaires. Avantage : un traitement plus rapide. Préjudice possible : une demande complète est considérée comme incomplète et reste en souffrance. Mesures : l’IA ne fait que trier ; un collaborateur examine chaque demande marquée comme incomplète ; les demandeurs disposent d’un point de contact clair. Évaluation après trois mois, avec un échantillon de demandes marquées.
