AI Act :
le jour où un salarié demande des comptes.

Le mot de Jérôme

JDENIS Consulting · Toulouse

Mon regard

Je ne crois pas que la peur d’une amende suffise à produire une gouvernance sérieuse. Elle peut même encourager une conformité de façade : une charte signée, une formation suivie, puis des décisions prises exactement comme auparavant. Le point décisif me paraît être la possibilité de reconstituer le raisonnement qui a conduit à traiter une personne d’une certaine manière.

Cette exigence protège aussi l’employeur. Un responsable doit pouvoir expliquer ce qu’il a retenu d’une analyse automatique, ce qu’il a écarté et pourquoi. Cela demande du temps, des compétences et parfois la possibilité de contredire un objectif de productivité. Sans ces conditions, la « validation humaine » risque de devenir une signature de plus. La réglementation ne résoudra pas seule cette contradiction organisationnelle. Elle rendra toutefois plus difficile de la laisser invisible jusqu’au premier conflit. C’est à cet endroit, dans le travail réel des managers, que je situerais la préparation de l’entreprise.

Mon regard

Je serais prudent avec une gestion des compétences réduite au nombre d’utilisations d’un assistant. La fréquence d’usage renseigne sur une pratique, pas directement sur la qualité du travail. Un salarié peut solliciter peu l’outil parce qu’il traite les situations les plus délicates ; un autre peut produire davantage tout en reportant la vérification sur ses collègues.

Les travaux présentés ici invitent à observer l’activité à une échelle plus fine : quelles erreurs sont détectées, quels raisonnements deviennent explicites, quelles occasions d’apprentissage disparaissent ? Je garderais aussi un espace où débutants et experts comparent leurs méthodes sans que chaque essai devienne une mesure de performance. L’enjeu n’est pas de préserver chaque tâche à l’identique. Il est de comprendre comment se construit la capacité à exercer un métier lorsque certaines étapes sont déléguées. Une entreprise qui mesure uniquement la vitesse risque de découvrir trop tard qu’elle a affaibli les compétences nécessaires au contrôle.

Mon regard

Le retour japonais m’intéresse parce qu’il restitue aussi les difficultés. Une moyenne de temps déclaré ne suffit pas à décrire ce qui arrive à un service. Le temps libéré peut améliorer une réponse, absorber une demande supplémentaire ou simplement déplacer la charge vers la personne qui maîtrise le mieux l’outil. Ces effets n’ont pas la même valeur pour les travailleurs.

Je chercherais donc à suivre une activité complète, avec ses reprises et ses transmissions. Dans un service client, par exemple, une première réponse plus rapide n’est un progrès que si elle évite une nouvelle réclamation ou permet de mieux traiter le problème. Ce raisonnement impose de regarder après la production du texte. Il oblige aussi à demander l’avis des personnes qui reçoivent le travail automatisé. Leur expérience est souvent plus instructive qu’un compteur de requêtes, même lorsqu’elle contredit le récit initial du projet.

Mon regard

Dans une petite entreprise, une démarche raisonnable doit rester praticable un lundi chargé. Je commencerais par une tâche fréquente, limitée et réversible, dont le résultat peut être vérifié par la personne qui la réalise déjà. Une expérimentation devient plus informative lorsqu’on sait ce que l’on acceptera d’arrêter si elle déçoit.

Il me semble également nécessaire de compter le travail ajouté. Nettoyer des documents, corriger des réponses ou gérer un abonnement ne sont pas des activités gratuites. Le dirigeant peut estimer ce coût simplement, sur quelques dossiers, sans construire une usine à indicateurs. Une bonne première expérience produit deux résultats : un service utile et une compréhension plus précise de ses limites. Si elle ne produit que des textes impressionnants, sans diminuer les reprises ni améliorer la relation client, je ne la considérerais pas encore comme un investissement justifié.

Mon regard

Je ne choisirais pas une architecture à partir du seul classement d’un modèle. Le vocabulaire du métier, les documents disponibles et les droits d’accès influencent beaucoup le résultat. Les progrès de modèles plus petits ou exécutés localement ouvrent des options intéressantes, mais ils déplacent aussi une partie de l’exploitation vers l’entreprise.

Il faut alors se demander qui fera les mises à jour, les essais de régression et le diagnostic d’un incident. Ce sont des responsabilités durables, rarement visibles dans une démonstration. À l’inverse, confier l’exploitation à un service distant peut simplifier le quotidien tout en renforçant une dépendance contractuelle. Je préfère comparer ces deux situations sur un usage précis, avec des critères de qualité et de réversibilité. La discussion devient moins spectaculaire, mais elle permet de choisir une solution que l’équipe sera effectivement capable de maintenir.

Mon regard

Une difficulté récurrente dans l’évaluation économique tient à l’unité de mesure. L’abonnement est facile à compter ; une décision mieux préparée l’est moins. On risque alors de retenir les nombres disponibles, tels que les requêtes ou les documents produits, et de les traiter comme une preuve de valeur. Cette substitution mérite d’être discutée avec les équipes.

Je proposerais un calcul plus modeste : combien coûte un dossier correctement terminé, avec les vérifications et les reprises ? Comparer quelques situations avant et après l’introduction de l’IA ne donnera pas une vérité générale, mais peut éclairer une décision locale. Il faut également garder une place aux bénéfices qui ne se traduisent pas immédiatement en temps : meilleure compréhension, réponse plus accessible, réduction d’une erreur coûteuse. Ces bénéfices doivent être décrits et observés. Les annoncer avant de les mesurer exposerait le projet à la même faiblesse que les promesses de productivité qu’il prétend remplacer.

Mon regard

Dans les métiers de terrain, l’écart entre une suggestion et une action mérite une attention particulière. Une erreur documentaire peut être corrigée ; une intervention physique engage une autre temporalité et parfois la sécurité. Il me paraît raisonnable de commencer par améliorer l’accès à l’information et la préparation des opérations avant d’élargir l’autonomie d’un système.

Cette prudence n’interdit pas l’innovation. Elle permet de situer ce qui a effectivement été démontré. Une simulation, une présentation commerciale et un essai sur site n’apportent pas le même niveau de preuve. Je demanderais aussi aux opérateurs quels incidents le protocole de démonstration laisse de côté : matériel dégradé, consigne contradictoire, environnement inhabituel. Leur expérience peut modifier le cahier des charges plus utilement qu’un nouveau score de performance. Le pouvoir d’arrêter un système doit enfin être praticable, connu et exercé en situation d’essai, avant d’être invoqué comme garantie.

Mon regard

L’éthique devient concrète lorsque l’on demande ce qu’une personne peut faire face à une décision qu’elle ne comprend pas. Peut-elle accéder aux éléments qui la concernent ? Une erreur sera-t-elle corrigée avant qu’elle produise un effet ? Son désaccord sera-t-il examiné par quelqu’un qui dispose du temps et du pouvoir nécessaires ? Ces questions valent davantage qu’une promesse générale d’IA responsable.

Je ne pense pas pour autant que toute collecte soit illégitime ou toute automatisation injuste. Une organisation peut avoir besoin de vérifier un accès, de prévenir une fraude ou de répartir une charge. La difficulté consiste à justifier les moyens retenus, leur proportionnalité et leurs usages secondaires. Un indicateur collecté pour améliorer un service peut devenir très différent s’il sert ensuite à sanctionner une personne. C’est ce changement de finalité, souvent progressif et peu visible, que je rendrais systématiquement discutable dans la gouvernance du projet.

Mon regard

Le report d’une échéance peut avoir une justification pratique : laisser le temps de préciser les standards, d’organiser le contrôle ou d’adapter les produits. Il peut aussi être interprété comme un signal d’attentisme. À mon sens, la distinction utile porte sur ce que l’entreprise peut déjà clarifier sans attendre une nouvelle ligne directrice : ses usages, ses données et les personnes qui décident.

Je resterais également attentif à la répartition des coûts. Une exigence de documentation sans accompagnement peut peser fortement sur une petite structure, alors qu’un allègement mal conçu peut laisser les personnes concernées sans recours effectif. Ces tensions méritent une discussion précise, plutôt qu’un choix abstrait entre innovation et réglementation. Le bon critère est de savoir si le dispositif permet à la fois d’expérimenter utilement et de rendre compte d’une décision contestée. Cela suppose des moyens de mise en œuvre, pas seulement un calendrier.

Mon regard

La facilité à produire un texte cohérent ne dispense pas d’un choix éditorial. Elle rend ce choix plus important, parce que des formulations convaincantes peuvent être obtenues avant même que les faits soient établis. Pour une communication d’entreprise, je séparerais la vérification des affirmations de la révision du style : ce sont deux travaux différents, avec des critères distincts.

Le récit fictif de cette édition suit cette logique. Il sert à rendre visibles des décisions organisationnelles et leurs conséquences possibles ; il ne doit pas emprunter l’autorité d’un fait judiciaire qui n’a pas eu lieu. La même exigence s’applique aux images, aux témoignages et aux retours clients. Je préfère un contenu qui précise honnêtement ce qu’il montre à une narration plus frappante dont le statut resterait ambigu. Cette transparence n’affaiblit pas l’intérêt du récit. Elle permet au lecteur d’en discuter le raisonnement plutôt que de chercher à deviner ce qui est vrai.