Quand la surveillance humaine devient une norme pénale : trois processus, et ce qui ne s’appliquait pas encore à la clôture de la rédaction

Situation de départ : une infraction pénale qui ne figure pas encore au journal officiel

L’Italie a adopté sa loi sur l’IA il y a bientôt un an. La Legge 132/2025 est entrée en vigueur le 10 octobre 2025 et a chargé le gouvernement d’adapter le droit national au règlement européen sur l’IA dans un délai de douze mois et de régler les cas de production et d’utilisation illicites de systèmes d’IA.⁴ Le 10 juin 2026, le Conseil des ministres a approuvé deux projets en examen préliminaire, puis les a adoptés le 4 août 2026 en examen définitif.¹

Le cœur du dispositif est un nouvel article 437-bis du code pénal. Il punit celui qui, sur un système d’IA à haut risque, omet les mesures techniques de sécurité prescrites ou la surveillance humaine et provoque ainsi un danger concret : un à cinq ans de prison lorsque la vie ou l’intégrité physique de personnes est en jeu, deux à huit ans lorsque le danger vise la sécurité publique ou la sûreté de l’État. S’y ajoutent le nouvel article 25-vicies, qui fait entrer les infractions liées à l’IA dans la liste des infractions déclenchant la responsabilité de l’entreprise selon le décret 231 de 2001, et une disposition du second décret, qui frappe de nullité un licenciement fondé exclusivement sur un traitement automatisé.¹ La responsabilité selon le décret 231 ne frappe pas la personne qui a agi mais l’organisation, et elle connaît, à côté de la sanction pécuniaire, l’interdiction de conclure des contrats avec l’administration publique.³

Et voici maintenant la partie qu’un article sur un droit pénal nouveau doit dire en premier. À la clôture de la rédaction, le 2 septembre 2026, les deux décrets n’étaient pas publiés à la Gazzetta Ufficiale.² Ce que le Conseil des ministres adopte est un texte en route vers le journal officiel : l’ordre des articles, leur numérotation et leur formulation ne deviennent contraignants qu’avec la publication, et jusque-là aucune infraction pénale propre à l’IA ne s’applique en Italie. Qui vous vend aujourd’hui une liste de contrôle achevée sur l’article 437-bis vous vend l’interprétation d’un texte dont il ne connaît pas la version définitive. Vérifiez le texte publié avant d’y appuyer quoi que ce soit. Cet article ne remplace pas un conseil juridique.

Sur cette toile de fond, un regard sur la situation du pays vaut la peine. Selon l’enquête de l’institut italien de statistique Istat, qui repose sur un échantillon de 26 246 entreprises et est représentative de 218 446 entreprises de dix salariés et plus, 16,4 % des entreprises utilisaient en 2025 au moins une technologie d’IA ; chez les grandes entreprises, la part atteint 53,1 %, chez les petites et moyennes 15,7 %, et l’écart entre les deux est passé d’environ 20 points de pourcentage en 2023 à 37 points de pourcentage.⁵ Plus parlant pour notre sujet est un autre chiffre de la même enquête : 33,4 % des entreprises qui utilisent l’IA ne citent aucun des domaines d’application proposés, et 83,3 % d’entre elles sont des établissements de 10 à 49 salariés.⁶ Qui ne peut pas dire à quoi il emploie l’IA ne peut pas dire non plus si l’un de ces systèmes relève du domaine à haut risque.

Qui est concerné, et qui ne l’est pas

L’infraction tient à un seul mot, et ce mot est haut risque. Le règlement européen sur l’IA, le règlement 2024/1689, énumère à l’annexe I les systèmes intégrés à un produit comme composant de sécurité, et à l’annexe III les domaines d’emploi qui valent à eux seuls comme à haut risque, parmi lesquels l’emploi et le recrutement, l’évaluation de la solvabilité, les infrastructures critiques, l’éducation et une partie de la répression pénale. L’article 14 exige que de tels systèmes soient conçus pour que des personnes puissent effectivement les surveiller, et l’article 26 exige du déployeur qu’il confie cette surveillance à des personnes physiques formées pour cela et qui en ont le pouvoir.⁷

Ces obligations ne s’appliquent toutefois pas encore. Le Digital Omnibus, adopté sous la forme du règlement 2026/1744 et publié au Journal officiel de l’Union le 24 juillet 2026, a resserré encore l’article sur le haut risque et en a reporté l’application : au 2 décembre 2027 pour les systèmes à haut risque autonomes et au 2 août 2028 pour ceux qui sont intégrés à un produit.⁸ La manière dont une infraction pénale nationale se situe par rapport à ce calendrier reporté fait partie des questions auxquelles seule la formulation publiée répondra. Nous le consignons ici plutôt que de faire paraître l’urgence plus grande qu’elle n’est.

La deuxième question est de savoir combien d’entreprises sauraient seulement si elles sont concernées. Les chiffres solides à ce sujet sont rares : l’enquête la plus connue sur la gouvernance de l’IA dans les grandes entreprises italiennes, l’Osservatorio Artificial Intelligence du Politecnico di Milano, est financée par des sponsors et ne divulgue pas son échantillon, raison pour laquelle nous n’en reprenons pas les parts ici.⁹ De la même direction vient un chiffre de l’institut de statistique que la presse italienne restitue régulièrement de travers : parmi les entreprises sans usage de l’IA, 11,5 % en ont seulement envisagé l’emploi, et les freins rapportés ne se rapportent qu’à ce sous-groupe, à savoir le manque de compétences avec 58,6 % et le manque de clarté juridique avec 47,3 %.¹⁰ Ce n’est pas un énoncé sur l’économie italienne dans son ensemble, et qui l’emploie ainsi se fabrique un problème plus grand qu’il n’est.

Le tableau suivant classe selon qui doit mener l’examen, et non selon qui fait quelque chose de faux. La colonne de droite ne contient que ce qu’une plateforme peut apporter, à savoir des preuves. L’appréciation elle-même appartient à votre entreprise, et dans les domaines réglementés à votre conseil juridique en plus.

Cas d’usage 1 : organiser la surveillance humaine de façon à pouvoir la prouver

Dans la plupart des entreprises, la surveillance a lieu depuis longtemps. Une personne spécialisée regarde ce qu’un système propose et décide. Seulement, il n’en reste rien : pas d’horodatage, pas de référence de la source, pas de mention, rien qui puisse être montré deux ans plus tard à une autorité. Dans l’espace de travail IA, cette étape se déroule dans un seul dossier. La proposition du système métier est ouverte avec les documents sur lesquels elle repose, la personne compétente consigne l’examen et la décision dans le même dossier, et l’appel figure avec l’horodatage, le compte et l’outil dans le journal d’audit, c’est-à-dire le relevé continu de tous les accès, que vous pouvez exporter sous forme de fichier.

Deux réglages décident si cela devient une preuve utilisable. D’abord les droits : ils s’appliquent dans l’ordre utilisateur, rôle, groupe, valeur par défaut du serveur, et les accès en écriture aux systèmes raccordés doivent être validés séparément. Ensuite les références de la source : les réponses issues d’une base de connaissances, c’est-à-dire des documents propres à votre entreprise, sont indiquées avec l’endroit où elles figurent. On peut ainsi montrer plus tard non seulement que quelqu’un a examiné, mais sur quoi. Les réglages que l’administration pose pour cela sont décrits sous Gouvernance.

La limite, et c’est la plus importante de cet article : le produit ne produit pas la surveillance humaine, il la rend démontrable. Qui valide une proposition sans l’avoir lue produit une entrée de journal et non une surveillance. Le point de savoir si une surveillance suffit sur le fond, ce sont au bout du compte une autorité de contrôle et un tribunal qui en jugent, pas un journal.

Cas d’usage 2 : un relevé de ce qui tourne réellement

La première question d’un contrôle n’est jamais de savoir si votre entreprise emploie de l’IA, mais laquelle. On ne peut y répondre que si les accès convergent en un seul endroit. Avec Kisuno, les collaborateurs atteignent les modèles par un accès unique : les modèles actuels d’OpenAI (ChatGPT) et d’Anthropic (Claude), exécutés dans le centre de données AWS de Francfort. AWS est une entreprise américaine, le US CLOUD Act s’applique donc même avec des serveurs à Francfort, et nous le disons ouvertement. Pour les clients aux exigences élevées en matière de protection des données, des modèles ouverts de premier plan comme GLM, Kimi et DeepSeek sont disponibles, exploités par des entreprises européennes sur des serveurs en Europe ; le CLOUD Act ne s’y applique pas. Les systèmes tiers sont raccordés via MCP, le Model Context Protocol, un standard ouvert pour la liaison avec des programmes externes ; une telle liaison prise isolément s’appelle un connecteur, et les droits s’appliquent par outil.

Ce qui en résulte n’est pas un papier mais une analyse : quels modèles sont proposés au choix dans votre instance, c’est-à-dire dans votre propre installation du logiciel, quel modèle constitue la valeur par défaut du serveur, quelles bases de connaissances existent et qui a le droit de les lire, quels connecteurs sont en place, quels outils ceux-ci ouvrent et qui en fait réellement usage. La consommation est présentée par modèle. Les logiciels raccordables aujourd’hui figurent sur la page Intégrations.

La limite : il n’en naît aucun inventaire d’IA automatique. La plateforme voit ce qui passe par elle, et rien d’autre. Une extension dans le navigateur, un compte privé sur le téléphone, un modèle dans une application métier, tout cela reste invisible. C’est précisément pour cela que les 33,4 % d’utilisateurs qui ne citent aucun domaine d’application sont un indice de ce qui circule à côté des voies officielles.⁶ Un relevé qui tient devant un contrôle selon le décret 231 ou selon le règlement sur l’IA est plus large, et il est tenu par des personnes.

Cas d’usage 3 : préparer des décisions de personnel sans les prendre de manière automatisée

Une annonce apporte plus de candidatures qu’on ne peut en lire en un après-midi. La voie habituelle est un tri automatique. Ce n’est expressément pas elle que vise la nouvelle disposition italienne : selon le communiqué officiel, la recherche et la sélection des candidatures ne comptent pas parmi les décisions finales sur la conclusion d’une relation de travail, même lorsqu’elles empêchent quelqu’un d’accéder à l’étape suivante.¹ Ce qui subsiste, c’est l’article 22 du règlement général sur la protection des données, qui ne demande pas comment une étape s’appelle mais quel effet elle produit.¹³ Le processus qui tient sur les deux plans ressemble à ceci : le service spécialisé fixe les critères issus de l’annonce et les valide. Le collègue IA rassemble ensuite, pour chaque candidature, ce que les documents disent sur ces critères, à chaque fois avec l’endroit où cela figure, et ce qui manque. Rien n’est trié, rien n’est pondéré, rien n’est écarté.

La décision reste à une personne et est consignée comme sa décision, avec motivation, date et nom. Ce que le règlement général sur la protection des données interdit, c’est la décision fondée exclusivement sur un traitement automatisé et produisant un effet notable, non l’assistance à cette décision.¹³ La disposition adoptée du second décret trace cette ligne plus nettement pour le licenciement, en plaçant la conséquence juridique non dans une amende mais dans la nullité.¹ S’y ajoute une obligation qui s’applique déjà en Italie : la Legge 132/2025 exige que les salariés soient informés par écrit de l’emploi de systèmes d’IA dans la relation de travail.⁴

La limite, et ici un cas italien aide. Le 14 mai 2026, le Garante, l’autorité italienne de protection des données, a adressé un avertissement formel au fournisseur d’une extension censée déduire le stress des salariés à partir des messages échangés dans des programmes de discussion ; ce qui a été déterminant n’est pas l’intention, mais le fait que les analyses agrégées pouvaient mettre l’employeur en mesure d’apprendre, même indirectement, quelque chose sur l’état émotionnel de personnes précises. L’avertissement se fonde aussi expressément sur l’article 5, paragraphe 1, point f), du règlement sur l’IA, qui interdit les systèmes destinés à inférer les émotions sur le lieu de travail.¹⁴ Transposé, cela signifie : une signature sous un classement qui a de fait déjà décidé n’est pas une décision humaine. Qui resserre la présélection au point qu’il ne reste qu’une personne a décidé de manière automatisée et a fait signer un être humain.

Limites : ce qui n’est pas affirmé ici

D’abord la restriction qui retire son ampleur à tout l’article. L’infraction vise les systèmes à haut risque. Un assistant de discussion ordinaire, avec lequel on rédige un texte, établit un résumé ou pose une question à ses propres documents, n’en est normalement pas un. Qui laisse entendre que toute entreprise est concernée dès maintenant n’est pas sérieux, et le Digital Omnibus a resserré encore l’article sur le haut risque et en a repoussé l’application.⁸ L’examen visant à savoir si l’un de vos systèmes tombe dans cette catégorie reste malgré tout utile, et c’est un examen juridique et non technique.

Deuxièmement : aucun produit ne rend conforme un Modello 231, c’est-à-dire le modèle d’organisation et de contrôle qu’exige le décret 231. Ce qu’une plateforme livre, c’est la journalisation et le contrôle des droits, donc des moyens de preuve. Le modèle d’organisation lui-même se compose d’une analyse de risque pour votre entreprise, de procédures, d’un organe de surveillance et d’un système de sanctions, et le cas échéant c’est un tribunal qui juge de son adéquation. La conformité n’est pas remplie par l’introduction d’un logiciel, et un fournisseur qui le laisse entendre vous vend un problème pour plus tard.

Troisièmement : ce qui est interdit, c’est la décision de personnel exclusivement automatisée, pas l’assistance. Qui en déduit que l’IA est devenue inutilisable dans les ressources humaines lit la norme trop largement ; qui en déduit qu’une signature suffit la lit trop étroitement. Ce qui compte est de savoir si une personne a réellement apprécié le cas et était en mesure de l’apprécier, et pour cela il lui faut du temps, l’accès aux documents et le pouvoir de décider autrement que la proposition.

Quatrièmement, l’endroit où notre propre offre ne convient pas. Le règlement cloud de l’ACN pour l’administration publique classe les données et les services en ordinaires, critiques ou stratégiques, stratégique signifiant qu’une atteinte peut toucher la sécurité nationale. Pour les données et services stratégiques, il exige que tous les types de métadonnées soient traités sur des infrastructures situées sur le territoire de l’Union européenne ; l’exigence porte le numéro 8_S à l’annexe 2 et le numéro 17_S à l’annexe 3, et ne sont exceptées que les métadonnées nécessaires à la fourniture des services expressément cités à cet endroit.¹¹ La Suisse ne fait pas partie du territoire de l’Union. Selon la lettre du texte, notre exploitation managée dans les centres de données certifiés ISO 27001 de Green à Lupfig ne suffit justement pas pour ce cas, et la certification de ces centres de données n’y change rien, car elle porte sur la sécurité de l’exploitation et non sur le lieu. La réponse honnête ici s’appelle auto-hébergement : vous exploitez le logiciel sur votre propre infrastructure sur le territoire de l’Union, le chemin des modèles reste lui aussi à l’intérieur de l’Union, et nous n’y participons pas. La base LibreChat est sous licence MIT, le dépôt contenant nos propres extensions suivra prochainement.

Cinquièmement, le sens inverse, pour qu’il n’en naisse pas une crainte mal placée. Ce règlement cloud vaut pour l’administration publique et pour ceux qui la fournissent, pas pour les entreprises privées. Pour une entreprise privée, c’est un repère et non une obligation. Et là où un appel d’offres exige un centre de données en Italie, c’est en règle générale un critère du pouvoir adjudicateur et non une prescription légale. Ce qui vaut pour vous dépend de votre classification, de votre secteur et de vos contrats. Cet article ne remplace pas un conseil juridique.

Questions fréquentes sur l’article 437-bis, le Modello 231 et la surveillance humaine

Sources

Tous les chiffres, délais et libellés de cet article proviennent des sources suivantes, vérifiées pour la dernière fois le 2 septembre 2026. À cette date, les deux décrets d’application étaient adoptés mais non publiés ; les indications à leur sujet reposent sur le communiqué officiel du Conseil des ministres et sur un commentaire de cabinet portant sur le projet. La numérotation et la formulation définitives ne ressortiront que de la publication à la Gazzetta Ufficiale.

1. Presidenza del Consiglio dei ministri, Comunicato stampa del Consiglio dei ministri n. 185 du 4 août 2026, examen définitif des deux décrets adaptant le droit national au règlement (UE) 2024/1689, avec le nouvel article 437-bis du code pénal, qui punit l’absence de mesures de sécurité d’une peine graduée selon le bien juridique menacé, et avec la nullité d’une décision portant sur la constitution, la modification ou la fin de la relation de travail fondée exclusivement sur un traitement automatisé, le communiqué précisant expressément que la recherche et la sélection des candidatures ne comptent pas parmi ces décisions, même lorsqu’elles conduisent à la non-admission aux étapes suivantes : governo.it ; commentaire du cabinet Gianni & Origoni sur le projet de décret pénal, avec l’élément de la surveillance humaine omise, les peines d’un à cinq ans et de deux à huit ans et le nouvel article 25-vicies du décret 231/2001 : gop.it. Le nombre de 600 à 1 000 quotes-parts et les sanctions d’interdiction figurent à l’article 17 du projet transmis au Parlement, Atto del Governo n° 418 de la 19e législature ; le libellé peut encore changer avant la publication officielle : sistemapenale.it
2. Gazzetta Ufficiale della Repubblica Italiana, Serie Generale : dépouillement des sommari de la Serie Generale nos 177 à 203, du 1er août au 2 septembre 2026 ; le dernier decreto legislativo publié porte le numéro 151 du 30 juillet 2026, et les deux décrets adoptés le 4 août 2026 n’y figurent pas : gazzettaufficiale.it
3. Decreto legislativo 8 giugno 2001, n. 231, article 9 sur les sanctions d’interdiction, y compris l’interdiction de conclure des contrats avec l’administration publique, et article 10 sur la sanction pécuniaire avec une quote-part de 258 à 1 549 euros : normattiva.it
4. Legge 23 settembre 2025, n. 132, Disposizioni e deleghe al Governo in materia di intelligenza artificiale, publiée à la Gazzetta Ufficiale n° 223 du 25 septembre 2025, en vigueur depuis le 10 octobre 2025, article 11 sur l’information écrite des salariés et les normes de délégation au gouvernement : normattiva.it
5. Istat, Statreport Imprese e ICT, Anno 2025, publié le 15 décembre 2025, échantillon de 26 246 entreprises, représentatif de 218 446 entreprises de dix salariés et plus : 16,4 % d’usage d’au moins une technologie d’IA, 53,1 % chez les grandes entreprises, 15,7 % chez les petites et moyennes, écart passé d’environ 20 points de pourcentage en 2023 à 37 points de pourcentage en 2025 : istat.it
6. Istat, Statreport Imprese e ICT, Anno 2025, même enquête : 33,4 % des entreprises utilisatrices d’IA ne citent aucun des domaines d’application proposés, dont 83,3 % d’établissements de 10 à 49 salariés : istat.it
7. Règlement (UE) 2024/1689 sur l’intelligence artificielle, article 6 avec l’annexe I et l’annexe III sur le classement à haut risque, article 14 sur la surveillance humaine et article 26 sur les obligations des déployeurs : eur-lex.europa.eu
8. Règlement (UE) 2026/1744 simplifiant les règles en matière d’intelligence artificielle, publié au Journal officiel de l’Union européenne le 24 juillet 2026, avec les nouvelles dates d’application du 2 décembre 2027 pour les systèmes à haut risque autonomes et du 2 août 2028 pour ceux qui sont intégrés à un produit : eur-lex.europa.eu
9. Osservatorio Artificial Intelligence du Politecnico di Milano, enquête sur la gouvernance de l’IA dans les grandes entreprises italiennes, financée par des sponsors et sans échantillon divulgué ; nous ne reprenons pas les parts qui y sont rapportées, car elles ne se vérifient pas sur la publication accessible : osservatori.net
10. Istat, Statreport Imprese e ICT, Anno 2025, même enquête : parmi les entreprises sans usage de l’IA, 11,5 % en ont envisagé l’emploi ; les freins que sont le manque de compétences avec 58,6 % et le manque de clarté juridique avec 47,3 % se rapportent exclusivement à ce sous-groupe et non à tous les non-utilisateurs : istat.it
11. Agenzia per la cybersicurezza nazionale, Regolamento per le infrastrutture digitali e per i servizi cloud per la pubblica amministrazione, en vigueur depuis le 1er août 2024, catégorie PR.DS-01, exigence 8_S à l’annexe 2 et exigence 17_S à l’annexe 3 : pour les données et services stratégiques, tous les types de métadonnées doivent être traités sur des infrastructures situées sur le territoire de l’Union européenne, à l’exception de celles qui sont nécessaires aux services cités à cet endroit : acn.gov.it
12. Agenzia per la cybersicurezza nazionale, Determinazione n. 379907/2025 du 19 décembre 2025, applicable à partir du 15 janvier 2026, avec un délai de 18 mois à compter de la notification pour les mesures de base ; elle remplace la précédente Determinazione 164179/2025 : acn.gov.it
13. Règlement (UE) 2016/679, règlement général sur la protection des données, article 22 sur la décision fondée exclusivement sur un traitement automatisé produisant un effet juridique ou un effet notable analogue : eur-lex.europa.eu
14. Garante per la protezione dei dati personali, Provvedimento n. 342 du 14 mai 2026, avertissement au titre de l’article 58, paragraphe 2, point a), du règlement général sur la protection des données, adressé au fournisseur d’une extension censée déduire la charge des salariés à partir des messages échangés dans des programmes de discussion ; l’avertissement se fonde aussi expressément sur l’article 5, paragraphe 1, point f), du règlement (UE) 2024/1689, qui interdit les systèmes destinés à inférer les émotions sur le lieu de travail : garanteprivacy.it