Cuando la supervisión humana se convierte en norma penal: tres procesos, y qué no regía aún al cierre de redacción

Situación de partida: un tipo penal que aún no está en el boletín oficial

Italia aprobó su ley de inteligencia artificial hace casi un año. La ley 132/2025 entró en vigor el 10 de octubre de 2025 y encargó al Gobierno adaptar el derecho nacional al reglamento europeo de IA en el plazo de doce meses y regular los casos de producción y uso ilícitos de sistemas de IA.⁴ El 10 de junio de 2026 el Consejo de Ministros aprobó dos borradores en examen preliminar y el 4 de agosto de 2026 los aprobó en examen definitivo.¹

El núcleo es un nuevo artículo 437-bis del código penal. Castiga a quien, en un sistema de IA de alto riesgo, omite las medidas técnicas de seguridad prescritas o la supervisión humana y con ello genera un peligro concreto: de uno a cinco años de prisión cuando están en juego la vida o la integridad física de personas concretas, de dos a ocho años cuando el peligro se dirige contra la seguridad pública o la seguridad del Estado. A eso se suman el nuevo artículo 25-vicies, que incorpora los delitos de IA a la lista de delitos que activan la responsabilidad de la empresa según el decreto 231 de 2001, y una disposición del segundo decreto, que declara nulo el despido basado únicamente en un tratamiento automatizado.¹ La responsabilidad del decreto 231 no alcanza a la persona que actuó, sino a la organización, y junto a la sanción económica contempla también la prohibición de contratar con la administración pública.³

Y ahora la parte que un artículo sobre derecho penal nuevo debe decir en primer lugar. Al cierre de redacción, el 2 de septiembre de 2026, los dos decretos no estaban publicados en la Gazzetta Ufficiale.² Lo que aprueba el Consejo de Ministros es un texto camino del boletín oficial: el orden de los artículos, la numeración y la redacción solo pasan a ser vinculantes con la publicación, y hasta entonces en Italia no rige ningún tipo penal referido a la IA. Quien hoy le venda una lista de comprobación ya hecha sobre el artículo 437-bis le está vendiendo la interpretación de un texto cuya versión definitiva desconoce. Compruebe la letra publicada antes de apoyar nada en ella. Este artículo no sustituye al asesoramiento jurídico.

Con ese telón de fondo merece la pena mirar la situación del país. Según la encuesta del instituto de estadística italiano Istat, basada en una muestra de 26.246 empresas y representativa de 218.446 empresas de diez o más empleados, en 2025 el 16,4 % de las empresas usaba al menos una tecnología de IA; entre las grandes empresas la cifra es del 53,1 % y entre las pequeñas y medianas del 15,7 %, y la distancia entre ambas ha crecido de unos 20 puntos porcentuales en 2023 a 37 puntos porcentuales.⁵ Para nuestro tema es más elocuente otro dato de la misma encuesta: el 33,4 % de las empresas que usan IA no señala ninguno de los ámbitos de aplicación propuestos, y de ellas el 83,3 % son centros de 10 a 49 empleados.⁶ Quien no sabe decir para qué emplea la IA tampoco sabe decir si alguno de esos sistemas cae en el ámbito de alto riesgo.

A quién afecta, y a quién no

El tipo penal pende de una sola palabra, y esa palabra es alto riesgo. El reglamento europeo de IA, el reglamento 2024/1689, enumera en el anexo I los sistemas que se integran en un producto como componente de seguridad y en el anexo III aquellos campos de uso que valen como de alto riesgo por sí mismos, entre ellos empleo y selección de personal, evaluación de solvencia, infraestructuras críticas, educación y partes de la actividad policial. El artículo 14 exige que esos sistemas estén construidos de modo que las personas puedan supervisarlos con eficacia, y el artículo 26 exige al responsable del despliegue que encomiende la supervisión a personas físicas formadas para ello y con la autoridad correspondiente.⁷

Estas obligaciones, sin embargo, todavía no se aplican. El Digital Omnibus, aprobado como reglamento 2026/1744 y publicado el 24 de julio de 2026 en el Diario Oficial de la Unión Europea, ha estrechado además el artículo de alto riesgo y ha aplazado su aplicación: al 2 de diciembre de 2027 para los sistemas de alto riesgo autónomos y al 2 de agosto de 2028 para los integrados en un producto.⁸ Cómo se relaciona un tipo penal nacional con ese calendario aplazado es una de las preguntas que solo responderá la letra publicada. Lo dejamos escrito en lugar de hacer la urgencia más grande de lo que es.

La segunda pregunta es cuántas empresas sabrían siquiera si les afecta. Las cifras sólidas al respecto son escasas: la encuesta más conocida sobre la gobernanza de la IA en grandes empresas italianas, el Osservatorio Artificial Intelligence del Politecnico di Milano, está financiada por patrocinadores y no hace pública su muestra, por lo que no reproducimos aquí sus porcentajes.⁹ De la misma dirección viene un dato del instituto de estadística que la prensa italiana reproduce mal con regularidad: de las empresas sin uso de IA, el 11,5 % llegó a plantearse su adopción, y solo a ese subgrupo se refieren los obstáculos publicados, es decir, la falta de competencias con el 58,6 % y la falta de claridad normativa con el 47,3 %.¹⁰ No es una afirmación sobre la economía italiana en su conjunto, y quien la usa así se construye un problema más grande de lo que es.

El cuadro siguiente ordena las entradas según quién debe llevar la comprobación, y no según quién hace algo mal. En la columna derecha figura únicamente lo que una plataforma puede aportar, es decir, pruebas. La valoración en sí corresponde a su empresa y, en ámbitos regulados, también a su representación jurídica.

Caso de uso 1: organizar la supervisión humana de modo que se pueda acreditar

En la mayoría de las empresas la supervisión ya ocurre desde hace tiempo. Una persona especializada mira lo que propone un sistema y decide. Solo que de eso no queda nada: ni momento, ni referencia de la fuente, ni anotación, nada que dos años después se le pueda enseñar a una autoridad. En el puesto de trabajo con IA ese paso transcurre en un único expediente. La propuesta del sistema especializado se abre junto con los documentos en los que se basa, la persona competente fija comprobación y decisión en ese mismo expediente, y la llamada queda con fecha y hora, cuenta y herramienta en el registro de auditoría, es decir, en el acta continua de todos los accesos, que usted puede exportar como archivo.

Dos ajustes deciden si de ahí nace una prueba utilizable. El primero son los permisos: rigen en el orden usuario, rol, grupo, valor predeterminado del servidor, y los accesos de escritura a los sistemas conectados hay que autorizarlos aparte. El segundo son las referencias de la fuente: las respuestas que salen de una base de conocimiento, es decir, de los documentos propios de su empresa, se muestran con el punto en el que constan. Así más tarde se puede enseñar no solo que alguien comprobó, sino también sobre qué. Qué ajustes fija la administración para ello está en Governance.

El límite, y es el más importante de este artículo: el producto no crea la supervisión humana, la hace demostrable. Quien confirma una propuesta sin leerla genera una entrada de registro y no una supervisión. Si una supervisión basta en cuanto al fondo lo juzgan al final una autoridad de control y un tribunal, no un registro.

Caso de uso 2: una relación de lo que está funcionando realmente

La primera pregunta de una comprobación nunca es si su empresa usa IA, sino cuál. Solo se puede responder si los accesos confluyen en un único punto. Con Kisuno la plantilla alcanza los modelos a través de un único acceso: los modelos actuales de OpenAI (ChatGPT) y Anthropic (Claude), que se ejecutan en el centro de datos de AWS en Fráncfort. AWS es una empresa estadounidense, por lo que el US CLOUD Act se aplica incluso con servidores en Fráncfort, y lo decimos abiertamente. Para clientes con altos requisitos de protección de datos están disponibles modelos abiertos de primer nivel como GLM, Kimi y DeepSeek, operados por empresas europeas en servidores en Europa; allí el CLOUD Act no se aplica. Los sistemas ajenos se conectan mediante MCP, el Model Context Protocol, un estándar abierto para la conexión con programas externos; una conexión concreta de ese tipo se llama conector, y los permisos rigen por herramienta.

Lo que sale de ahí no es un papel, sino un análisis: qué modelos están realmente disponibles en su instancia, es decir, en su propia instalación del software, qué modelo es el valor predeterminado del servidor, qué bases de conocimiento existen y quién puede leerlas, qué conectores están configurados, qué herramientas habilitan y quién hace uso de ellas de verdad. El consumo se muestra por modelo. Qué software se puede conectar hoy está en la página Integraciones.

El límite: no nace ningún inventario automático de IA. La plataforma ve lo que pasa por ella, y nada más. Un complemento en el navegador, una cuenta privada en el móvil, un modelo dentro de una aplicación sectorial, todo eso sigue invisible. Justo por eso ese 33,4 % de usuarios que no señala ningún ámbito de aplicación indica cuánto circula al margen de las vías oficiales.⁶ Una relación que aguante una comprobación conforme al decreto 231 o al reglamento europeo de IA es más amplia y la llevan personas.

Caso de uso 3: preparar decisiones de personal sin tomarlas de forma automatizada

Una convocatoria trae más candidaturas de las que se pueden leer en una tarde. La vía habitual es una ordenación automática. No es a ella a la que apunta la nueva disposición italiana: según el comunicado oficial, la búsqueda y selección de candidaturas no cuenta entre las decisiones finales sobre la constitución de la relación laboral, ni siquiera cuando conlleva la no admisión a las fases siguientes.¹ Lo que sí sigue en pie es el artículo 22 del reglamento general de protección de datos, que no pregunta cómo se llama un paso sino qué efecto produce.¹³ El recorrido que aguanta por ambos lados es este: el área competente fija los criterios de la convocatoria y los aprueba. El colega de IA reúne después, para cada candidatura, lo que los documentos dicen sobre esos criterios, cada vez con el punto en el que consta, y lo que falta. No ordena, no pondera, no descarta nada.

La decisión sigue en manos de una persona y se registra como decisión suya, con motivación, fecha y nombre. El reglamento general de protección de datos prohíbe la decisión basada únicamente en un tratamiento automatizado con efectos significativos, no el apoyo a quien decide.¹³ La disposición aprobada del segundo decreto traza esa línea con más filo para el despido, porque no pone la consecuencia en una multa sino en la nulidad.¹ A ello se suma un deber que en Italia ya rige: la ley 132/2025 exige informar por escrito a las personas empleadas sobre el uso de sistemas de IA en la relación laboral.⁴

El límite, y aquí ayuda un caso italiano. El 14 de mayo de 2026 el Garante, la autoridad italiana de protección de datos, dirigió una advertencia formal al proveedor de un complemento que debía deducir el estrés de las personas empleadas a partir de los mensajes en programas de chat; lo decisivo no fue la intención, sino que los análisis agregados podían poner al empleador, aunque fuera de forma indirecta, en condiciones de saber algo sobre el estado de ánimo de personas concretas. La advertencia se apoya también expresamente en el artículo 5, apartado 1, letra f) del reglamento de IA, que prohíbe los sistemas para inferir emociones en el lugar de trabajo.¹⁴ Trasladado: una firma bajo una clasificación que de hecho ya ha decidido no es una decisión humana. Quien estrecha la preselección hasta dejar una sola persona ha decidido de forma automatizada y ha hecho firmar a un ser humano.

Los límites: qué no se afirma aquí

Primero la limitación que le quita alcance a todo el artículo. El tipo penal rige para sistemas de alto riesgo. Un asistente de chat corriente con el que alguien redacta un texto, prepara un resumen o hace una pregunta a los documentos propios normalmente no lo es. Quien sugiere que desde ya toda empresa está afectada no es serio, y el Digital Omnibus ha estrechado además el artículo de alto riesgo y ha retrasado su aplicación.⁸ Comprobar si alguno de sus sistemas cae en esa categoría sigue teniendo sentido, y es una comprobación jurídica y no técnica.

En segundo lugar: ningún producto hace conforme un Modello 231. Lo que una plataforma entrega es registro de accesos y control de permisos, es decir, medios de prueba. El modelo de organización en sí se compone de un análisis de riesgos para su empresa, de procedimientos, de un órgano de vigilancia y de un sistema disciplinario, y sobre su idoneidad decide en caso de conflicto un tribunal. El cumplimiento no se logra por implantar un software, y un proveedor que lo insinúe le está vendiendo un problema para más adelante.

En tercer lugar: lo prohibido es la decisión de personal exclusivamente automatizada, no la asistencia. Quien deduce de ahí que la IA se ha vuelto inservible en recursos humanos lee la norma de forma demasiado amplia; quien deduce que basta una firma la lee de forma demasiado estricta. Lo determinante es si una persona ha valorado realmente el caso y si podía valorarlo, y para eso necesita tiempo, acceso a los documentos y la facultad de decidir distinto de la propuesta.

En cuarto lugar, el punto en el que nuestra propia oferta no encaja. El reglamento cloud de la ACN para la administración pública clasifica datos y servicios como ordinarios, críticos o estratégicos, donde estratégico significa que un menoscabo puede afectar a la seguridad nacional. Para los datos y servicios estratégicos exige que todos los tipos de metadatos se traten en infraestructuras situadas en el territorio de la Unión Europea; el requisito lleva el número 8_S en el anexo 2 y el número 17_S en el anexo 3, y solo quedan exceptuados los metadatos necesarios para prestar los servicios allí expresamente citados.¹¹ Suiza no forma parte del territorio de la Unión. Según la letra, para este caso nuestra operación gestionada en los centros de datos de Green en Lupfig, certificados según ISO 27001, justamente no basta, y la certificación de esos centros no cambia nada, porque afecta a la seguridad de la operación y no a la ubicación. La respuesta honesta aquí se llama autoalojamiento: usted opera el software en su propia infraestructura dentro del territorio de la Unión, el camino de los modelos permanece también dentro de la Unión, y nosotros no participamos en ello. La base LibreChat está bajo licencia MIT, el repositorio con nuestras extensiones llegará en breve.

En quinto lugar, la dirección contraria, para que de esto no salga un miedo equivocado. Ese reglamento cloud rige para la administración pública y para quienes le suministran, no para las empresas privadas. Para una empresa privada es una vara de medir y no una obligación. Y donde una licitación exige un centro de datos en Italia, por regla general es un criterio del órgano de contratación y no una exigencia legal. Lo que rige para usted depende de su clasificación, de su sector y de sus contratos. Este artículo no sustituye al asesoramiento jurídico.

Preguntas frecuentes sobre el artículo 437-bis, el Modello 231 y la supervisión humana

Fuentes

Todas las cifras, plazos y textos citados en este artículo proceden de las fuentes siguientes, comprobadas por última vez el 2 de septiembre de 2026. En esa fecha los dos decretos de desarrollo estaban aprobados pero no publicados; los datos referidos a ellos se basan en el comunicado oficial del Consejo de Ministros y en un comentario de despacho sobre el proyecto. La numeración y la redacción definitivas solo resultarán de la publicación en la Gazzetta Ufficiale.

1. Presidenza del Consiglio dei ministri, Comunicato stampa del Consiglio dei ministri n. 185 de 4 de agosto de 2026, examen definitivo de los dos decretos de adaptación del derecho nacional al Reglamento (UE) 2024/1689, con el nuevo artículo 437-bis del código penal, que castiga la omisión de medidas de seguridad con una pena graduada según el bien jurídico en peligro, y con la nulidad de la decisión sobre la constitución, la modificación o la extinción de la relación laboral basada únicamente en un tratamiento automatizado, dejando constancia expresa el comunicado de que la búsqueda y selección de candidaturas no cuenta entre esas decisiones, ni siquiera cuando conlleva la no admisión a las fases siguientes: governo.it; comentario del despacho Gianni & Origoni sobre el proyecto de decreto penal, con el elemento de la supervisión humana omitida, las penas de uno a cinco y de dos a ocho años y el nuevo artículo 25-vicies del decreto 231/2001: gop.it. La cifra de 600 a 1.000 cuotas y las sanciones interdictivas figuran en el artículo 17 del proyecto remitido al Parlamento, Atto del Governo n.º 418 de la XIX legislatura; hasta la publicación oficial el texto todavía puede cambiar: sistemapenale.it
2. Gazzetta Ufficiale della Repubblica Italiana, Serie Generale: revisión de los sommari de la Serie Generale n.º 177 a 203, del 1 de agosto al 2 de septiembre de 2026; el último decreto legislativo publicado lleva el número 151 de 30 de julio de 2026, y los dos decretos aprobados el 4 de agosto de 2026 no figuran en ellos: gazzettaufficiale.it
3. Decreto legislativo 8 giugno 2001, n. 231, artículo 9 sobre las sanciones interdictivas, incluida la prohibición de contratar con la administración pública, y artículo 10 sobre la sanción económica con un importe de cuota de 258 a 1.549 euros: normattiva.it
4. Legge 23 settembre 2025, n. 132, Disposizioni e deleghe al Governo in materia di intelligenza artificiale, publicada en la Gazzetta Ufficiale n. 223 de 25 de septiembre de 2025, en vigor desde el 10 de octubre de 2025, artículo 11 sobre la información escrita a las personas empleadas y las normas de delegación al Gobierno: normattiva.it
5. Istat, Statreport Imprese e ICT, Anno 2025, publicado el 15 de diciembre de 2025, muestra de 26.246 empresas, representativa de 218.446 empresas de diez o más empleados: 16,4 % de uso de al menos una tecnología de IA, 53,1 % en las grandes empresas, 15,7 % en las pequeñas y medianas, distancia crecida de unos 20 puntos porcentuales en 2023 a 37 puntos porcentuales en 2025: istat.it
6. Istat, Statreport Imprese e ICT, Anno 2025, misma encuesta: el 33,4 % de las empresas que usan IA no señala ninguno de los ámbitos de aplicación propuestos, y de ellas el 83,3 % son centros de 10 a 49 empleados: istat.it
7. Reglamento (UE) 2024/1689 sobre inteligencia artificial, artículo 6 con el anexo I y el anexo III sobre la clasificación como de alto riesgo, artículo 14 sobre la supervisión humana y artículo 26 sobre las obligaciones de los responsables del despliegue: eur-lex.europa.eu
8. Reglamento (UE) 2026/1744 de simplificación de las normas sobre inteligencia artificial, publicado en el Diario Oficial de la Unión Europea el 24 de julio de 2026, con las nuevas fechas de aplicación 2 de diciembre de 2027 para los sistemas de alto riesgo autónomos y 2 de agosto de 2028 para los integrados en un producto: eur-lex.europa.eu
9. Osservatorio Artificial Intelligence del Politecnico di Milano, encuesta sobre la gobernanza de la IA en grandes empresas italianas, financiada por patrocinadores y sin muestra publicada; no reproducimos los porcentajes allí recogidos, porque no pueden comprobarse en la publicación accesible: osservatori.net
10. Istat, Statreport Imprese e ICT, Anno 2025, misma encuesta: de las empresas sin uso de IA, el 11,5 % se planteó su adopción; los obstáculos falta de competencias con el 58,6 % y falta de claridad normativa con el 47,3 % se refieren exclusivamente a ese subgrupo y no a todas las empresas que no usan IA: istat.it
11. Agenzia per la cybersicurezza nazionale, Regolamento per le infrastrutture digitali e per i servizi cloud per la pubblica amministrazione, en vigor desde el 1 de agosto de 2024, categoría PR.DS-01, requisito 8_S en el anexo 2 y requisito 17_S en el anexo 3: en los datos y servicios estratégicos, todos los tipos de metadatos deben tratarse en infraestructuras situadas en el territorio de la Unión Europea, salvo los necesarios para los servicios allí citados: acn.gov.it
12. Agenzia per la cybersicurezza nazionale, Determinazione n. 379907/2025 de 19 de diciembre de 2025, aplicable desde el 15 de enero de 2026, con un plazo de 18 meses desde la notificación para las medidas básicas; sustituye a la anterior Determinazione 164179/2025: acn.gov.it
13. Reglamento (UE) 2016/679, reglamento general de protección de datos, artículo 22 sobre la decisión basada únicamente en el tratamiento automatizado que produce efectos jurídicos o de modo similar significativos: eur-lex.europa.eu
14. Garante per la protezione dei dati personali, Provvedimento n. 342 de 14 de mayo de 2026, advertencia con arreglo al artículo 58, apartado 2, letra a) del reglamento general de protección de datos frente al proveedor de un complemento que debía deducir la carga de estrés de las personas empleadas a partir de los mensajes en programas de chat; la advertencia se apoya también expresamente en el artículo 5, apartado 1, letra f) del reglamento (UE) 2024/1689, que prohíbe los sistemas para inferir emociones en el lugar de trabajo: garanteprivacy.it