Zum Inhalt springen
EU Cowork AI
Selbst betreiben Jetzt starten
Preise Docs Blog Jetzt starten Selbst betreiben

Recht und Betrieb

Wenn menschliche Aufsicht zur Strafnorm wird: drei Abläufe, und was zum Redaktionsschluss noch nicht galt

Der italienische Ministerrat hat zwei Durchführungsdekrete zum KI-Gesetz endgültig beschlossen. Sie sehen vor, unterlassene menschliche Aufsicht bei Hochrisikosystemen unter Strafe zu stellen, KI-Delikte in die Haftung des Unternehmens aufzunehmen und eine Kündigung für nichtig zu erklären, die allein auf automatisierter Verarbeitung beruht. Dieser Artikel zeigt an drei Abläufen, was sich heute vorbereiten lässt, und sagt zuerst, was noch nicht in Kraft war.

Recht und Betrieb Lesezeit: 12 Minuten

Kurz gesagt

  • Der italienische Ministerrat hat am 4. August 2026 zwei Durchführungsdekrete zum KI-Gesetz endgültig beschlossen. Eines davon fügt dem Strafgesetzbuch den Artikel 437-bis hinzu: ein bis fünf Jahre Freiheitsstrafe, wenn bei einem Hochrisikosystem die vorgeschriebenen technischen Sicherheitsmassnahmen oder die menschliche Aufsicht unterbleiben und daraus konkrete Gefahr für Leben oder Unversehrtheit entsteht.1
  • Zum Redaktionsschluss dieses Textes am 2. September 2026 waren die beiden Dekrete nicht in der Gazzetta Ufficiale veröffentlicht.2 Verbindlich werden Nummerierung und Wortlaut erst mit der Veröffentlichung, und bis dahin gab es in Italien keinen KI-Straftatbestand.
  • Ein zweiter neuer Artikel, 25-vicies, nimmt KI-Delikte in die Haftung des Unternehmens nach dem Dekret 231 auf, nach dem Entwurfstext mit 600 bis 1'000 Quoten und mit Verbotssanktionen.1 Bei einem Quotenwert von 258 bis 1'549 Euro sind das rechnerisch 154'800 bis 1'549'000 Euro.3 Eine Bestimmung desselben Pakets erklärt eine Kündigung für nichtig, die allein auf automatisierter Verarbeitung beruht.1
  • Was eine Plattform dazu beitragen kann, ist eng umrissen: Protokolle, Rechte und ein Nachweis darüber, wer wann eingegriffen hat. Risikoanalyse, Prozeduren und die Aufsicht selbst bleiben Aufgabe Ihres Unternehmens, und für strategische Daten einer Verwaltung reicht unser Schweizer Betrieb nach dem Wortlaut des ACN-Regelwerks nicht aus. Dieser Artikel ersetzt keine Rechtsberatung.

Ausgangslage: ein Straftatbestand, der noch nicht im Amtsblatt steht

Italien hat sein KI-Gesetz vor bald einem Jahr verabschiedet. Die Legge 132/2025 ist am 10. Oktober 2025 in Kraft getreten und hat der Regierung aufgetragen, das nationale Recht innerhalb von zwölf Monaten an das KI-Gesetz der Union anzupassen und die Fälle der unerlaubten Herstellung und Verwendung von KI-Systemen zu regeln.4 Am 10. Juni 2026 hat der Ministerrat zwei Entwürfe dazu in vorläufiger Prüfung gebilligt, am 4. August 2026 dann in endgültiger Prüfung beschlossen.1

Der Kern ist ein neuer Artikel 437-bis des Strafgesetzbuchs. Er bestraft, wer bei einem Hochrisiko-KI-System die vorgeschriebenen technischen Sicherheitsmassnahmen oder die menschliche Aufsicht unterlässt und dadurch eine konkrete Gefahr auslöst: ein bis fünf Jahre Freiheitsstrafe, wenn Leben oder körperliche Unversehrtheit einzelner Menschen betroffen sind, zwei bis acht Jahre, wenn sich die Gefahr gegen die öffentliche Sicherheit oder die Sicherheit des Staates richtet. Dazu kommen der neue Artikel 25-vicies, der KI-Delikte in die Reihe der Anlasstaten für die Haftung des Unternehmens nach dem Dekret 231 von 2001 aufnimmt, und eine Bestimmung des zweiten Dekrets, die eine allein auf automatisierter Verarbeitung beruhende Kündigung für nichtig erklärt.1 Die Haftung nach dem Dekret 231 trifft nicht die handelnde Person, sondern die Organisation, und sie kennt neben der Geldsanktion auch das Verbot, mit der öffentlichen Verwaltung Verträge zu schliessen.3

Und jetzt der Teil, den ein Artikel über neues Strafrecht als Erstes sagen muss. Zum Redaktionsschluss am 2. September 2026 waren die beiden Dekrete nicht in der Gazzetta Ufficiale veröffentlicht.2 Was der Ministerrat beschliesst, ist ein Text auf dem Weg ins Amtsblatt: Artikelfolge, Nummerierung und Formulierung werden erst mit der Veröffentlichung verbindlich, und bis dahin gilt in Italien kein KI-Straftatbestand. Wer Ihnen heute eine fertige Prüfliste zu Artikel 437-bis verkauft, verkauft Ihnen die Auslegung eines Textes, dessen endgültige Fassung er nicht kennt. Prüfen Sie den veröffentlichten Wortlaut, bevor Sie etwas darauf stützen. Dieser Artikel ersetzt keine Rechtsberatung.

Vor diesem Hintergrund lohnt der Blick auf die Ausgangslage im Land. Nach der Erhebung des italienischen Statistikamts Istat, die auf einer Stichprobe von 26'246 Unternehmen beruht und für 218'446 Unternehmen ab zehn Beschäftigten repräsentativ ist, nutzten 2025 16,4 % der Unternehmen mindestens eine KI-Technologie; bei den Grossunternehmen sind es 53,1 %, bei den kleinen und mittleren 15,7 %, und der Abstand zwischen beiden ist von rund 20 Prozentpunkten im Jahr 2023 auf 37 Prozentpunkte gewachsen.5 Aussagekräftiger für unser Thema ist eine andere Zahl derselben Erhebung: 33,4 % der Unternehmen, die KI nutzen, benennen keinen der vorgeschlagenen Anwendungsbereiche, und davon sind 83,3 % Betriebe mit 10 bis 49 Beschäftigten.6 Wer nicht sagen kann, wofür er KI einsetzt, kann auch nicht sagen, ob eines dieser Systeme in den Hochrisikobereich fällt.

  1. Legge 132/2025, in Kraft seit 10. Oktober 2025, mit Auftrag an die Regierung
  2. Ministerrat vom 10. Juni 2026, zwei Entwürfe in vorläufiger Prüfung
  3. Ministerrat vom 4. August 2026, endgültige Prüfung beschlossen
  4. Veröffentlichung in der Gazzetta Ufficiale, zum Redaktionsschluss offen
Der Weg der beiden Dekrete. Verbindlich wird der Wortlaut erst mit dem letzten Schritt.

Wer davon betroffen ist, und wer nicht

Der Straftatbestand hängt an einem einzigen Wort, und dieses Wort heisst Hochrisiko. Das KI-Gesetz der Union, die Verordnung 2024/1689, führt in Anhang I die Systeme auf, die als Sicherheitsbauteil in ein Produkt eingebaut sind, und in Anhang III jene Einsatzfelder, die eigenständig als hochriskant gelten, darunter Beschäftigung und Personalauswahl, Bonitätsbewertung, kritische Infrastruktur, Bildung und Teile der Strafverfolgung. Artikel 14 verlangt, dass solche Systeme so gebaut sind, dass Menschen sie wirksam beaufsichtigen können, und Artikel 26 verlangt vom Betreiber, die Aufsicht natürlichen Personen zu übertragen, die dafür ausgebildet sind und die Befugnis dazu haben.7

Diese Pflichten gelten allerdings noch nicht. Der Digital Omnibus, verabschiedet als Verordnung 2026/1744 und am 24. Juli 2026 im Amtsblatt der Union veröffentlicht, hat den Hochrisiko-Artikel zusätzlich enger gefasst und die Anwendung verschoben: auf den 2. Dezember 2027 für eigenständige Hochrisikosysteme und auf den 2. August 2028 für solche, die in ein Produkt eingebaut sind.8 Wie sich ein nationaler Straftatbestand zu diesem verschobenen Kalender verhält, gehört zu den Fragen, die erst der veröffentlichte Wortlaut beantwortet. Wir halten das hier fest, statt die Dringlichkeit grösser zu machen, als sie ist.

Die zweite Frage ist, wie viele Unternehmen überhaupt wüssten, ob sie betroffen sind. Belastbare Zahlen dazu sind rar: Die bekannteste Erhebung zur KI-Governance in italienischen Grossunternehmen, das Osservatorio Artificial Intelligence des Politecnico di Milano, ist sponsorfinanziert und legt ihre Stichprobe nicht offen, weshalb wir ihre Anteile hier nicht wiedergeben.9 Aus derselben Richtung kommt eine Zahl des Statistikamts, die in der italienischen Berichterstattung regelmässig falsch wiedergegeben wird: Von den Unternehmen ohne KI-Einsatz haben 11,5 % den Einsatz überhaupt erwogen, und nur auf diese Teilgruppe beziehen sich die berichteten Hemmnisse, nämlich fehlende Kompetenzen mit 58,6 % und fehlende gesetzliche Klarheit mit 47,3 %.10 Das ist keine Aussage über die italienische Wirtschaft insgesamt, und wer sie so verwendet, rechnet sich ein Problem grösser.

Wer Was die Prüfung auslöst Was EU Cowork AI dort beiträgt
Industrie, Maschinen- und Anlagenbau KI als Sicherheitsbauteil eines Produkts fällt nach Anhang I des KI-Gesetzes in den Hochrisikobereich, und genau daran knüpft der geplante Straftatbestand an Protokoll darüber, wer welche Auswertung angestossen und wer sie freigegeben hat, als Datei ausleitbar
Personalabteilungen und Personalvermittlung Auswahl, Zuweisung und Beendigung des Arbeitsverhältnisses stehen in Anhang III; die vorgesehene Nichtigkeit trifft die allein automatisiert entschiedene Kündigung Entwürfe mit Fundstelle in den Unterlagen, ohne Entscheid, und ein Vermerk der Person, die entschieden hat
Banken, Versicherer und Kreditvermittler Bonitätsbewertung natürlicher Personen sowie Risikoeinstufung und Preisbildung in der Lebens- und Krankenversicherung sind in Anhang III genannt Rechte je Werkzeug, damit ein Modell nur die Bestände erreicht, die zur Aufgabe gehören
Öffentliche Verwaltung und ihre Lieferanten Das Cloud-Regelwerk der ACN verlangt für strategische Daten, dass alle Arten von Metadaten auf Infrastrukturen im Gebiet der Union verarbeitet werden11 Selbstbetrieb unter MIT-Lizenz auf Ihrer eigenen Infrastruktur, ohne unseren Betrieb dazwischen, sofern Sie auch den Modellweg innerhalb der Union halten
Wesentliche und wichtige Einrichtungen Die Determinazione 379907/2025 der ACN, anwendbar seit dem 15. Januar 2026, setzt für die Basismassnahmen eine Frist von 18 Monaten ab Zustellung12 Ein Verzeichnis dessen, was tatsächlich über die Plattform läuft, samt Konten, Konnektoren und Rechten

Die folgende Übersicht sortiert danach, wer die Prüfung führen muss, und nicht danach, wer etwas falsch macht. In der rechten Spalte steht ausschliesslich das, was eine Plattform beitragen kann, nämlich Belege. Die Bewertung selbst gehört in Ihr Unternehmen, und in regulierten Bereichen zusätzlich zu Ihrer Rechtsvertretung.

Anwendungsfall 1: menschliche Aufsicht so einrichten, dass man sie nachweisen kann

Die Aufsicht findet in den meisten Unternehmen längst statt. Eine Fachperson sieht sich an, was ein System vorschlägt, und entscheidet. Nur bleibt davon nichts übrig: kein Zeitpunkt, keine Fundstelle, kein Vermerk, nichts, was sich zwei Jahre später einer Behörde zeigen liesse. Im KI-Arbeitsplatz läuft dieser Schritt in einem Vorgang ab. Der Vorschlag des Fachsystems wird zusammen mit den Unterlagen geöffnet, auf denen er beruht, die zuständige Person hält Prüfung und Entscheid im selben Vorgang fest, und der Aufruf steht mit Zeitpunkt, Konto und Werkzeug im Audit-Log, also im fortlaufenden Protokoll aller Zugriffe, das Sie als Datei ausleiten können.

Zwei Einstellungen entscheiden darüber, ob daraus ein brauchbarer Nachweis wird. Erstens die Rechte: Sie gelten in der Reihenfolge Nutzer, Rolle, Gruppe, Voreinstellung des Servers, und schreibende Zugriffe auf angebundene Systeme sind gesondert freizugeben. Zweitens die Fundstellen: Antworten aus einer Wissensbasis, also aus den eigenen Unterlagen Ihres Unternehmens, werden mit der Stelle ausgewiesen, an der sie stehen. Damit lässt sich später nicht nur zeigen, dass jemand geprüft hat, sondern auch woran. Welche Einstellungen die Administration dafür setzt, steht unter Governance.

  1. Vorschlag des Fachsystems, geöffnet mit den Unterlagen, auf denen er beruht
  2. Prüfung, Vermerk und Entscheid der zuständigen Person im selben Vorgang
  3. Eintrag im Audit-Log mit Zeitpunkt, Konto, Werkzeug und Ergebnis
Die Aufsicht findet ohnehin statt. Neu ist, dass sie eine Spur hinterlässt.

Die Grenze dazu, und sie ist die wichtigste in diesem Artikel: Das Produkt stellt keine menschliche Aufsicht her, es macht sie nachweisbar. Wer einen Vorschlag ungelesen bestätigt, erzeugt einen Protokolleintrag und keine Aufsicht. Ob eine Aufsicht inhaltlich genügt, beurteilen am Ende eine Aufsichtsbehörde und ein Gericht, nicht ein Protokoll.

Anwendungsfall 2: ein Verzeichnis dessen, was tatsächlich läuft

Die erste Frage einer Prüfung lautet nie, ob Ihr Unternehmen KI einsetzt, sondern welche. Beantworten lässt sich das nur, wenn die Zugänge an einer Stelle zusammenlaufen. Über EU Cowork AI erreichen die Mitarbeitenden über 100 Modelle über einen Zugang, EU-seitig verarbeitet über EuRouter, dazu die Modelle von Anthropic über Amazon Bedrock im europäischen Profil. Fremdsysteme werden über MCP angebunden, das Model Context Protocol, einen offenen Standard für die Verbindung zu externen Programmen; eine einzelne solche Verbindung heisst Konnektor, und die Rechte gelten je Werkzeug.

Was daraus entsteht, ist kein Papier, sondern eine Auswertung: welche Modelle in Ihrer Instanz, also in Ihrer eigenen Installation der Software, überhaupt zur Auswahl stehen, welches Modell die Voreinstellung des Servers ist, welche Wissensbasen bestehen und wer sie lesen darf, welche Konnektoren eingerichtet sind, welche Werkzeuge diese freigeben und wer davon tatsächlich Gebrauch macht. Der Verbrauch wird pro Modell ausgewiesen. Welche Software sich heute anbinden lässt, steht auf der Seite Integrationen.

  1. Alle Modellzugänge laufen über einen Zugang statt über verstreute Konten
  2. Konnektoren zu Fremdsystemen über MCP, mit Rechten je Werkzeug
  3. Auswertung: Modell, Wissensbasis, Werkzeug, Konto und Verbrauch
Sichtbar wird, was über die Plattform läuft. Alles andere bleibt unsichtbar, und das gehört zur Aussage.

Die Grenze: Es entsteht kein automatisches KI-Inventar. Die Plattform sieht, was über sie läuft, und sonst nichts. Ein Zusatzprogramm im Browser, ein privates Konto auf dem Telefon, ein Modell in einer Fachanwendung, all das bleibt unsichtbar. Genau deshalb sind die 33,4 % der Nutzer, die keinen Anwendungsbereich benennen, ein Hinweis darauf, wie viel neben den offiziellen Wegen läuft.6 Ein Verzeichnis, das einer Prüfung nach dem Dekret 231 oder nach dem KI-Gesetz standhält, ist breiter und wird von Menschen geführt.

Anwendungsfall 3: Personalentscheidungen vorbereiten, ohne sie automatisiert zu treffen

Eine Ausschreibung bringt mehr Bewerbungen, als an einem Nachmittag zu lesen sind. Der übliche Weg ist eine automatische Sortierung. Auf sie zielt die neue italienische Bestimmung ausdrücklich nicht: Nach der amtlichen Mitteilung zählt die Suche und Auswahl von Bewerbungen nicht zu den abschliessenden Entscheidungen darüber, ob ein Arbeitsverhältnis zustande kommt, auch dann nicht, wenn jemand dadurch nicht in die nächste Runde kommt.1 Bestehen bleibt Artikel 22 der Datenschutz-Grundverordnung, der nicht nach der Bezeichnung eines Schritts fragt, sondern nach seiner Wirkung.13 Der Ablauf, der beidem standhält, sieht so aus: Die Fachstelle legt die Kriterien aus der Ausschreibung fest und gibt sie frei. Der KI-Kollege stellt danach zu jeder Bewerbung zusammen, was in den Unterlagen zu diesen Kriterien steht, jeweils mit der Stelle, an der es steht, und was fehlt. Sortiert wird nicht, gewichtet wird nicht, verworfen wird nichts.

Der Entscheid bleibt bei einer Person und wird als deren Entscheid festgehalten, mit Begründung, Datum und Namen. Untersagt ist nach der Datenschutz-Grundverordnung die ausschliesslich auf automatisierter Verarbeitung beruhende Entscheidung mit erheblicher Wirkung, nicht die Unterstützung dabei.13 Die beschlossene Bestimmung des zweiten Dekrets zieht diese Linie für die Kündigung schärfer, indem sie die Rechtsfolge nicht in eine Busse legt, sondern in die Nichtigkeit.1 Dazu kommt eine Pflicht, die in Italien bereits gilt: Die Legge 132/2025 verlangt, dass Beschäftigte über den Einsatz von KI-Systemen im Arbeitsverhältnis schriftlich informiert werden.4

  1. Kriterien aus der Ausschreibung, von der Fachstelle festgelegt und freigegeben
  2. Zusammenstellung je Bewerbung, mit Fundstelle in den Unterlagen
  3. Entscheid, Begründung und Name der entscheidenden Person im Vorgang
Der Entwurf kommt aus dem System. Der Entscheid kommt von einem Menschen und wird als solcher festgehalten.

Die Grenze, und hier hilft ein italienischer Fall. Der Garante hat am 14. Mai 2026 gegenüber dem Anbieter eines Zusatzprogramms eine förmliche Verwarnung ausgesprochen, das aus Nachrichten in Chatprogrammen den Stress von Beschäftigten ableiten sollte; ausschlaggebend war nicht die Absicht, sondern dass die aggregierten Auswertungen den Arbeitgeber auch mittelbar in die Lage versetzen konnten, etwas über die Gefühlslage einzelner zu erfahren. Ausdrücklich stützt sich die Verwarnung zudem auf Artikel 5 Absatz 1 Buchstabe f der KI-Verordnung, der Systeme zur Ableitung von Emotionen am Arbeitsplatz verbietet.14 Übertragen heisst das: Eine Unterschrift unter einer Rangliste, die faktisch schon entschieden hat, ist keine menschliche Entscheidung. Wer die Vorauswahl so eng zieht, dass nur eine Person übrig bleibt, hat automatisiert entschieden und einen Menschen unterschreiben lassen.

Grenzen: was hier nicht behauptet wird

Zuerst die Einschränkung, die dem ganzen Artikel den Umfang nimmt. Der Straftatbestand gilt für Hochrisikosysteme. Ein gewöhnlicher Chatassistent, mit dem jemand einen Text entwirft, eine Zusammenfassung erstellt oder eine Frage an die eigenen Unterlagen stellt, ist normalerweise keines. Wer suggeriert, jedes Unternehmen sei ab sofort betroffen, ist unseriös, und der Digital Omnibus hat den Hochrisiko-Artikel zusätzlich enger gefasst und seine Anwendung nach hinten verschoben.8 Die Prüfung, ob eines Ihrer Systeme in diese Kategorie fällt, bleibt trotzdem sinnvoll, und sie ist eine juristische und keine technische Prüfung.

Zweitens: Kein Produkt macht ein Modello 231 konform. Was eine Plattform liefert, sind Protokollierung und Rechtekontrolle, also Beweismittel. Das Organisationsmodell selbst besteht aus einer Risikoanalyse für Ihr Unternehmen, aus Prozeduren, aus einem Aufsichtsorgan und aus einem Sanktionssystem, und über seine Eignung entscheidet im Ernstfall ein Gericht. Compliance wird durch die Einführung einer Software nicht erfüllt, und ein Anbieter, der das andeutet, verkauft Ihnen ein Problem für später.

  1. Kein Hochrisikosystem, keine strategischen Daten: betreuter Betrieb in Lupfig
  2. Hochrisikosystem im Einsatz: Aufsicht, Prozeduren und Bewertung bei Ihnen
  3. Strategische Daten einer Verwaltung: alle Metadaten im Gebiet der Union
  4. Dieser Fall: Selbstbetrieb auf Ihrer Infrastruktur, ohne uns dazwischen
Vier Zeilen. Bei der dritten passt unser Betrieb in Lupfig nach dem Wortlaut nicht, und die vierte ist die Antwort darauf.

Drittens: Untersagt ist die ausschliesslich automatisierte Personalentscheidung, nicht die Assistenz. Wer daraus ableitet, KI sei im Personalwesen unbrauchbar geworden, liest die Norm zu weit; wer daraus ableitet, eine Unterschrift genüge, liest sie zu eng. Massgeblich ist, ob eine Person den Fall tatsächlich beurteilt hat und beurteilen konnte, und dafür braucht sie Zeit, Zugang zu den Unterlagen und die Befugnis, anders zu entscheiden als der Vorschlag.

Viertens die Stelle, an der unser eigenes Angebot nicht passt. Das Cloud-Regelwerk der ACN für die öffentliche Verwaltung stuft Daten und Dienste als ordentlich, kritisch oder strategisch ein, wobei strategisch heisst, dass eine Beeinträchtigung die nationale Sicherheit berühren kann. Für strategische Daten und Dienste verlangt es, dass alle Arten von Metadaten auf Infrastrukturen verarbeitet werden, die im Gebiet der Europäischen Union liegen; die Anforderung trägt in Anhang 2 die Nummer 8_S und in Anhang 3 die Nummer 17_S, und ausgenommen sind nur jene Metadaten, die für die Erbringung der dort ausdrücklich genannten Dienste nötig sind.11 Die Schweiz gehört nicht zum Gebiet der Union. Nach dem Wortlaut reicht unser betreuter Betrieb in den ISO-27001-zertifizierten Rechenzentren von Green in Lupfig für diesen Fall gerade nicht aus, und daran ändert die Zertifizierung dieser Rechenzentren nichts, denn sie betrifft die Sicherheit des Betriebs und nicht den Standort. Die ehrliche Antwort heisst hier Selbstbetrieb: Sie betreiben die Software unter MIT-Lizenz auf Ihrer eigenen Infrastruktur im Gebiet der Union, der Modellweg bleibt dabei ebenfalls innerhalb der Union, und wir sind daran nicht beteiligt.

Fünftens die Gegenrichtung, damit daraus keine falsche Angst wird. Dieses Cloud-Regelwerk gilt für die öffentliche Verwaltung und für die, die sie beliefern, nicht für Privatunternehmen. Für ein privates Unternehmen ist es ein Massstab und keine Pflicht. Und wo eine Ausschreibung ein Rechenzentrum in Italien verlangt, ist das in aller Regel ein Kriterium der Vergabestelle und keine gesetzliche Vorgabe. Was für Sie gilt, hängt an Ihrer Einstufung, Ihrem Sektor und Ihren Verträgen. Dieser Artikel ersetzt keine Rechtsberatung.

Häufige Fragen zu Artikel 437-bis, Modello 231 und menschlicher Aufsicht

Gilt in Italien ab sofort eine Freiheitsstrafe für fehlende KI-Aufsicht?

Nein, jedenfalls nicht zum Redaktionsschluss dieses Artikels. Der Ministerrat hat die beiden Dekrete am 4. August 2026 in endgültiger Prüfung beschlossen, veröffentlicht waren sie am 2. September 2026 nicht. Verbindlich werden Artikelnummerierung und Wortlaut erst mit der Veröffentlichung in der Gazzetta Ufficiale. Prüfen Sie den veröffentlichten Text, bevor Sie Massnahmen darauf stützen. Dieser Abschnitt ersetzt keine Rechtsberatung.

Ist unser Chatassistent ein Hochrisikosystem?

In aller Regel nicht. Hochriskant sind nach dem KI-Gesetz Systeme, die als Sicherheitsbauteil in ein Produkt eingebaut sind, und Systeme in den Einsatzfeldern des Anhangs III, etwa Personalauswahl, Bonitätsbewertung, kritische Infrastruktur oder Bildung. Ein Assistent, der Texte entwirft und Fragen an die eigenen Unterlagen beantwortet, fällt normalerweise nicht darunter. Entscheidend ist nicht das Werkzeug, sondern der Zweck, für den Sie es einsetzen, und diese Einordnung nimmt Ihr Unternehmen vor.

Macht eine Plattform unser Modello 231 konform?

Nein, und das kann kein Produkt. Ein Organisationsmodell nach dem Dekret 231 besteht aus einer Risikoanalyse, aus Prozeduren, aus einem Aufsichtsorgan und aus einem Sanktionssystem. Eine Plattform liefert dazu Beweismittel: Protokolle darüber, wer wann welches Werkzeug aufgerufen hat, und Rechte, die zeigen, wer worauf zugreifen durfte. Über die Wirksamkeit des Modells entscheidet im Ernstfall ein Gericht, nicht ein Anbieter.

Dürfen wir KI in der Personalauswahl noch einsetzen?

Nach dem beschlossenen Text ist die ausschliesslich automatisierte Entscheidung über Begründung, Änderung oder Beendigung des Arbeitsverhältnisses untersagt, nicht die Unterstützung. Die Suche und Auswahl von Bewerbungen nimmt die amtliche Mitteilung ausdrücklich davon aus, selbst wenn jemand dadurch nicht in die nächste Runde kommt; Artikel 22 der Datenschutz-Grundverordnung gilt dort weiterhin. Sie können Unterlagen erschliessen, Kriterien gegenüberstellen und Entwürfe erzeugen lassen. Der Entscheid muss von einer Person getroffen werden, die den Fall tatsächlich beurteilt hat und anders entscheiden konnte. In Italien kommt die Pflicht hinzu, Beschäftigte über den Einsatz solcher Systeme im Arbeitsverhältnis schriftlich zu informieren.

Was ändert der Digital Omnibus an den Fristen?

Die Verordnung 2026/1744 wurde am 24. Juli 2026 im Amtsblatt der Union veröffentlicht. Sie verschiebt die Anwendung der Pflichten für Hochrisikosysteme auf den 2. Dezember 2027 für eigenständige Systeme und auf den 2. August 2028 für Systeme, die in ein Produkt eingebaut sind. An den Pflichten selbst ändert sie inhaltlich wenig, an ihrem Beginn viel. Wie sich ein nationaler Straftatbestand dazu verhält, lässt sich erst am veröffentlichten Wortlaut beurteilen.

Reicht ein Serverstandort in der Schweiz für italienische Verwaltungen?

Für strategische Daten und Dienste nach dem Wortlaut des Cloud-Regelwerks nicht. Dort müssen alle Arten von Metadaten auf Infrastrukturen im Gebiet der Europäischen Union verarbeitet werden, und die Schweiz gehört nicht dazu. Für diesen Fall ist der Selbstbetrieb auf Ihrer eigenen Infrastruktur die passende Form, nicht unser betreuter Betrieb in Lupfig. Für Privatunternehmen gilt dieses Regelwerk nicht; dort ist es ein Massstab und keine Pflicht.

Was steht im Audit-Log, und was nicht?

Im Protokoll stehen die Aufrufe, die über die Plattform laufen: Zeitpunkt, Konto, verwendetes Modell, aufgerufenes Werkzeug und Ergebnis, ausleitbar als Datei. Nicht darin steht, was ausserhalb geschieht, also ein Zusatzprogramm im Browser, ein privates Konto oder ein Modell in einer Fachanwendung. Ein KI-Inventar entsteht daraus nicht von selbst. Telemetrie ist bei uns standardmässig ausgeschaltet und Kundendaten trainieren keine Modelle; beides steht im Auftragsverarbeitungsvertrag.

Was kostet das, und was ist gratis?

Die Software steht unter MIT-Lizenz, das Repository mit unseren Erweiterungen folgt, und der Selbstbetrieb ist kostenlos. Der betreute Betrieb kostet 14 CHF pro Person und Monat, ausserhalb der Schweiz 15 €, davon 7.50 CHF beziehungsweise 8 € als Modellguthaben im gemeinsamen Pool Ihrer Organisation. Verlangt Ihr Fall die Verarbeitung aller Metadaten im Gebiet der Union, ist der Selbstbetrieb nicht die günstigere, sondern die einzige der beiden Formen, die dazu passt. Alle Angaben stehen auf der Seite Preise.

Gehen Sie es an einem eigenen Vorgang durch

Bringen Sie einen anonymisierten Ablauf mit, bei dem heute ein Mensch prüft und entscheidet, und wir gehen gemeinsam durch, was davon nachweisbar wäre und was nicht. Oder Sie tragen sich ein und probieren es selbst aus.

Live-Demo buchen Jetzt starten

Quellen

Alle Zahlen, Fristen und Wortlaute in diesem Artikel stammen aus den folgenden Quellen, zuletzt geprüft am 2. September 2026. Die beiden Durchführungsdekrete waren zu diesem Zeitpunkt beschlossen, aber nicht veröffentlicht; die Angaben dazu beruhen auf der amtlichen Mitteilung des Ministerrats und auf einer Kanzleikommentierung zum Entwurf. Endgültige Nummerierung und Formulierung ergeben sich erst aus der Veröffentlichung in der Gazzetta Ufficiale.

  1. Presidenza del Consiglio dei ministri, Comunicato stampa del Consiglio dei ministri n. 185 vom 4. August 2026, endgültige Prüfung der beiden Dekrete zur Anpassung des nationalen Rechts an die Verordnung (EU) 2024/1689, mit dem neuen Artikel 437-bis des Strafgesetzbuchs, der die unterlassene Ergreifung von Sicherheitsmassnahmen mit einer nach dem gefährdeten Rechtsgut abgestuften Strafe belegt, und mit der Nichtigkeit einer allein auf automatisierter Verarbeitung beruhenden Entscheidung über Begründung, Änderung oder Beendigung des Arbeitsverhältnisses, wobei die Mitteilung ausdrücklich festhält, dass die Suche und Auswahl von Bewerbungen nicht zu diesen Entscheidungen zählt, auch wenn sie zur Nichtzulassung zu den weiteren Auswahlstufen führt: governo.it; Kanzleikommentierung von Gianni & Origoni zum Entwurf des Strafdekrets, mit dem Tatbestandsmerkmal der unterlassenen menschlichen Aufsicht, den Strafrahmen von einem bis fünf und von zwei bis acht Jahren und dem neuen Artikel 25-vicies des Dekrets 231/2001: gop.it. Die Quotenzahl von 600 bis 1'000 und die Verbotssanktionen stehen in Artikel 17 des dem Parlament zugeleiteten Entwurfs, Atto del Governo Nr. 418 der XIX. Wahlperiode; bis zur amtlichen Veröffentlichung kann sich der Wortlaut noch ändern: sistemapenale.it
  2. Gazzetta Ufficiale della Repubblica Italiana, Serie Generale: Durchsicht der Sommari der Serie Generale Nr. 177 bis 203, 1. August bis 2. September 2026; das zuletzt veröffentlichte Decreto legislativo trägt die Nummer 151 vom 30. Juli 2026, die beiden am 4. August 2026 beschlossenen Dekrete sind darin nicht enthalten: gazzettaufficiale.it
  3. Decreto legislativo 8 giugno 2001, n. 231, Artikel 9 zu den Verbotssanktionen einschliesslich des Verbots, mit der öffentlichen Verwaltung Verträge zu schliessen, und Artikel 10 zur Geldsanktion mit einem Quotenwert von 258 bis 1'549 Euro: normattiva.it
  4. Legge 23 settembre 2025, n. 132, Disposizioni e deleghe al Governo in materia di intelligenza artificiale, veröffentlicht in der Gazzetta Ufficiale Nr. 223 vom 25. September 2025, in Kraft seit 10. Oktober 2025, Artikel 11 zur schriftlichen Information der Beschäftigten und die Delegationsnormen an die Regierung: normattiva.it
  5. Istat, Statreport Imprese e ICT, Anno 2025, veröffentlicht am 15. Dezember 2025, Stichprobe von 26'246 Unternehmen, repräsentativ für 218'446 Unternehmen ab zehn Beschäftigten: 16,4 % Nutzung mindestens einer KI-Technologie, 53,1 % bei Grossunternehmen, 15,7 % bei kleinen und mittleren, Abstand von rund 20 Prozentpunkten im Jahr 2023 auf 37 Prozentpunkte im Jahr 2025: istat.it
  6. Istat, Statreport Imprese e ICT, Anno 2025, dieselbe Erhebung: 33,4 % der KI-nutzenden Unternehmen benennen keinen der vorgeschlagenen Anwendungsbereiche, davon 83,3 % Betriebe mit 10 bis 49 Beschäftigten: istat.it
  7. Verordnung (EU) 2024/1689 über künstliche Intelligenz, Artikel 6 mit Anhang I und Anhang III zur Einstufung als hochriskant, Artikel 14 zur menschlichen Aufsicht und Artikel 26 zu den Pflichten der Betreiber: eur-lex.europa.eu
  8. Verordnung (EU) 2026/1744 zur Vereinfachung der Vorschriften über künstliche Intelligenz, veröffentlicht im Amtsblatt der Europäischen Union am 24. Juli 2026, mit den neuen Anwendungsdaten 2. Dezember 2027 für eigenständige und 2. August 2028 für in Produkte eingebaute Hochrisikosysteme: eur-lex.europa.eu
  9. Osservatorio Artificial Intelligence des Politecnico di Milano, Erhebung zur KI-Governance in italienischen Grossunternehmen, sponsorfinanziert und ohne offengelegte Stichprobe; die dort berichteten Anteile geben wir nicht wieder, weil sie sich an der zugänglichen Veröffentlichung nicht überprüfen lassen: osservatori.net
  10. Istat, Statreport Imprese e ICT, Anno 2025, dieselbe Erhebung: von den Unternehmen ohne KI-Einsatz haben 11,5 % den Einsatz erwogen; die Hemmnisse fehlende Kompetenzen mit 58,6 % und fehlende gesetzliche Klarheit mit 47,3 % beziehen sich ausschliesslich auf diese Teilgruppe und nicht auf alle Nichtnutzer: istat.it
  11. Agenzia per la cybersicurezza nazionale, Regolamento per le infrastrutture digitali e per i servizi cloud per la pubblica amministrazione, in Kraft seit 1. August 2024, Kategorie PR.DS-01, Anforderung 8_S in Anhang 2 und Anforderung 17_S in Anhang 3: bei strategischen Daten und Diensten sind alle Arten von Metadaten auf Infrastrukturen im Gebiet der Europäischen Union zu verarbeiten, ausgenommen die für die dort genannten Dienste nötigen: acn.gov.it
  12. Agenzia per la cybersicurezza nazionale, Determinazione n. 379907/2025 vom 19. Dezember 2025, anwendbar ab 15. Januar 2026, mit einer Frist von 18 Monaten ab Zustellung für die Basismassnahmen; sie ersetzt die frühere Determinazione 164179/2025: acn.gov.it
  13. Verordnung (EU) 2016/679, Datenschutz-Grundverordnung, Artikel 22 zur ausschliesslich auf automatisierter Verarbeitung beruhenden Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung: eur-lex.europa.eu
  14. Garante per la protezione dei dati personali, Provvedimento n. 342 vom 14. Mai 2026, Verwarnung nach Artikel 58 Absatz 2 Buchstabe a der Datenschutz-Grundverordnung gegenüber dem Anbieter eines Zusatzprogramms, das aus Nachrichten in Chatprogrammen die Belastung von Beschäftigten ableiten sollte; die Verwarnung stützt sich ausdrücklich auch auf Artikel 5 Absatz 1 Buchstabe f der Verordnung (EU) 2024/1689, der Systeme zur Ableitung von Emotionen am Arbeitsplatz verbietet: garanteprivacy.it