Gesetz über künstliche Intelligenz

Sie entwickeln oder lassen ein KI-System entwickeln und bringen es unter Ihrem eigenen Namen auf den Markt oder nehmen es in Betrieb. Sie sind derjenige, der das System entwickelt hat – oder zumindest derjenige, dessen Name auf der Verpackung steht. Wenn Sie das Modell trainiert, das System entworfen oder es mit Ihrer Marke versehen haben, sind Sie der Anbieter.

Ihre Pflichten

• Stufen Sie das Risikoniveau Ihres KI-Systems ein: inakzeptabel, hoch, begrenzt oder minimal (Art. 6, Anhang III)
• Für KI mit hohem Risiko: Einführung eines Qualitätsmanagementsystems, das den gesamten Lebenszyklus abdeckt (Art. 17)
• Führen Sie vor dem Inverkehrbringen des Systems eine Konformitätsbewertung durch (Art. 43)
• Registrierung von KI-Systemen mit hohem Risiko in der EU-Datenbank (Art. 49)
• Stellen Sie den Anwendern transparente Informationen zur Verfügung – einschließlich der Funktionen, Einschränkungen und des Verwendungszwecks (Art. 13)
• Risikomanagement über den gesamten Lebenszyklus des KI-Systems hinweg umsetzen (Art. 9)
• Gewährleistung der Datenverwaltung bei Trainingsdaten: Relevanz, Repräsentativität und Freiheit von Verzerrungen (Art. 10)
• Gewährleistung einer menschlichen Aufsicht über den Betrieb des KI-Systems (Art. 14)
• Führen Sie technische Unterlagen und Protokolle (Art. 11–12)
• Melden Sie schwerwiegende Vorfälle den Behörden (Art. 62)

Wichtige Artikel

Sie nutzen ein KI-System unter Ihrer Verantwortung – für berufliche Zwecke, nicht als Endverbraucher. Wenn Sie ein KI-Tool erworben oder lizenziert und es in den Arbeitsabläufen Ihres Unternehmens eingesetzt haben, gelten Sie als Anwender. Sie haben das Modell zwar nicht selbst entwickelt, aber Sie haben sich für dessen Nutzung entschieden, und damit gehen bestimmte Verantwortlichkeiten einher.

Ihre Pflichten

• Verwenden Sie das KI-System gemäß den Anweisungen des Anbieters (Art. 26.1) – das Handbuch wurde nicht ohne Grund verfasst
• Stellen Sie sicher, dass die Aufsicht durch qualifiziertes Personal erfolgt (Art. 26.2)
• Überwachen Sie den Betrieb des KI-Systems und melden Sie Störungen dem Anbieter (Art. 26.5)
• Durchführung einer Folgenabschätzung im Hinblick auf die Grundrechte (FRIA) für KI mit hohem Risiko in bestimmten Sektoren (Art. 27)
• Informieren Sie die betroffenen Personen darüber, dass sie Entscheidungen von KI unterliegen (Art. 26.7) – insbesondere im Hinblick auf die Erkennung von Emotionen oder die biometrische Kategorisierung
• Bewahren Sie die vom KI-System mit hohem Risiko erstellten Protokolle mindestens 6 Monate lang auf (Art. 26.6)
• Auf Ersuchen mit den nationalen Behörden zusammenarbeiten (Art. 26.8)

Wichtige Artikel

Sie bringen KI-Systeme von außerhalb der EU auf den EU-Markt. Sie sind das Tor – wenn ein Anbieter aus einem Nicht-EU-Land KI in Europa verkaufen möchte, sind oft Sie derjenige, der dies ermöglicht. Damit geht die Verantwortung einher, zu überprüfen, ob das, was Sie importieren, tatsächlich den EU-Anforderungen entspricht.

Ihre Pflichten

• Vergewissern Sie sich, dass der Anbieter die Konformitätsbewertung durchgeführt hat (Art. 23 Abs. 1)
• Stellen Sie sicher, dass das KI-System die CE-Kennzeichnung trägt und mit den erforderlichen Unterlagen versehen ist (Art. 23 Abs. 1)
• Vergewissern Sie sich, dass der Anbieter einen Bevollmächtigten in der EU benannt hat (Art. 23 Abs. 2)
• Bringen Sie ein System nicht in Verkehr, wenn Sie Grund zu der Annahme haben, dass es nicht konform ist (Art. 23.3)
• Stellen Sie sicher, dass die Lager- und Transportbedingungen die Einhaltung der Vorschriften nicht beeinträchtigen (Art. 23.4)
• Bewahren Sie eine Kopie der EU-Konformitätserklärung 10 Jahre lang auf (Art. 23 Abs. 5)

Wichtige Artikel

Sie stellen KI-Systeme auf dem Markt bereit, ohne selbst Anbieter oder Importeur zu sein. Denken Sie beispielsweise an Wiederverkäufer, Marktplätze oder Integrationspartner. Sie sind Teil der Lieferkette, und der KI-Gesetzentwurf sieht vor, dass jeder in dieser Kette seinen Beitrag leistet.

Ihre Pflichten

• Vergewissern Sie sich, dass das KI-System die CE-Kennzeichnung trägt und über die erforderlichen Unterlagen verfügt (Art. 24.1)
• Stellen Sie ein System nicht zur Verfügung, wenn Sie Grund zu der Annahme haben, dass es nicht den Anforderungen entspricht (Art. 24.2)
• Stellen Sie sicher, dass die Lager- und Transportbedingungen die Einhaltung der Vorschriften nicht beeinträchtigen (Art. 24.3)
• Informieren Sie den Anbieter oder Importeur, wenn Sie der Ansicht sind, dass das System ein Risiko darstellt (Art. 24.4)
• Mit den zuständigen Behörden zusammenarbeiten und auf Anfrage Auskünfte erteilen (Art. 24.5)

Wichtige Artikel

Verfügbare Tools

• KI-Systemverzeichnis – Erfassen Sie alle KI-Systeme in Ihrem Unternehmen mit Metadaten und Risikostufen
• Risikoeinstufung (4 Stufen) – strukturierte Bewertung in Übereinstimmung mit den Kategorien in Anhang III
• FRIA-Vorlage – 12-Punkte-Checkliste zur Folgenabschätzung im Bereich der Grundrechte
• Compliance-Leitfaden nach Risikostufe – eine Schritt-für-Schritt-Anleitung, die auf Ihr Klassifizierungsergebnis zugeschnitten ist

KI-gestützte Funktionen

• KI-gestützte Risikoklassifizierung – automatisierter Abgleich mit Anhang III unter Verwendung von RAG mit Konfidenzwerten und Einflussfaktoren
• Beratungsassistent (ai_act_classification) – 5-stufige, schrittweise Klassifizierung mit KI-Analyse in jedem Schritt
• Semantische Suche in den Artikeln und Erwägungsgründen des KI-Gesetzes