EU AI Act 2026: Die Evidence-Folder-Checkliste für KI-Agenten

Der EU AI Act wird 2026 für viele Unternehmen vom abstrakten Rechtsthema zum operativen Nachweisproblem. Besonders bei KI-Agenten reicht es nicht, eine Policy in der Schublade zu haben. Wer Agenten in Support, Vertrieb, Backoffice, Dokumentenprüfung oder Workflow-Automation einsetzt, braucht einen Evidence Folder: einen sauberen Ordner mit Systeminventar, Risikoeinschätzung, Anbieterunterlagen, Logs, Human Oversight und Testnachweisen.

Kurzantwort: Unternehmen sollten für jeden produktiven KI-Agenten nachweisen können, welchen Zweck er erfüllt, welche Daten und Systeme er nutzt, welche Rechte er besitzt, wann Menschen freigeben müssen, wie Tool-Aufrufe protokolliert werden und welche Tests vor Änderungen oder Go-live bestanden wurden. Genau dafür dient ein Evidence Folder: Er verbindet EU-AI-Act-Risikodenken, DSGVO-Dokumentation und operatives Agenten-Monitoring in einem prüfbaren Arbeitsordner.

Dieser Artikel ist keine Rechtsberatung. Er ist eine praktische Arbeitsgrundlage für Geschäftsführer, IT-Leiter, Datenschutzverantwortliche und Operations-Teams, die KI-Agenten im Mittelstand produktiv einsetzen wollen, ohne 2026 hektisch Belege zusammenzusuchen.

EU AI Act Evidence Folder für KI-Agenten

Stand Mai 2026: Welche AI-Act-Fristen für KI-Agenten wichtig sind

Der EU AI Act ist seit August 2024 in Kraft und wird schrittweise wirksam. Für viele Unternehmen ist vor allem der 2. August 2026 relevant, weil dann zentrale Pflichten des AI Acts anwendbar werden. Bestimmte Verbote gelten bereits seit Februar 2025; Regeln für General-Purpose-AI-Modelle greifen seit August 2025; einzelne Hochrisiko-Pflichten für Produkte mit sektoraler Regulierung folgen später.

Für KI-Agenten im Mittelstand heißt das praktisch: Nicht jeder Agent ist automatisch ein Hochrisiko-System. Aber jeder produktive Agent sollte so dokumentiert sein, dass Zweck, Datenflüsse, Tool-Rechte, menschliche Aufsicht, Logs und Anbieterrollen nachvollziehbar sind. Das ist kein "GEO-Hack" und keine Formalie für Suchmaschinen, sondern genau die Art von einzigartiger, hilfreicher und belegbarer Substanz, die auch Google für Sichtbarkeit in AI Overviews empfiehlt.

Merksatz: Wenn ein Agent Daten liest, Systeme verändert oder Entscheidungen vorbereitet, braucht er nicht nur einen Prompt — er braucht einen prüfbaren Betriebsnachweis.

Warum KI-Agenten ein anderes Compliance-Problem sind als Chatbots

Ein normaler Chatbot beantwortet Fragen. Ein KI-Agent kann zusätzlich Werkzeuge nutzen: E-Mails schreiben, CRM-Daten lesen, Tickets verändern, Dateien analysieren, Datenbanken abfragen, Rechnungen vorbereiten oder Workflows in n8n, Make, ERP oder DMS auslösen.

Damit verschiebt sich die zentrale Frage:

Nicht nur: "Was sagt das Modell?"

Sondern: "Was darf der Agent tun, auf welcher Grundlage, mit welchen Daten, unter welcher Aufsicht — und wie weisen wir das nach?"

Genau hier entsteht die Evidence-Lücke. Viele Unternehmen können zeigen, welchen Anbieter sie nutzen. Weniger können sauber zeigen:

Für einfache Experimente ist das noch tolerierbar. Für produktive KI-Agenten wird es gefährlich — besonders wenn sie personenbezogene Daten, Kundenkommunikation, HR-Dokumente, Finanzdaten oder operative Entscheidungen berühren.

Der wichtigste Perspektivwechsel: Nicht "AI Act lesen", sondern Nachweise bauen

Viele AI-Act-Artikel erklären Begriffe: verbotene Systeme, High-Risk, GPAI, Anbieter, Betreiber, Transparenzpflichten. Das ist wichtig, aber für die Umsetzung im Alltag oft zu abstrakt.

Unternehmen brauchen 2026 eine andere Frage:

Wenn morgen jemand fragt, warum dieser KI-Agent eingesetzt werden darf — welchen Ordner öffnen wir?

Dieser Ordner ist der Evidence Folder.

Er muss nicht kompliziert starten. Aber er sollte vollständig genug sein, damit ein interner Audit, ein Datenschutzgespräch, eine Kundenprüfung oder ein Anbieterwechsel nicht im Chaos endet.

Was in den Evidence Folder gehört

1. KI-Systeminventar

Der erste Fehler ist fast immer fehlende Übersicht. KI wird nicht nur über große Plattformprojekte eingeführt. Sie taucht in Fachabteilungen auf: ein Chatbot im Kundenservice, ein KI-Workflow in n8n, ein Copilot im Vertrieb, ein Dokumentenagent in der Buchhaltung, ein Coding-Agent in der Entwicklung.

Der Evidence Folder sollte für jeden Agenten mindestens enthalten:

Wichtig: Ein KI-Inventar ist kein Excel-Friedhof. Es ist die Grundlage für Risikobewertung, Kostenkontrolle, Sicherheit und Compliance.

Praxisfrage: Wenn ein Mitarbeiter kündigt oder ein Anbieter ausfällt — weiß das Unternehmen noch, welche Agenten auf welche Systeme zugreifen?

2. Rollenklärung: Provider, Deployer, Integrator

Beim EU AI Act ist relevant, welche Rolle ein Unternehmen einnimmt. Nutzt es nur ein fertiges System? Passt es ein Modell oder einen Agenten wesentlich an? Baut es für Kunden eine Lösung? Betreibt es KI im eigenen Prozess?

Für Mittelständler ist besonders die Deployer-Perspektive wichtig: Unternehmen setzen KI-Systeme ein und müssen nachweisen können, dass sie das kontrolliert tun.

Der Evidence Folder sollte deshalb eine einfache Rollennotiz enthalten:

Diese Klärung verhindert eine typische Lücke: Jeder zeigt auf den anderen. Der Modellanbieter verweist auf Plattformbedingungen, der Integrator auf den Kunden, der Kunde auf die IT. Am Ende fehlt der operative Nachweis.

3. Zweckbeschreibung und Grenzen des Agenten

Ein KI-Agent braucht eine klare Aufgabenbeschreibung. Nicht als Marketingtext, sondern als Steuerungsdokument.

Gute Zweckbeschreibungen beantworten:

Beispiel:

Der Agent unterstützt die Buchhaltung bei der Vorprüfung eingehender Lieferantenrechnungen. Er darf Rechnungsdaten extrahieren, Bestellungen im ERP suchen, Abweichungen markieren und Freigabevorschläge erstellen. Er darf keine Zahlung auslösen und keine Lieferantenstammdaten ohne menschliche Freigabe ändern.

Solche Grenzen sind wichtig, weil KI-Agenten oft schrittweise wachsen. Erst lesen sie Daten. Dann erstellen sie Entwürfe. Dann lösen sie Workflows aus. Ohne dokumentierte Grenze wird aus einem Assistenzsystem schnell ein unkontrollierter Akteur mit Systemrechten.

4. Risikoeinschätzung pro Use Case

Nicht jeder KI-Agent ist gleich kritisch. Ein interner FAQ-Agent hat ein anderes Risikoprofil als ein Agent, der Bewerbungen vorsortiert, Versicherungsfälle bewertet oder Finanzdaten verarbeitet.

Der Evidence Folder sollte für jeden Use Case eine kurze Risikoeinschätzung enthalten:

Für viele Mittelstandsprojekte reicht anfangs ein Ampelmodell:

Rot heißt nicht automatisch: verboten. Es heißt: nicht ohne formale Prüfung, stärkere Kontrollen und belastbare Dokumentation produktiv setzen.

5. Daten- und DSGVO-Dokumentation

Der EU AI Act ersetzt die DSGVO nicht. In der Praxis laufen beide Themen zusammen, weil KI-Agenten fast immer Daten bewegen.

Für jeden Agenten sollte dokumentiert sein:

Besonders wichtig bei Agenten: Nicht nur der Chatverlauf zählt. Auch Tool-Aufrufe, Logs, Datei-Uploads, Vektordatenbanken, Transkripte, E-Mail-Entwürfe und temporäre Zwischenergebnisse können personenbezogene oder vertrauliche Daten enthalten.

Original Insight: Bei KI-Agenten liegt das Datenschutzrisiko oft nicht im Modell selbst, sondern in der Orchestrierung: Welche Tools werden aufgerufen, welche Daten werden zusammengeführt, und welche Ergebnisse werden in andere Systeme zurückgeschrieben?

6. Anbieter- und Modellunterlagen

Unternehmen müssen nicht jeden technischen Detailnachweis selbst erzeugen. Aber sie sollten Anbieterunterlagen sauber sammeln.

In den Evidence Folder gehören:

Gerade bei schnell wechselnden KI-Stacks ist Versionierung wichtig. Ein Agent, der im Januar getestet wurde, kann im August anderes Verhalten zeigen, wenn Modell, Prompt, Tool, API oder Anbieterpolicy geändert wurden.

7. Tool- und Rechtekonzept

Der kritischste Teil bei KI-Agenten ist häufig nicht die Antwort, sondern der Tool-Zugriff.

Ein Agent mit Zugriff auf E-Mail, CRM, ERP, DMS, Ticketsystem, Datenbank oder Shell ist kein neutraler Chatbot mehr. Er ist eine digitale Identität mit Handlungsmöglichkeiten.

Der Evidence Folder sollte enthalten:

Pragmatische Regel: Ein KI-Agent sollte nie mehr Rechte haben als ein sorgfältig eingearbeiteter Mitarbeiter für genau diesen Prozess bräuchte.

KI-Agent Tool-Rechte und Human Oversight

Noch besser: Rechte nicht personenbezogen an Admin-Accounts hängen, sondern über spezifische Agentenrollen steuern.

8. Human Oversight: Wer greift wann ein?

Human-in-the-loop darf kein Feigenblatt sein. "Ein Mensch kann ja zur Not prüfen" reicht nicht, wenn niemand weiß, wann und wie geprüft wird.

Dokumentiert werden sollte:

Beispiel für eine sinnvolle Regel:

So wird Oversight messbar statt symbolisch.

9. Testnachweise vor Produktivbetrieb

Viele KI-Projekte gehen live, sobald die Demo beeindruckend wirkt. Für Compliance und Betriebssicherheit reicht das nicht.

Der Evidence Folder sollte Testnachweise enthalten:

Besonders wichtig: Tests müssen Use-Case-spezifisch sein. Ein allgemeiner Benchmark sagt wenig darüber aus, ob der Agent die eigenen Rechnungen, Tickets, Vertragsklauseln oder CRM-Felder korrekt behandelt.

10. Logs, Monitoring und Incident-Prozess

Wenn ein Agent produktiv arbeitet, braucht das Unternehmen Nachvollziehbarkeit.

Mindestens sollte klar sein:

Dazu gehört ein Incident-Prozess:

Für Mittelständler muss das nicht überkompliziert sein. Aber es muss existieren. Ein Agent ohne Logs ist wie ein Mitarbeiter ohne Gedächtnis und ohne Verantwortungsstruktur.

Welche Fragen ein Prüfer oder Kunde wahrscheinlich stellt

Ein guter Evidence Folder beantwortet nicht nur interne Fragen. Er bereitet auch typische externe Prüfungen vor:

Frage Wo die Antwort im Evidence Folder stehen sollte
Welcher konkrete KI-Agent ist im Einsatz? Systemsteckbrief und Inventar
Welche Aufgabe erfüllt der Agent — und was darf er nicht tun? Zweckbeschreibung und Grenzen
Welche personenbezogenen oder vertraulichen Daten verarbeitet er? Daten- und DSGVO-Dokumentation
Welche Tools, APIs und Systeme darf er nutzen? Tool- und Rechtekonzept
Wann entscheidet ein Mensch? Human-Oversight-Regeln
Wie wird Fehlverhalten erkannt und gestoppt? Monitoring, Logs, Incident-Prozess
Welche Anbieterunterlagen liegen vor? Anbieter- und Modellunterlagen
Welche Tests wurden vor Go-live oder Änderung bestanden? Testnachweise und Regressionstests

Diese Tabelle ist bewusst operativ. Sie hilft Teams, die Dokumentation nicht als juristischen Text, sondern als belastbares Nachweissystem zu bauen.

Die kompakte Evidence-Folder-Checkliste

Für den Start reicht eine klare Ordnerstruktur:

/evidence-folder/ki-agent-name/
  01-systemsteckbrief.md
  02-rollen-und-verantwortung.md
  03-zweck-und-grenzen.md
  04-risikoeinschaetzung.md
  05-daten-und-dsgvo.md
  06-anbieter-und-modellunterlagen/
  07-tools-und-rechte.md
  08-human-oversight.md
  09-testnachweise/
  10-logs-und-monitoring.md
  11-incidents-und-aenderungshistorie.md

EU AI Act Checkliste für KI-Agenten

Pro Agent sollte darin mindestens stehen:

Ein pragmatischer 30-Tage-Plan für Unternehmen

Woche 1: Inventar schaffen

Sammeln Sie alle KI-Systeme und Agenten, auch kleine Fachbereichslösungen. Ziel ist keine perfekte Compliance, sondern Sichtbarkeit.

Woche 2: Risiken sortieren

Bewerten Sie jeden Use Case mit Grün/Gelb/Rot. Priorisieren Sie Agenten mit personenbezogenen Daten, externen Nutzern, Systemrechten oder geschäftskritischen Aktionen.

Woche 3: Evidence Folder für die wichtigsten Agenten bauen

Starten Sie mit den 3 kritischsten Agenten. Füllen Sie Systemsteckbrief, Zweck, Daten, Tools, Human Oversight und Testnachweise aus.

Woche 4: Kontrollen nachziehen

Schließen Sie die größten Lücken: fehlende Freigaben, zu breite Rechte, unklare Anbieterunterlagen, fehlende Logs, keine Prompt-Injection-Tests, keine Incident-Regeln.

Nach 30 Tagen ist das Unternehmen nicht "fertig". Aber es hat Kontrolle über die wichtigsten Risiken — und eine Grundlage, die weiter ausgebaut werden kann.

Häufige Fragen zum Evidence Folder für KI-Agenten

Was ist ein Evidence Folder für KI-Agenten?

Ein Evidence Folder ist ein strukturierter Nachweisordner für einen KI-Agenten. Er dokumentiert Zweck, Owner, Datenflüsse, Anbieter, Risiken, Tool-Rechte, Human Oversight, Tests, Logs, Incidents und Änderungen. Ziel ist, im Audit oder Kundengespräch schnell zeigen zu können, warum der Agent kontrolliert und nachvollziehbar betrieben wird.

Muss jeder KI-Agent wegen des EU AI Acts einen Evidence Folder haben?

Nicht jeder KI-Agent ist automatisch hochriskant. Praktisch lohnt sich ein Evidence Folder trotzdem für jeden produktiven Agenten, der personenbezogene Daten verarbeitet, interne Systeme nutzt, Kundenkommunikation beeinflusst oder operative Aktionen vorbereitet. Der Umfang kann risikobasiert schlank oder ausführlich sein.

Was ist der Unterschied zwischen Provider und Deployer?

Vereinfacht: Der Provider stellt ein KI-System oder Modell bereit; der Deployer setzt es im eigenen Prozess ein. Ein Mittelständler ist häufig Deployer, kann aber durch starke Anpassungen, eigene Agentenlogik oder Kundenlösungen zusätzliche Verantwortung übernehmen. Deshalb gehört eine Rollenklärung in den Evidence Folder.

Welche Nachweise sind bei KI-Agenten wichtiger als bei normalen Chatbots?

Bei Agenten sind Tool-Aufrufe, Rechte, Datenflüsse, Freigaben, Logs und Notfallabschaltung besonders wichtig. Ein Chatbot gibt meist Text aus; ein Agent kann CRM-Felder ändern, E-Mails versenden, Dateien analysieren oder Workflows starten. Diese Handlungsebene muss dokumentiert werden.

Wie oft sollte der Evidence Folder aktualisiert werden?

Mindestens bei jedem relevanten Wechsel von Modell, Prompt, Tool, Datenquelle, Anbieter, Berechtigung oder Prozess. Für produktive Agenten ist zusätzlich eine regelmäßige Überprüfung sinnvoll — etwa quartalsweise oder nach jedem Incident.

Häufige Fehler, die Unternehmen vermeiden sollten

Fehler 1: Compliance erst nach dem Go-live anfangen

Dann sind Datenflüsse, Rechte und Prozesse bereits gewachsen. Nachdokumentation ist teurer als saubere Einführung.

Fehler 2: Nur den Modellanbieter prüfen

Bei Agenten zählt der gesamte Workflow: Prompt, Modell, Tools, Datenquellen, Rechte, Logs, Zielsysteme und Menschen im Prozess.

Fehler 3: Keine klare Grenze zwischen Vorschlag und Aktion

Ein Agent, der nur Text vorschlägt, ist anders zu bewerten als ein Agent, der Änderungen im CRM schreibt oder E-Mails versendet.

Fehler 4: Admin-Rechte für schnelle Demos vergeben

Das beschleunigt den Pilot, erzeugt aber später Sicherheits- und Auditprobleme. Besser früh mit minimalen Rollen arbeiten.

Fehler 5: Tests nicht wiederholen

Jede Änderung an Prompt, Modell, Tool oder Datenquelle kann Verhalten verändern. Deshalb brauchen Agenten Regressionstests wie Software.

Fazit: Der Evidence Folder ist kein Bürokratie-Projekt — er ist Betriebsführung

Der EU AI Act erhöht den Druck, aber der eigentliche Nutzen geht weiter: Unternehmen, die ihre KI-Agenten dokumentieren, verstehen ihre Automatisierung besser.

Sie wissen:

Für den Mittelstand ist das der Unterschied zwischen KI-Experiment und belastbarer Automatisierung.

Wer 2026 nicht in Panik geraten will, sollte jetzt anfangen: nicht mit einem 80-seitigen Rechtsgutachten, sondern mit einem Evidence Folder pro produktivem KI-Agenten.

NexTech Fusion unterstützt bei KI-Agenten-Governance

Wir helfen mittelständischen Unternehmen dabei, KI-Agenten produktiv einzusetzen — mit sauberer Architektur, DSGVO-Blick, Tool-Rechten, Human Oversight, Monitoring und einem Evidence Folder, der nicht nur gut aussieht, sondern im Alltag funktioniert.

Wenn Sie wissen möchten, welche Ihrer KI-Workflows 2026 dokumentationspflichtig oder riskant werden könnten: Sprechen Sie mit uns. Wir prüfen Ihre bestehenden Agenten und bauen eine pragmatische Roadmap für sichere KI-Automatisierung.

Quellen und weiterführende Hinweise