KI-Agenten mit Freigaben: 5 Tests vor dem Start
KI-Agenten können Daten lesen und Aktionen ausführen. Vor dem ersten Einsatz brauchen sie klare Rechte und Freigaben. Teste 5 Grenzen mit echten Fällen. Erst danach sollte ein Agent E-Mails versenden, Datensätze ändern oder externe Systeme bedienen.
Warum KI-Agenten andere Kontrollen brauchen
Ein Chat liefert vor allem Antworten. Ein Agent kann zusätzlich Werkzeuge verwenden. Er kann Informationen abrufen, Einträge verändern oder Nachrichten auslösen.
Microsoft beschreibt für Copilot Studio Connectoren, MCP und Workflows als Werkzeugtypen. Diese können externe Systeme lesen und beschreiben. Welche Aktion möglich ist, hängt von Konfiguration und Berechtigungen ab.
Eine falsche Antwort bleibt problematisch. Eine falsche Aktion kann unmittelbare Folgen haben. Deshalb reicht ein guter Prompt allein nicht aus.
KI-Agenten mit Freigaben: 5 Tests
1. Zweck und erlaubte Aktionen festlegen
Schreibe auf, welche Aufgabe der Agent löst. Trenne Lesen, Entwerfen und Ausführen. Nenne auch Aktionen, die er niemals ausführen darf.
Beispiel: Ein Vertriebsagent darf Kontaktinformationen zusammenstellen. Er darf keine Angebote ohne Prüfung versenden. Preise und Rabatte bleiben gesperrt.
Teste eine Anfrage außerhalb des Zwecks. Der Agent soll sie ablehnen oder an eine Person weitergeben.
2. Zugriffe auf das Nötige begrenzen
Gib dem Agenten nur die benötigten Daten und Werkzeuge. Prüfe jede Verbindung zu CRM, E-Mail und Dateien. Teste getrennte Nutzerrollen.
Microsoft empfiehlt in seiner Dokumentation zu Agentenrechten die kleinsten nötigen Berechtigungen. Das Prinzip gilt auch außerhalb von Microsoft 365.
Teste, ob der Agent vertrauliche Daten außerhalb seiner Rolle sehen kann. Prüfe auch freigegebene Ordner und geerbte Berechtigungen.
3. Kritische Schritte vor Ausführung bestätigen
Markiere Aktionen mit Folgen für Kunden oder Daten. Dazu gehören Versand, Löschung, Preisänderung und Freigabe. Eine Person muss Inhalt und Ziel prüfen.
Microsoft führt in seiner Roadmap für Copilot Studio verpflichtende Freigaben vor Werkzeugaufrufen. Der Rollout ist für September 2026 angekündigt. Prüfe die Verfügbarkeit in Deinem Mandanten.
Eine Freigabe sollte konkrete Angaben zeigen: geplante Aktion, Ziel, Daten und Folgen. Ein pauschales Ja ohne Kontext hilft nicht.
4. Fehler und manipulierte Inhalte testen
Lege dem Agenten absichtlich falsche oder widersprüchliche Informationen vor. Prüfe, ob er Quellen vergleicht. Teste Anweisungen in Dokumenten, die ihn umlenken sollen.
Die OWASP-Anleitung zu Agenten-Anwendungen beschreibt Risiken durch weitreichende Rechte und unkontrollierte Aktionen. Nutze sie als technische Prüfliste.
Der Agent soll unsichere Fälle stoppen. Er darf fehlende Kundendaten oder Preise nicht erfinden. Dokumentiere jeden Fehlversuch.
5. Protokolle und Stoppweg prüfen
Halte fest, wer eine Aktion auslöste und welche Freigabe vorlag. Speichere Ergebnis und Fehler. Kläre vorab, wer den Agenten abschaltet.
Microsoft beschreibt Verwaltung und Überwachung von Agenten im Admin Center. Die konkreten Möglichkeiten hängen vom Produkt und der Lizenz ab.
Teste einen Stopp im laufenden Vorgang. Prüfe, ob bereits ausgelöste Aktionen nachvollziehbar bleiben. Ein Agent ohne Stoppweg gehört nicht in einen kritischen Prozess.
Ein Testfall für den Vertrieb
Ein Agent bereitet nach Kundengesprächen CRM-Notizen vor. Er liest freigegebene Gesprächsdaten und schlägt nächste Schritte vor. Der Verkäufer prüft jeden Eintrag.
Teste 10 Fälle. Darunter sind 2 veraltete Preise und 2 unklare Ansprechpartner. Zähle falsche Änderungen und notwendige Korrekturen.
Im ersten Test darf der Agent nur Entwürfe erzeugen. Schreibrechte folgen erst nach stabiler Prüfung. Unser Beitrag zu geprüften Angebotsentwürfen zeigt einen verwandten Ablauf.
Häufige Fragen zu Agentenfreigaben
Braucht jede Agentenaktion eine Freigabe?
Nein. Lege Freigaben für Aktionen mit relevanten Folgen fest. Reine Entwürfe brauchen meist eine spätere Inhaltsprüfung.
Reicht eine Anweisung im Prompt?
Nein. Begrenze Rechte und Werkzeuge technisch. Prüfe Freigaben vor der Ausführung.
Wer sollte Agenten freigeben?
Die fachlich verantwortliche Person prüft den Inhalt. IT prüft Rechte und Verbindungen. Beide Rollen brauchen klare Zuständigkeit.
Wie erkennt ein Team Fehlverhalten?
Teste Grenzfälle vor dem Start. Werte Protokolle, Korrekturen und unerwartete Aktionen regelmäßig aus.
Was ist der kleinste sichere Einstieg?
Beginne mit lesendem Zugriff und Entwürfen. Ergänze Schreibrechte nur nach erfolgreichen Tests.
Dein nächster Schritt
Wähle 1 geplanten Agenten. Liste seine Werkzeuge und Rechte auf. Teste die 5 Grenzen mit 10 echten Fällen.
Für einen begleiteten Start nutze unsere KI-Trainings für Unternehmen. Bringe den Prozess und seine Freigaben mit.