Wenn AI handeln kann, und was schiefgehen kann.
Das Wichtigste
- Das Modell fordert an, dein System prüft und führt aus.
- MCP: einmal anbinden, aber nur vertrauenswürdige Server.
- Minimale Rechte und menschliche Bestätigung vor Aktionen.
Tools
Das Modell drückt nie selbst auf den Knopf.
Ein Tool ist eine Funktion, deren Ausführung das Modell anfordern kann: Suche, Rechner, E-Mail-Versand.
Das Modell führt es nicht selbst aus. Es fordert den Aufruf mit Parametern an, dein System prüft die Berechtigung und führt ihn aus, und das Ergebnis geht zurück an das Modell.
Merke dir: Das Modell fordert an, dein System prüft und führt aus.
MCP
Einmal anschließen, überall nutzen. Mit einem Haken.
Das Model Context Protocol ist ein offener Standard: Du bindest ein Tool oder eine Datenquelle einmal an und nutzt es aus verschiedenen AI-Apps, die das Protokoll unterstützen.
Aber ein Server handelt mit den Rechten, die du ihm gibst. Bind also nur vertrauenswürdige an.
Merke dir: MCP: einmal anbinden, aber nur vertrauenswürdige Server.
Grenzen machen Agenten sicher
Ein Agent, der fragt, ist besser als einer, der einfach macht.
Minimale Rechte: nur der Zugriff, den die Aufgabe braucht. Bestätigung: Ein Mensch gibt vor Aktionen frei.
Ein Agent, der Kalenderänderungen vorschlägt und dich bestätigen lässt, ist sicherer als einer mit vollem Zugriff auf alles.
Merke dir: Minimale Rechte und menschliche Bestätigung vor Aktionen.