Mission 1 · Vor den Mauern
Dein erster Besucher
Verstehe, was das Teilen eines KI-Bots wirklich bedeutet.
Ein Freund bittet, deinen neuen KI-Bot nutzen zu dürfen. Er kann chatten, Dateien lesen und Programme ausführen. Sein Telegram-Konto ist zum Benutzen des Bots freigegeben.
Dein Freund
“Das ist doch nur ein Chatbot. Was könnte schiefgehen, wenn ich reindarf?”
Die Entscheidung
Was solltest du annehmen, bevor du den Bot teilst?
- Nur ein Server-Experte könnte ihn gefährlich machen
Eine normale Nachricht kann keine Computeraktion auslösen. - Ein freigegebenes Konto kann jedes aktivierte Werkzeug auslösen
Jemand, der dieses Konto nutzt, könnte den Bot auch bitten, Aktionen auszuführen. - Der Bot erkennt jede schädliche Anfrage
Seine Anweisungen schützen den Server ausreichend.
Erklärung zeigen
Genau. Zugang bedeutet nicht nur, Nachrichten senden zu können. Er kann auch Zugriff auf alle Werkzeuge geben, die der Bot verwenden darf.
Ein KI-Agent ist ein Chatbot mit Händen. Bevor du einen teilst, überlege, was diese Hände erreichen können.- Es braucht keine besonderen technischen Fähigkeiten, um einen Agenten um die Nutzung eines aktivierten Werkzeugs zu bitten.
- Dazu gehört auch jemand, der das Konto deines Freundes stiehlt.
- Modelle und ihre Anweisungen sind keine zuverlässigen Sicherheitsgrenzen.
KI-Agent
Ein KI-System, das über Werkzeuge Aktionen ausführen kann, nicht nur mit Text antworten.