OpenAI hat Peter Steinberger eingestellt, den Entwickler des Open-Source-KI-Agenten-Frameworks „OpenClaw“. OpenAI-CEO Sam Altman erklärte, er werde den persönlichen KI-Agenten der nächsten Generation im Unternehmen leiten. OpenClaw selbst bleibt Open Source, eine eigene Stiftung übernimmt Pflege und Unterstützung. Zur selben Zeit haben in Südkorea Plattformen wie Naver und Kakao interne Richtlinien erlassen, die die Nutzung dieses Werkzeugs im Unternehmen untersagen.
Bei OpenClaw bestimmt die KI den nächsten Schritt selbst, auch wenn der Nutzer keine Anweisungen Schritt für Schritt gibt, und erledigt die Arbeit, indem sie Maus und Tastatur des PCs direkt bewegt. Es wird auch Clawdbot und Moltbot genannt und verbreitete sich über die Entwicklergemeinde auf GitHub. Da das Programm das Klicken und Tippen übernimmt, das bisher Menschen erledigten, unterscheidet es sich in seinem Charakter von bisherigen Chatbots. Es bleibt nicht beim Zusammenfassen von Dokumenten, sondern ist ein Werkzeug, das den Computer direkt bedient.
Die Sperren gehen auf diesen Charakter zurück. Kakao teilte intern mit, dass es die Nutzung im Firmennetz und auf Arbeitsgeräten zum Schutz der Informationswerte des Unternehmens unterbinde, und auch Danggeun blockiert den Zugang zu OpenClaw und Moltbot. Woowa Brothers forderte in einer internen Mitteilung dazu auf, die betreffenden Werkzeuge sofort zu beenden und zu löschen, und ergriff zugleich Maßnahmen, um die Ausführung selbst über eine Sicherheitslösung zu verhindern. Dass ein koreanisches Unternehmen ein Verbot einer bestimmten KI bekannt gibt, geschieht zum ersten Mal seit der Beschränkung des chinesischen DeepSeek Anfang 2025.
Die von Woowa Brothers genannten Gründe sind konkret. Weil das Werkzeug die Eingabegeräte direkt steuert und dabei auch mit externen Servern kommuniziert, könne es zu nicht autorisierten Aktionen oder zu willkürlichen Änderungen der Sicherheitseinstellungen kommen, und E-Mails, Quellcode und vertrauliche Dokumente könnten an externe KI-API-Server gelangen. Kim Jung-hoon, Chief Information Security Officer (CISO) von Woowa Brothers, sagte, Ziel sei es, mögliche Wege für Datenabflüsse zu kappen und die Daten der Nutzer zu schützen. Samsung Electronics und SK Hynix gaben keine gesonderte Mitteilung heraus, die Halbleiterbranche hat die Nutzung externer generativer KI im Firmennetz seit dem ChatGPT-Boom 2023 gesperrt.
Die Bedenken bleiben nicht auf Südkorea beschränkt. Das chinesische Ministerium für Industrie und Informationstechnologie (MIIT) forderte am 5. Februar (Ortszeit) offiziell eine starke Identitätsprüfung und Zugriffskontrolle, da falsch konfiguriertes OpenClaw als Einfallstor für Cyberangriffe und Datenabflüsse dienen könne. Auch das KI-Sicherheitsteam von Microsoft äußerte öffentlich die Sorge, das Sicherheitsniveau dieses Frameworks sei für den Einsatz in Unternehmensumgebungen zu schwach. Tatsächlich wurden Fälle gemeldet, in denen API-Schlüssel von Nutzern unverschlüsselt gespeichert und dadurch offengelegt wurden, sowie Fälle, in denen persönliche Daten und Finanzdaten durch „indirekte Prompt-Injektion“ abflossen, bei der der Agent in Webseiten oder Dokumenten versteckte Befehle für Anweisungen hält und ihnen folgt.
Wie schnell sich die Technik ausbreitet, lässt sich auch an anderer Stelle ablesen. „Moltbook“, wo sich nur KI-Agenten mit OpenClaw versammeln, ist ein eigenes soziales Netzwerk, in dem Menschen sich nicht anmelden können und autonome Agenten miteinander sprechen und Beziehungen knüpfen. Die Sicherheitsfirma Wiz wies auf einen Konstruktionsfehler in diesem Raum hin. Wenn Agenten dort miteinander verkehren, wo kein Mensch hinsieht, wächst zugleich die Möglichkeit, dass Probleme erst spät entdeckt werden.
Auf der anderen Seite läuft auch die Arbeit daran, einen Weg zu schaffen, Agenten sicher aufzunehmen. Der von Google und Microsoft gemeinsam entwickelte Webstandard „WebMCP“ kam am 10. Februar (Ortszeit) als experimentelles Flag in die Canary-Version von Chrome 146. Diese Spezifikation, die in der W3C Web Machine Learning Community Group erprobt wurde, übergibt über die Browser-API navigator.modelContext die Funktionen, die eine Website der KI zur Verfügung stellen kann, direkt an diese. Sie bietet zwei Wege, nämlich Werkzeugnamen und Beschreibung an ein HTML-Formular anzuhängen und JavaScript-Funktionen mit der Funktion registerTool() zu registrieren.
Warum dieser Ansatz wichtig ist, hängt an Kosten und Kontrolle zugleich. Die heutigen Web-Agenten nehmen den Bildschirm auf und lesen ihn als Bild, weshalb sie für ein einziges Bild mehrere tausend Token verbrauchen. Gibt eine Website nur die von ihr erlaubten Funktionen heraus, sinkt die Verschwendung, und der Dienst kann bestimmen, was er öffnet. Wann die Spezifikation zum offiziellen Standard wird, steht nicht fest, und auch über eine Einführung durch koreanische Plattformen ist nichts entschieden.
