Die Idee eines Agenten-Betriebssystems klingt auf dem Papier großartig. Anstatt sich durch Menüs zu klicken und monotone Aufgaben selbst zu erledigen, teilen Sie Ihrem Computer über eine Eingabeaufforderung mit, was Sie möchten, und er findet selbst heraus, wie er diese Aufgabe ausführen kann. Dateien können verschoben, Einstellungen geändert, E-Mails verfasst und gesendet werden. Und was am wichtigsten ist: Diese Aufgaben werden mit minimalem Benutzeraufwand miteinander verkettet.
In einer Welt, in der es keine böswilligen Akteure und Softwarefehler gibt, klingt das alles großartig, aber leider leben wir in einer Welt voller solcher Dinge. Dieses Agentenmodell widerlegt stillschweigend viele der Annahmen, auf denen modernes Computing basiert. Betriebssysteme waren in der Vergangenheit reaktiv, deterministisch und explizit, und agentenbasierte Betriebssystemdesigns ersetzen dies durch Autonomie, Inferenz und probabilistische Entscheidungsfindung. Dieser Wandel geht mit Kompromissen einher, die weitaus gravierender sind, als die meisten Marketingmaßnahmen vermuten lassen.
Dramatisch erhöhtes Sicherheitsrisiko
Sie vertrauen sehr auf etwas, das sich täuschen lässt
Der Mensch ist fehlbar. Durch Social Engineering, Phishing oder andere schändliche Methoden können wir dazu verleitet werden, Informationen bereitzustellen, die wir sonst nicht bereitstellen würden. Damit ein Agenten-Betriebssystem nützlich ist, benötigt es die gleiche Zugriffsebene wie Sie als Benutzer. Das bedeutet, dass es Dateiberechtigungen, Anwendungsberechtigungen, Netzwerkzugriff und, was vielleicht am besorgniserregendsten ist, Ihren Passwort-Tresor benötigt. Ein Agenten-Betriebssystem, das alle 10 Minuten anhält, um nach Ihrem Passwort zu fragen oder einen Passkey zu bestätigen, verfehlt seinen Zweck, und hier liegt der Kern des Problems bei Agenten-Betriebssystemen.
Agentensysteme sind nicht unfehlbar. Wenn eine herkömmliche App ausfällt oder kompromittiert wird (oder sogar ein LLM, um der Argumentation halber zu sein), ist der „Explosionsradius“ relativ begrenzt, aber wenn ein Agent ausfällt, könnte seine Autorität nahezu auf Systemebene katastrophale Folgen nicht nur für Ihren Computer, sondern auch für Ihre Daten haben. Die Angriffsfläche ist riesig. Prompt-Injection, vergifteter Kontext und andere Manipulationen von Eingaben für einen Agenten können zu brauchbaren Sicherheitsvektoren werden. Die Leute haben immer wieder bewiesen, dass man Leute wie ChatGPT oder Claude dazu verleiten kann, etwas zu tun, was sie nicht tun sollten, und diese Agenten-Betriebssysteme werden nicht anders sein.
Es gibt keine Verantwortung
Unternehmen werden sich ihrer Haftung entledigen
Wenn ein herkömmliches Betriebssystem etwas Unerwartetes tut, ist die Verantwortung normalerweise ziemlich klar. Ein Benutzer hat auf eine Schaltfläche geklickt, eine App hat sich falsch verhalten oder ein Treiber ist abgestürzt. Bei Agentensystemen verschwindet diese Klarheit praktisch vollständig. War es die Aufforderung des Benutzers? Hat der Agent den vorherigen Kontext, in dem Sie es verwendet haben, falsch interpretiert? Hat es halluziniert?
Wer ist verantwortlich, wenn ein Agent die falschen Dateien löscht, vertrauliche Daten sendet oder wichtige Einstellungen ändert? Der Benutzer hat die Aktion nicht explizit ausgeführt. Das Betriebssystem folgte keiner deterministischen Anweisung. Das Modell interpretiert Absichten basierend auf Kontext, Verlauf und Wahrscheinlichkeit und kann (und wird) manchmal etwas falsch machen.
Dies führt insbesondere bei der Arbeit mit sensiblen Daten zu einem enormen Verantwortungsproblem. Es ist wahrscheinlich, dass jede Art von Agenten-Betriebssystem mit einer sehr ausführlichen Erklärung zu den Allgemeinen Geschäftsbedingungen ausgestattet ist, die es ihnen ermöglicht, die Schuld wieder auf den Benutzer abzuwälzen. Ich kann mir vorstellen, dass dies in jeder Art von Unternehmensumgebung zu einem rechtlichen Albtraum wird, wenn ein Administrator mutig genug ist, die Nutzung überhaupt zuzulassen.
Fehler können nicht mehr reproduzierbar sein
Kann die PC-Fehlerbehebung vollständig zum Scheitern bringen
Einer der grundlegenden Aspekte des Besitzes und der täglichen Nutzung eines PCs ist die Fähigkeit, Fehler zu reproduzieren und sie entsprechend zu beheben. Ein Problem, das Sie nicht reproduzieren können, ist extrem schwer zu beheben, und sobald Sie dem Mix Agentenfunktionen hinzufügen, verlieren Sie die Fähigkeit, ein Problem zu durchdenken.
Agentenentscheidungen werden durch Timing, vorherigen Kontext, Systemstatus und probabilistisches Denken beeinflusst. Dieselbe Anfrage wird zweimal gestellt und kann zu unterschiedlichen Ergebnissen führen. Ein Fehler, der einmal auftritt, kann nie wieder auftreten oder unter leicht veränderten Umständen erneut auftreten.
Protokolle können zeigen, welche Maßnahmen ergriffen wurden, aber selten, warum sie ausgewählt wurden. Dies macht herkömmliche Arbeitsabläufe zur Fehlerbehebung unwirksam. Schritte, die von vornherein nie explizit waren, lassen sich nicht zuverlässig nachvollziehen.
Die Intent-Schlussfolgerung ist immer noch grundsätzlich unzuverlässig
Menschen sind nicht immer vorhersehbar
Agentische Betriebssysteme basieren auf einer fragilen Annahme: dass das System korrekt ableiten kann, was der Benutzer tun wollte. Die menschliche Absicht ist jedoch manchmal chaotisch, oft mehrdeutig und stark kontextabhängig.
Benutzer geben oft unvollständige Anweisungen, weil Menschen auf gemeinsame Annahmen und Situationsbewusstsein angewiesen sind. Modelle verstehen diese Annahmen nicht wirklich, sondern nähern sich ihnen an. Wenn sie etwas falsch machen, ist das Ergebnis nicht nur ein schlechter Vorschlag; Es handelt sich um eine Aktion, die im Namen des Benutzers ausgeführt wird.
Die gefährlichsten Fehler sind diejenigen, die fast richtig sind. Den falschen Ordner zu löschen, die falsche Einstellung zu ändern oder das falsche Dokument freizugeben, ist weitaus schlimmer, als gar nichts zu tun. Ich persönlich würde lieber aus eigenem Antrieb falsch liegen.
Automatisierung hat einen Platz in Betriebssystemen, Agentenaktionen jedoch nicht
Agentensysteme machen in engen Tools mit großem Umfang Sinn, Betriebssysteme fallen jedoch nicht in diese Kategorie. Ihr Anwendungsbereich ist groß und vielfältig, und obwohl sie von benutzerdefinierten Automatisierungen profitieren können, verschiebt alles Agentische die Grenzen für meinen Geschmack etwas zu weit. Betriebssysteme sollten langweilig und vorhersehbar sein.
*️⃣ Quelllink:
Führen Sie diese Aufgabe selbst aus, brechen Sie viele der Annahmen, als die meisten Marketingmaßnahmen implizieren, gleiche Zugriffsebene, Betriebssysteme, vorhersehbar,