KI-Agenten scheitern im Web: Menschen übernehmen die Aufgaben
Startups setzen auf menschliche Arbeitskräfte, weil KI-Agenten bei Telefonaten und komplexen Web-Aufgaben weiterhin unzuverlässig sind.
Wenn das nächste Mal ein hochauflösendes KI-Agenten-System versucht, einen Anruf zu tätigen, um eine Kabelrechnung zu verhandeln, könnte es tatsächlich ein Mensch sein, der mit dem Kundenservice feilscht – und nicht die Software. Denn Foundation Models, die von Unternehmen wie Meta und OpenAI entwickelt wurden, können nach wie vor keine zuverlässigen Aktionen im Web ausführen, insbesondere solche, die Telefonate beinhalten. Genau hier setzen Startups für persönliche KI-Agenten wie Dazzle AI, Duckbill und Wajo AI an und betonen die Rolle menschlicher Arbeitskräfte bei der Aufgabenerledigung, wenn die Software versagt.
Der Grund dafür ist technischer Natur: KI-Agenten, die von den neuesten Foundation Models angetrieben werden, scheitern immer noch an zuverlässigen Aktionen im Web, besonders wenn Telefonate nötig sind. Die ehemalige Yahoo-Chefin Marissa Mayer, die derzeit das Agenten-Startup Dazzle AI leitet, sagt, dass aktuelle Top-KI-Modelle darin hervorragende Leistungen erbringen, Online-Dienste für Heimrenovierungen für Verbraucher aufzuspüren, aber scheitern könnten, wenn es darum geht, ein Dachupdate zu buchen und zu planen.
„Wir verlassen uns darauf, dass die Frontier-Models uns gute Vorschläge und eine gute Kandidatenliste liefern, aber wir prüfen diese sorgfältig, um sicherzustellen, dass wir wirklich die Art von Service liefern, hinter dem wir stehen können“, sagte Mayer und bezog sich darauf, wie Dazzle bestimmte Aufgaben an menschliche Handwerker weiterleitet.
Digitale Assistenten stoßen auf digitale Hindernisse
Digitale Assistenten, die von künstlicher Intelligenz angetrieben werden, gewinnen derzeit dank Meta, OpenAI und anderer Anbieter neues Interesse, die die Technologie als fähig darstellen, Aufgaben wie die Suche nach Schuhen im Internet zu erledigen. Metas Muse, OpenAIs Dots und eine Reihe anderer Agenten können eine Vielzahl von Web-Browsing-Leistungen erbringen, aber es sind noch frühe Tage für die Technologie, und sie stößt oft auf digitale Hindernisse.
Diese Barrieren bestehen typischerweise in Aufgaben, bei denen ein KI-Agent einen Anruf tätigen, einen Arzttermin im Namen einer Person vereinbaren oder eine Couchreinigung von einem lokalen Reinigungsdienst reservieren müsste, sagte Meghan Joyce, CEO des Digital-Agent-Startups Duckbill. Für Aufgaben, die Urteilsvermögen in der realen Welt erfordern, schlagen Menschen laut Joyce die KI, und Unternehmen, die digitale Assistenten für den Verbrauchereinsatz entwickeln, müssen echte Personen einschalten, um die Kontrolle zu übernehmen.
Deshalb hat Duckbill kürzlich eine Application Programming Interface (API) vorgestellt, die für Unternehmen gedacht ist, die persönliche Agenten entwickeln, um sich mit menschlichen Vertragsarbeitern zu verbinden. „Wir arbeiten nach einem Modell, das dem von Uber nicht unähnlich ist, bei dem wir Aufgaben in atomare, kleine Stücke herunterbrechen“, sagte Joyce und verwies auf das Fahrdienstunternehmen, für das sie zuvor gearbeitet hat. Unternehmen, die Agenten entwickeln, können die API von Duckbill nutzen, um die Aufgaben zu delegieren, bei denen der Agent wahrscheinlich Fehler macht. Duckbill übersetzt diese Aufgaben in kleine Stücke, die ein durchschnittlicher Erwachsener konsistent und zuverlässig ausführen kann. „Und dann verfolgen wir, was passiert“, sagte Joyce.
Mayer nennt fehlenden gesunden Menschenverstand als Schwäche
Mayer sagte, dass KI-Modelle immer noch an gesunden Menschenverstand fehlen könnten. Sie erzählte, dass ein Superuser von Dazzle AI versuchte, die Technologie gleichzeitig mehrere Heimrenovierungsprojekte bearbeiten zu lassen, darunter einen Dachwechsel, ein kaputtes Fenster und der Kauf einer Glasplatte für einen Tisch. Aber der KI-Agent, so Mayer, verwechselte Fensterglas mit Tischplattenglas, wodurch das digitale Assistentensystem „versuchte herauszufinden, ob er die Tischplatte ins Fenster passen lassen könnte“.
Der Zwischenfall dauerte nicht lange, sagte Mayer, weil die Technologie von Dazzle die Aufgabe markierte und sie zur Fertigstellung an eine Person auslagerte. „Innerhalb weniger Sekunden hatte der Mensch alles geregelt. Ein Agent hätte eine lächerliche Anzahl an Tokens verbraucht“, sagte Mayer. „Oder sie hätten vielleicht nie eine gute Lösung gefunden.“
Shivani Poddar, CEO des Personal-AI-Agent-Startups Wajo AI, bindet ebenfalls menschliche Arbeitskräfte ein, um Telefonate zu führen und sogar CAPTCHA-Tests zu bewältigen, die dazu dienen, Bots von Websites fernzuhalten. „Ich denke, KI plus Menschen, kollaborative KI, ist das, was man braucht, um die Arbeit tatsächlich zu erledigen“, sagte Poddar und betonte, dass die Leute die Technologie nicht mehr nutzen werden, wenn Agenten Aufgaben nicht abschließen können.
Datenschutzbedenken und Hintergrundprüfungen
Chatbot- und Agenten-Interaktionen können extrem persönlich sein, und Nutzer haben guten Grund zur Sorge über das Einschreiten von Menschen, insbesondere wenn das Unternehmen ihnen nicht mitgeteilt hat, wie es funktioniert. Meta-Mitarbeiter hatten zuvor Bedenken hinsichtlich des Datenschutzes geäußert, nachdem das interne Testen des Unternehmens menschliche Vertragsarbeiter eingesetzt hatte, um Telefonate im Namen seines Muse-KI-Agenten zu führen. Ein Sprecher von Meta erklärte damals in einer Erklärung, dass diese Art von Testing „Kernstück des Produktentwicklungsprozesses“ sei. Meta setzt derzeit keine Menschen ein, um die Muse-Anfragen der Benutzer abzuschließen.
Joyce von Duckbill sagte, ihr Startup führe „umfassende Hintergrundüberprüfungen“ bei den 1099-Vertragsarbeitern durch, die es einsetzt, und vergleiche sie mit Fahrern bei Uber und DoorDash, „Leute, die hier in den Vereinigten Staaten leben und eine zusätzliche Einkommensquelle suchen“. Duckbill nutzt auch Vertragsarbeiter von Unternehmen, die typischerweise Contact-Center-Arbeitskräfte an Firmen anbieten.
Mayer sagte, Dazzle führe Hintergrundüberprüfungen durch und suche nach Handwerkern mit denselben Eigenschaften, die man bei einem menschlichen persönlichen Assistenten sucht. „Wir screenen im Allgemeinen nach Personen, von denen wir denken, dass sie extrem diskret sind und einen guten Geschmack und gutes Urteilsvermögen haben, sowohl in Bezug darauf, wie sie mit unseren Nutzern interagieren, als auch in Bezug auf die Fähigkeit, diese Informationen danach irgendwie zu vergessen und zu compartmentalisieren“, sagte Mayer. „Ich verstehe, dass es ein Privileg ist, aber ich habe seit einiger Zeit persönliche Assistenten und weiß, wie ich sie will, und ich weiß, wie ich sie lenke.“
Mayer sagte, dass der Markt sich in einer „Übergangsphase“ befinde, bis die Technologie anspruchsvollere Web-Aufgaben und Telefonate so effizient wie Menschen ausführen könne, während sich die Foundation Models weiterhin verbessern. „Wir versuchen es nicht einmal zu verbergen, wir denken, dass der Mensch im Loop ein Vorteil ist“, sagte Mayer. Für deutsche Anleger und Beobachter der KI-Branche zeigt sich damit ein wichtiges Muster: Der Hype um autonome Agenten stößt in der Praxis an Grenzen, und der Faktor Mensch bleibt vorerst ein zentraler Bestandteil vieler Geschäftsmodelle.