docmd-assistant v0.1.12 bringt entscheidende Fehlerbehebungen für die Ausführung von Multi-Turn-Tools im SSE-Streaming-Modus und verhindert das Durchsickern von roher Tool-Syntax in die Chat-Benutzeroberfläche.
Wichtige Funktionen & Verbesserungen
Korrekturen der SSE-Streaming-Tool-Schleife
Ein Problem in runRelayStreamLoop wurde behoben, bei dem Server-Sent Events (SSE)-Antworten mit Tool-Aufrufen vorzeitig abgebrochen wurden, ohne lokale Tools auszuführen:
- Vollständige Tool-Ausführung in SSE: Der SSE-Streaming-Reader parst nun sowohl strukturierte
dataObj.tool_callsals auch textbasierte Tool-Aufrufe ([Tool Call: ...]), führt registrierte Tools lokal aus und fährt mit der Antwortsynthese in Turn 2 fort. - Chunk-Pufferung in Turn 1: Tokens, die während der Tool-Evaluierung in Turn 1 generiert werden, werden gepuffert, bis das Tool-Parsing abgeschlossen ist. Dadurch wird verhindert, dass rohe Tool-Syntax in den Chat-Sprechblasen aufblinkt.
- Live-Synthese-Streaming in Turn 2: Echtzeit-Token-Streaming (
callbacks.onChunk) ist während der Synthese in Turn 2 aktiv und liefert sofortige Rendering-Ergebnisse Token für Token. - Status-Badge-Ausgabe: Nahtlose Ausgabe von Tool-Statusaktualisierungen (
"Dokumentation wird durchsucht...") während SSE-Tool-Evaluierungsdurchgängen.
Aktualisierung
npm
pnpm
npm install docmd-assistant@0.1.12
pnpm add docmd-assistant@0.1.12