v0.9.4 is live! — Read the latest technical documentation and migration guides.

docmd-assistant v0.1.12 bringt entscheidende Fehlerbehebungen für die Ausführung von Multi-Turn-Tools im SSE-Streaming-Modus und verhindert das Durchsickern von roher Tool-Syntax in die Chat-Benutzeroberfläche.

Wichtige Funktionen & Verbesserungen

Korrekturen der SSE-Streaming-Tool-Schleife

Ein Problem in runRelayStreamLoop wurde behoben, bei dem Server-Sent Events (SSE)-Antworten mit Tool-Aufrufen vorzeitig abgebrochen wurden, ohne lokale Tools auszuführen:

  • Vollständige Tool-Ausführung in SSE: Der SSE-Streaming-Reader parst nun sowohl strukturierte dataObj.tool_calls als auch textbasierte Tool-Aufrufe ([Tool Call: ...]), führt registrierte Tools lokal aus und fährt mit der Antwortsynthese in Turn 2 fort.
  • Chunk-Pufferung in Turn 1: Tokens, die während der Tool-Evaluierung in Turn 1 generiert werden, werden gepuffert, bis das Tool-Parsing abgeschlossen ist. Dadurch wird verhindert, dass rohe Tool-Syntax in den Chat-Sprechblasen aufblinkt.
  • Live-Synthese-Streaming in Turn 2: Echtzeit-Token-Streaming (callbacks.onChunk) ist während der Synthese in Turn 2 aktiv und liefert sofortige Rendering-Ergebnisse Token für Token.
  • Status-Badge-Ausgabe: Nahtlose Ausgabe von Tool-Statusaktualisierungen ("Dokumentation wird durchsucht...") während SSE-Tool-Evaluierungsdurchgängen.

Aktualisierung

npm
pnpm
npm install docmd-assistant@0.1.12
pnpm add docmd-assistant@0.1.12