聊天記錄
聊天記錄是用戶和聊天模型之間對話的記錄。它用於在整個對話中維護上下文和狀態。聊天記錄是 訊息 的序列，每個訊息都與特定的 角色 相關聯，例如「使用者」、「助理」、「系統」或「工具」。
對話模式
大多數對話都以系統訊息開始，該訊息設定對話的上下文。 隨後是包含使用者輸入的使用者訊息，然後是包含模型回應的助理訊息。
助理可以直接回應使用者，或者如果配置了工具，則請求調用 工具 以執行特定任務。
完整的對話通常涉及兩種交替訊息模式的組合
- 代表來回對話的使用者和助理。
- 代表 「代理」工作流程 的助理和工具訊息，其中助理正在調用工具以執行特定任務。
管理聊天記錄
由於聊天模型對輸入大小有最大限制，因此管理聊天記錄並根據需要修剪它以避免超出 上下文視窗 非常重要。
在處理聊天記錄時，必須保持正確的對話結構。
管理聊天記錄的關鍵指南
- 對話應遵循以下結構之一
- 第一條訊息是「使用者」訊息或「系統」訊息，後跟「使用者」訊息，然後是「助理」訊息。
- 最後一條訊息應為「使用者」訊息或包含工具呼叫結果的「工具」訊息。
- 使用 工具呼叫 時，「工具」訊息應僅跟在請求工具調用的「助理」訊息之後。
提示
理解正確的對話結構對於能夠正確實現在聊天模型中的 記憶體 至關重要。