【要望】長い会話でも途切れない会話履歴管理の改善要望

[ff-fyne]

機能リクエストは何か問題に関連していますか？背景を説明してください

会話の履歴が長くなると、モデルのインプットトークン上限に達してしまい、エラーが発生して会話を継続できなくなる問題があります。
特にドキュメントの読み込み時には大量のトークンが消費されるため、すぐに上限に達してしまうという課題があります。


追加 or 改善したい機能について

会話履歴のインプットトークン上限を考慮し、以下の改善を希望します。

• 直近の会話を優先的に保持して、スムーズなやり取りを維持する
• 重要な古い情報は別途保持・参照できる仕組みを導入し、会話の文脈を途切れさせない
• 会話履歴のトークン量を最適化し、上限に達することなく会話を継続できるようにする