Skip to content

synthesizerのmaxトークンハンドリングは必要? #17

@07JP27

Description

@07JP27

synthesizerは複数のagentからの参考情報と会話履歴を用いて最終回答を生成するため、最もトークン消費が多い処理になる傾向がある。
この時にmaxトークンを超える場合は各agentからの参考情報を削減するなど対策検討の余地がある。

Metadata

Metadata

Assignees

No one assigned

    Labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions