说明结构化重试的有限上下文边界
记录现役调用方的小重试次数和保留完整反馈的设计依据。
This commit is contained in:
@@ -28,6 +28,10 @@ pub(crate) async fn request_ui_editor_llm(
|
||||
}
|
||||
|
||||
/// 按 append-only history 重试结构化 LLM 请求;仅业务校验失败会追加反馈消息。
|
||||
///
|
||||
/// 现役调用方把重试次数固定在很小的范围(生产路径为 2 次),初始提示词和工具
|
||||
/// schema 也受 provider 的请求预算约束;因此最多追加两份反馈,不会形成需要额外
|
||||
/// 截断策略的上下文无限增长。这里保留完整模型输出,便于模型修正业务校验失败。
|
||||
pub(crate) async fn run_with_repair_history<T, Requester, Fut, Validator>(
|
||||
max_retries: usize,
|
||||
initial_history: Vec<LlmMessage>,
|
||||
|
||||
Reference in New Issue
Block a user