跳到主要内容
Cowers://
← ALL TAGS

TAG

#LLM

15 POSTS

0x000协议与通信

SSE 与 WebSocket:AI 应用中的流式传输选型

SSE(Server-Sent Events)本质是「一个迟迟不结束的 HTTP 响应」:请求发出去之后服务端不关闭响应体,持续往里写文本,靠空行分帧。

5,994

0x001协议与通信

MCP 协议原理

MCP = Model Context Protocol(模型上下文协议),由 Anthropic 提出的开放标准。

7,134

0x002检索与 RAG

RAG 优化方案

RAG 优化不是“叠加更多算法”,而是先建立可重复的评测集,将失败定位到数据、召回、排序、上下文或生成中的一层,再用最小实验修复该层。

9,247

0x003推理范式

Agent 推理范式总览

这四个不是互斥的 Agent 架构,而是四种可组合的 Reasoning / Agent Design Pattern。它们的划分维度是:控制流管在哪一层。

990

0x004推理范式

从 CoT 到 Agent 推理体系

CoT 之后的推理体系分成三条路线:提高单链可靠性、把推理与行动交错,以及搜索多条候选路径。

5,837

0x005推理范式

Reflexion 反思式自我纠错

Reflexion 的核心是把失败信号转成一段自然语言经验,写进记忆,再喂给下一次尝试。它用「语言反馈」代替了「梯度更新」——模型权重不动,靠上下文里多出来的那段教训变强。

2,050

0x006推理范式

Plan-and-Execute 先规划再执行

Plan-and-Execute 把 Agent 拆成两个角色:Planner 先想清楚要做哪几步,Executor 再按步骤逐条执行。

2,401

0x007检索与 RAG

RAG 架构:从跑通的脚本到能上线的系统

生产级 RAG 项目的骨架不是"一条从 PDF 到答案的脚本",而是把入库管道、检索服务、生成层各自关进独立模块,再用稳定的 ID 与 schema 把它们连起来。

8,453

0x008推理范式

ToT 思维树 Tree of Thoughts

ToT = Tree of Thoughts(思维树)。把 CoT 的一条线性推理链,扩展成一棵可以分叉、评估、剪枝的树,并用经典搜索算法(BFS / DFS)来遍历它。 关键在于节点是什么:不是一个孤立的 though…

2,700

0x009推理范式

Self-Ask 自问自答多跳推理

Self-Ask 让模型在回答前显式地写出「我还需要先知道什么」,把一个复杂问题拆成一串子问题,逐个回答,最后合成终答。它管的是「问题分解」这一层控制流。

2,141

0x00A推理范式

ReAct 范式

ReAct = Reasoning + Acting,出自 2022 年 10 月的论文《ReAct: Synergizing Reasoning and Acting in Language Models》(Shuny…

5,401

0x00B推理范式

CoT 思维链

CoT = Chain-of-Thought(思维链),出自 2022 年 1 月的论文《Chain-of-Thought Prompting Elicits Reasoning in Large Language Mo…

4,897

0x00CAgent 架构

Agent 概念

AI Agent(人工智能智能体)是一个以模型为决策核心、能够读取当前状态、选择并调用工具、根据执行结果继续行动,直到完成任务或停止的系统。 最小闭环可以记成:目标 → 决策 → 行动 → 观察 → 更新状态 → 再决策。

4,851

0x00D检索与 RAG

RAG 概念

RAG(Retrieval-Augmented Generation,检索增强生成)是一种在模型回答之前,先从外部知识库检索相关资料、再把资料作为依据交给模型的方法。

8,329

0x00E服务端与存储

Python 操作 Redis 与缓存实战

Redis 是一个内存键值数据库:key 是二进制安全的字符串,value 则有 String、Hash、List、Set、Sorted Set、Stream 等多种原生类型。

6,441