SSE 与 WebSocket:AI 应用中的流式传输选型
SSE(Server-Sent Events)本质是「一个迟迟不结束的 HTTP 响应」:请求发出去之后服务端不关闭响应体,持续往里写文本,靠空行分帧。
5,994 字
TAG
15 POSTS
SSE(Server-Sent Events)本质是「一个迟迟不结束的 HTTP 响应」:请求发出去之后服务端不关闭响应体,持续往里写文本,靠空行分帧。
5,994 字
Reflexion 的核心是把失败信号转成一段自然语言经验,写进记忆,再喂给下一次尝试。它用「语言反馈」代替了「梯度更新」——模型权重不动,靠上下文里多出来的那段教训变强。
2,050 字
生产级 RAG 项目的骨架不是"一条从 PDF 到答案的脚本",而是把入库管道、检索服务、生成层各自关进独立模块,再用稳定的 ID 与 schema 把它们连起来。
8,453 字
ToT = Tree of Thoughts(思维树)。把 CoT 的一条线性推理链,扩展成一棵可以分叉、评估、剪枝的树,并用经典搜索算法(BFS / DFS)来遍历它。 关键在于节点是什么:不是一个孤立的 though…
2,700 字
Self-Ask 让模型在回答前显式地写出「我还需要先知道什么」,把一个复杂问题拆成一串子问题,逐个回答,最后合成终答。它管的是「问题分解」这一层控制流。
2,141 字
ReAct = Reasoning + Acting,出自 2022 年 10 月的论文《ReAct: Synergizing Reasoning and Acting in Language Models》(Shuny…
5,401 字
CoT = Chain-of-Thought(思维链),出自 2022 年 1 月的论文《Chain-of-Thought Prompting Elicits Reasoning in Large Language Mo…
4,897 字
AI Agent(人工智能智能体)是一个以模型为决策核心、能够读取当前状态、选择并调用工具、根据执行结果继续行动,直到完成任务或停止的系统。 最小闭环可以记成:目标 → 决策 → 行动 → 观察 → 更新状态 → 再决策。
4,851 字
Redis 是一个内存键值数据库:key 是二进制安全的字符串,value 则有 String、Hash、List、Set、Sorted Set、Stream 等多种原生类型。
6,441 字