最近更新

共 40 篇 · 第 1 页
  1. Web

    SSE流式响应:前端取消请求后,服务端还在烧Token吗?

    AI 对话产品几乎已经全部用上了流式输出:Token 一个一个蹦出来,用户体验丝滑。但流式响应带来了一个很少被认真对待的资源管理问题——用户点下「停止生成」、切换了会话、或者直接关掉页面,前端的请求确实取消了,loading 也停了,但服务端背后那次 LLM 调用,很可能还在一本正经地把剩下的 Token 全部生成完。 这笔钱,你照付。而且随着流量增长,这笔被悄悄烧掉的钱可能相当可观。 一个你可能每天都在亏钱的场景 典型的 AI Chat 应用链路是这样的:浏览器通过 发起 POST 请求,服务…

    继续阅读 →
  2. Others

    DDD领域驱动设计:从战略到战术的全面指南

    前言 如果你写过几年业务代码,一定经历过这种痛苦:需求越来越复杂,代码越来越臃肿,Service 层动辄几千行,一个改动能牵连半个项目。你开始怀疑——是不是从一开始,我们的代码组织方式就有问题? DDD(Domain-Driven Design,领域驱动设计)就是在这种"代码越来越像屎山"的背景下,给出的一套解法。 这篇文章不是要给你灌输教条,而是务实地聊聊:DDD 到底是什么、它解决了什么问题、哪些东西值得你学、以及怎么落地。 DDD 是什么 2003 年,Eric Evans 出版了《Dom…

    继续阅读 →
  3. AI

    VibeGuard:专为AI生成代码打造的安全Lint工具

    近年来,“Vibe Coding”(氛围编程,指开发者通过自然语言提示让 AI 生成代码,自身主要把控整体方向和结果)席卷了开发者社区。AI 编码助手让代码产出呈指数级增长,但正如业界近期达成的一个深刻共识:“当 AI 负责写代码时,验证(Verification)就成了新的实现(Implementation)。” 开发者正在从“代码编写者”转变为“代码审查者”。然而,面对 AI 倾泻而出的代码洪流,传统的质量与安全门禁正面临前所未有的挑战。AI 写得很快,但它也“自信地”重复着同样的安全错误。…

    继续阅读 →
  4. Web

    前后端分离部署期间如何优雅地通知用户刷新页面

    问题背景 在前后端分离的架构中,前端和后端通常是独立部署的。一次完整的发布流程往往是这样的: 1. 后端先发布新版本(API 变更、数据结构调整等) 2. 等待后端部署完成并健康检查通过 3. 前端再发布新版本 在「后端发布完成」到「前端发布完成」这段时间窗口内,线上已经打开了旧版前端页面的用户,他们的浏览器里运行的仍然是旧版本的 JavaScript 和 CSS。如果后端 API 发生了不兼容变更(比如字段重命名、接口路径调整、返回结构变化),这些用户在前端页面上的操作就可能出现数据展示异常、…

    继续阅读 →
  5. AI

    把AI当实习生而非软件:斯坦福教授的AI协作指南

    在日常使用AI工具时,你是否经历过这样的挫败时刻:AI能轻易生成一个精致的超级马里奥3D模型,却无法为你家扫地机器人设计一个简单的楔形坡道?这种看似矛盾的现象,揭示了当前大语言模型(LLM)的一个核心特质。斯坦福大学的 Jeremy Utley 教授和 Mihail Eric 等专家近期不约而同地指出:阻碍我们发挥AI真正潜力的,往往不是技术本身的瓶颈,而是我们的心智模型。当我们把AI当作一台输入指令就输出完美结果的“软件”时,注定会失望;而当我们把它当作一个“人”来协作时,奇迹才会发生。本文将…

    继续阅读 →
  6. AI

    双流Transformer:解耦主预填充路径与额外解码计算

    在大语言模型(LLM)的实际部署中,工程师们常常面临一个令人头疼的“跷跷板”难题:优化了首字延迟(TTFT, Time To First Token),却牺牲了后续的生成速度(ITL, Inter-Token Latency);提高了系统的整体吞吐量,却导致长文本请求频繁阻塞。这种性能矛盾的根源,在于传统推理引擎将两个物理特性截然不同的计算阶段“强行绑定”在了同一套计算资源上。 为了打破这一瓶颈,业界提出了一种被称为“双流Transformer”或 Prefill-Decode(PD)分离的架构…

    继续阅读 →
  7. AI

    揭秘LLM模型交换技巧:如何暴露AI的隐藏推理痕迹

    近年来,大语言模型(LLM)的推理能力突飞猛进。为了提升复杂问题的解决能力,前沿模型引入了“隐藏推理”(Hidden Reasoning)或内部思维链(Chain-of-Thought, CoT)机制。为了保护知识产权、防止恶意提示词注入以及避免信息泄露,模型提供商通常会将这些中间推理步骤加密,或者在 API 响应中将其隐藏。然而,安全研究人员最近发现了两种极具创造性的技巧,能够巧妙地绕过这些防护,暴露出 AI 的隐藏推理痕迹。本文将深入剖析这两种技术的原理、实践方法及其对 AI 安全的深远影响…

    继续阅读 →
  8. AI

    是否应该自托管大模型推理?成本与风险指南

    2026年,大语言模型(LLM)已从实验室的“玩具”彻底演变为企业级应用的“基础设施”。然而,当开发者或 CTO 们准备将 AI 接入业务时,第一道选择题依然棘手:是直接调用云端 API,还是咬咬牙自托管(Self-hosted)本地推理? 这并非简单的技术偏好问题,而是一场涉及成本结构、数据主权与系统架构的深度博弈。本文将结合 2026 年最新的行业数据与实战经验,为你深度拆解自托管大模型的成本与风险,帮你找到最适合的落地方案。 一、算清经济账:从“按 Token 计费”到“总拥有成本(TCO…

    继续阅读 →
  9. AI

    SDD + TDD 多 Agent 协同代码审查流程最佳实践

    适用场景:Vibe Coding 中利用 AI 生成/修改代码,通过「规格驱动 + 测试驱动 + 多 Agent 交叉审查 + 人工兜底」构建可信交付流水线。 核心理念:AI 生成的代码天然不可信,可信度不来自任何单个 Agent,而来自结构化的制衡机制。 一、核心思想 原则 说明 规格是唯一事实源 代码是否符合预期,以 SDD 规格文档为准,而非任何 Agent 的"解释" 测试是唯一验收器 所有结论必须能被可执行的测试用例证实或证伪,拒绝"我觉得没问题" 独立产生信息量 两个高度相关的审查者…

    继续阅读 →
  10. Others

    MySQL储存过程和存储函数

    1. 存储过程 1.1 语法: 说明: 1. 参数前面符号的意思: IN:有入参无返回值 OUT:无入参有返回值 INOUT:有入参有返回值 2. 形参可以是MySQL中的任何类型 3. 表示创建储存过程中指定的对储存过程的约束条件,其取值信息如下: :表示存储过程使用SQL语句,默认值是SQL : 表示存储过程是否是确定的,默认值是NOT DETERMINISTIC : 表示存储过程包含SQL语句,默认值是CONTAINS SQL : 表示存储过程不包含SQL语句 : 表示存储过程只读数据库,…

    继续阅读 →