博客
关于 GPU、LLM、MLOps、Kubernetes 以及心态的文章 · 829 篇
#2026-03 168#ai 110#llm 90#ai-papers 62#career 60#kubernetes 54#mindset 51#ai-platform 48#devops 42#security 41#deep-learning 35#performance 33#psychology 32#mlops 30#observability 29#2026-04 26#database 23#linux 22#robotics 22#rust 22#ai-agent 21#mcp 20#productivity 20#culture 19#evaluation 19#gpu 18#transformer 18#electronics 17#paper-review 17#pytorch 17#developer-tools 16#distributed-systems 16#engineering 16#learning 16#open-source 16#rag 16#fundamentals 15#network 15#postgresql 15#2026-08 14
5 节点 Raft 集群中 3 个节点为何同时死亡 — 解读 Coinbase 2026 年 5 月 7 日故障
2026 年 5 月 7 日晚间,AWS us-east-1 可用区 use1-az4 内的一处数据机房(data hall)冷却设备同时发生故障,Coinbase 由此经历了一场故障:交易、出入金在内的大部分服务中断或降级约 8 小时。Coinbase 于 6 月 1 日公开的事后复盘(postmortem)一并说明了两件事的经过 — 5 节点 Raft 撮合引擎中的 3 个节点同时死亡、导致集群失去法定人数(quorum)的过程,以
2026-07-16 · 29 分钟阅读 #distributed-systems#postmortem#consensus#aws#resilienceaxios 账号被劫持的3小时 — provenance 是开着的,但没有人核实
2026 年 3 月 31 日 00:21 UTC,周下载量超过 8 千万次的 axios 上传了恶意版本 1.14.1。有意思的是,axios 当时已经在用 npm 的 trusted publishing 了 — 前一个正常发布的 1.14.0,是由 GitHub Actions 通过 OIDC 发布的,还带着 SLSA provenance。可它还是没能挡住。不是 trusted publishing 被攻破了,而是它从一开始就不
2026-07-16 · 28 分钟阅读 #security#supply-chain#npm#nodejs#devsecopsPD 分离并不会提升吞吐量 — 预填充/解码分离实际买到的是什么
把预填充和解码拆到不同 GPU 上的 PD 分离,是 2026 年 vLLM、SGLang、TensorRT-LLM 都已经引入的设计,但无论从哪里看,流传的都只是"2 倍到 7 倍"这样的数字。然而 vLLM 官方文档却用大写字母把同一个功能钉死为"分离式预填充并不会提升吞吐量"。两者其实都对 — 因为那些厂商数字测的从来都不是吞吐量,而是 goodput(满足 SLO 的处理量),或者是在固定延迟目标条件下的吞吐量。本文梳理 PD
2026-07-16 · 25 分钟阅读 #llm#ai#inference#kv-cache#vllmMCP 甩掉会话 — 读懂 2026-07-28 修订版的无状态核心
MCP 规范的下一个修订版 2026-07-28,是发布以来最大的一次变更。核心是把状态从协议层剥离出去 — initialize 握手和 Mcp-Session-Id 会话消失了,所有请求都在 meta 里携带协议版本和客户端能力来自我说明。作为代价,服务器反问客户端的方式被 MRTR(Multi Round-Trip Requests)彻底翻转,SSE 断线重连(resumability)被移除,Roots/Sampling/Log
2026-07-16 · 27 分钟阅读 #mcp#ai#protocol#agents#integration迁移到 ambient,EnvoyFilter 会被静默忽略 — Istio 1.30 TrafficExtension 补上的缺口,以及仍未补上的缺口
迁移到 ambient 模式时真正卡住的障碍不是资源,而是可扩展性。Istio 官方迁移文档直接写明:EnvoyFilter 在 waypoint 上不受支持,迁移后会被「静默忽略」,如果没有替代方案,这就是一个「迁移阻塞项」。2026 年 5 月 18 日发布的 Istio 1.30,针对这个缺口推出了 TrafficExtension API — 一个把 Wasm 和 Lua 以同样方式挂到 sidecar、网关、waypoint
2026-07-16 · 22 分钟阅读 #kubernetes#istio#service-mesh#envoy#ambient-meshDuckDB 有了客户端-服务器协议 — Quack 改变了什么,又没有改变什么
2026 年 5 月 12 日,DuckDB 团队发布了 Quack。这是一套架在 HTTP 之上的客户端-服务器协议,让两个 DuckDB 实例互为客户端和服务器,使同一个数据库可以被多个进程同时读写。一个把「进程内」当作身份标签坚持了 7 年的项目,如今自己给自己装上了服务器 — 相比「改变了什么」,「没有改变什么」反而更重要。本文梳理了 Quack 的设计取舍(为什么是 HTTP、为什么不是 Arrow Flight SQL)、D
2026-07-16 · 26 分钟阅读 #database#duckdb#olap#analytics#data-engineering一个 Issue,捅穿整条供应链 — CI 里的智能体是怎么垮的,以及防御到底买到了多少时间
2026 年 6 月 1 日,GMO Flatt Security 的 RyotaK 公开的 Claude Code GitHub Actions 漏洞,完整追踪了闯入 CI 流水线的智能体是如何变成一条能把整个仓库拱手让出的通道的。一行“是机器人就放行”的判断击穿了信任边界,埋在 issue 正文里的指令变成了命令,一条看似只读的命令变成了泄露通道。本文在架构层面拆解了这条路径,并逐一剖析了 Anthropic 实际部署的防御手段。同
2026-07-16 · 33 分钟阅读 #security#ai#prompt-injection#supply-chain#ci-cd知识图谱工具与框架地图 — 什么时候该选什么
图数据库、RDF 与本体栈、图 RAG 框架,在过去两年里爆发式增长。链接清单已经太多,所以本文换一种做法,画一张带着诚实观点的地图。每个类别都讲清楚:拿它做什么、两三个代表性工具,以及「什么时候该选什么」— 嵌入式(Kùzu) vs 服务器(Neo4j)、形式化的 OWL/RDF vs 实用的属性图、自己搭的抽取流水线 vs Microsoft GraphRAG 那种自带电池的流水线。以及最重要的一个问题:什么时候压根就不该用图(向量
2026-07-15 · 15 分钟阅读 #tools#knowledge-graph#graph-rag#ontology#frameworks从文档到知识图谱 — 一条诚实的构建流水线
「从文档里抽出知识图谱」在演示里看起来就是一次 LLM 调用。但把客户的文档真正变成一张可查询的图,是一条六段式的流水线,而成本与痛苦的大部分不在抽取,而在实体解析。本文诚实地梳理:为什么要先定好模式(本体)、基于 LLM 的模式约束抽取(LangChain 的 LLMGraphTransformer、LlamaIndex 的 Simple/Schema/Dynamic 抽取器、Microsoft GraphRAG 的索引流水线)与传统
2026-07-15 · 15 分钟阅读 #knowledge-graph#ai#llm#data-engineeringForward Deployed Engineer 的手艺 — 需求发掘、领域建模,以及面向「采用」的优化
前一篇文章整理了 FDE 所需的知识地图 — Linux、网络、Kubernetes、DB、安全。那张地图只是替你把门打开,却不会告诉你走进客户大楼之后实际要做什么。这篇文章讲的正是那个「动词」。本文以 Palantir 亲自撰写的 Delta、Deployment Strategist 角色文档、The Pragmatic Engineer 的报道,以及当前正在招聘的 Anthropic、OpenAI FDE 职位为依据,梳理构成这份
2026-07-15 · 17 分钟阅读 #career#fde#solutions-engineering#software-engineering#palantirGraph RAG 是什么 — 向量 RAG 卡壳的地方,以及它值回成本的那一刻
RAG 的标准配方(分块 → 嵌入 → 检索前 k 个)在答案完整落在某一个片段里时很好用,但在多跳问题、以及贯穿整个语料库的全局「意义建构」问题上会结构性地卡住。Microsoft 的 GraphRAG 正是瞄准这两处盲区 — 用 LLM 从语料库里抽取知识图谱,用 Leiden 算法找出社区并预先生成摘要。此后,全局问题用社区摘要的映射-归约来回答,局部问题则用以实体为中心的图探索来回答。本文梳理了向量 RAG 卡住的地方、Grap
2026-07-15 · 14 分钟阅读 #rag#graph-rag#knowledge-graph#ai#llm把客户的领域变成模型 — 从通用语言到本体
客户企业的领域知识,通常不在文档里,而是作为隐性知识存在于人的头脑中。Forward Deployed Engineer 的核心工作之一,就是把这些散落的隐性知识,变成整个团队都能共享的显式模型。本文自下而上地攀爬这道阶梯 — 从最廉价、最有价值的第一步,即 DDD 的通用语言出发,用限界上下文处理同一个单词的冲突,再用实体·值对象·聚合为名词建模。接着把人们经常混为一谈的三个词 — 分类法、本体、知识图谱 — 一一切分,并把形式栈(R
2026-07-15 · 18 分钟阅读 #ontology#knowledge-graph#domain-driven-design#architecture#forward-deployed-engineer当代码生成变得廉价,哪些技能会升值 — 贬值的与升值的
当代码生成变得廉价而充裕,价值不会消失,而是会转移 — 转移到仍然是瓶颈的那一侧。眼下这个瓶颈是验证、判断与集成。本文基于 Jason Wei 的「验证的不对称性」、DORA 2025(吞吐量上去了,但交付不稳定性仍在持续攀升)、LinearB 对 810 万个 PR 的分析(AI 生成的 PR 等待评审的时间长 4.6 倍)、Stack Overflow 2025(66% 的开发者把「几乎正确但又不完全正确」列为头号困扰),梳理了什么
2026-07-12 · 22 分钟阅读 #career#software-engineering#ai#skills#code-review什么该学深,什么该略过 — AI 什么都能答的时代,如何制定学习策略
AI 3 秒就能答出几乎一切的时代,什么该学深,什么该略过。认知心理学给出的答案并不讨喜。造就记忆的不是看见信息这一行为,而是自己把它提取出来这一行为。在 Roediger 与 Karpicke 的实验中,把文章平均通读 14.2 遍的一组,一周后只记住了 40%,而只读了 3.4 遍、却靠自己回想的一组记住了 61%。而且,记得更少的那一组反而对自己更有信心。把提取外包给 AI,最后留下的恰恰只有那份信心。本文提出的不是一份书单,而是
2026-07-12 · 20 分钟阅读 #career#learning#ai#software-engineering从 Senior 到 Staff — 工程师的成长中,真正被评估的是什么
很多工程师相信,写得更多、更快就能晋升。可当你真的翻开公开的工程师职级阶梯 — Dropbox、CircleCI、Rent the Runway — 会发现哪里都没有“产出量”这个轴。有的是范围(Scope)、协作半径(Collaborative Reach)和影响力杠杆(Levers for Impact)。本文以 Will Larson 归纳的 Staff 工程师四种原型(Tech Lead、Architect、Solver、Rig
2026-07-12 · 19 分钟阅读 #career#software-engineering#growth#staff-engineerAI 真的让开发者更快了吗 — 被测量出来的数字说了什么
两项随机对照试验给出了截然相反的答案。一项说用了 AI 的开发者快了 55.8%,另一项说慢了 19%。可是给出后一个数字的 METR,在 2026 年 2 月发布后续研究的同时,亲手在 2025 年的结果上挂起了一条警告横幅:它已经不再反映当下 AI 模型的影响。故事并没有就此消失,反而变得更锋利 — 因为连后续实验都被参与者的自我选择偏差绊住,无法确定效应的符号。而且有一项发现始终没有被撤回:那些慢了 19% 的开发者,在做完实验之
2026-07-12 · 29 分钟阅读 #career#ai#productivity#software-engineering#developer-experience2026 年开发者招聘市场 — 数据说了什么,又没说什么
体感是最差的,BLS 却预测未来十年增长 15%。两者都是真的。我直接取来 Indeed 招聘广告指数的原始数据(2020 年 2 月 = 100,2022 年 2 月高点 233.87,2026 年 6 月 72.51)、layoffs.fyi(截至 2026 年 7 月共 120,936 人)、BLS 2024–34 年预测、报告初级岗位下降 16% 的 Stanford 论文,以及正面反驳它的 EIG 报告,逐一对照。核心结论是:
2026-07-12 · 16 分钟阅读 #career#job-market#software-engineering#hiring与 AI 编程工具良好协作的五个习惯
同一件工具,在一个实验里带来了 55.8% 的收益,在另一个实验里造成了 19% 的损失。改变符号的不是工具,而是用法。从 METR、GitHub Copilot 的 RCT、Stack Overflow 调查以及 Anthropic 的智能体设计文档中提炼出的五个习惯 — 任务选择、评审预算、机器护栏、上下文设计、自我度量。每一个都以一条你能亲手验证的规则收尾。
2026-07-12 · 16 分钟阅读 #ai#productivity#software-engineering#developer-experiencetts-bench:当质量主观时,如何比较本地 TTS
tts-bench 是开发者 5uck1ess 打造的本地基准测试,让你在手头的硬件上比较 55 个 TTS 模型。它把评测拆成三个视角:速度(TTFA、RTF、内存)、试听(用耳朵判断每一个模型)、评分(UTMOS、WER、SIM)。最有意思的是它对主观性的坦诚——没有一个"最好听"的单一分数,因为质量取决于你的耳朵和用途。本文梳理这个工具实际测量什么,客观指标在哪里有帮助、在哪里会误导,以及如何为自己的工作负载挑选合适的 TTS。
2026-07-11 · 8 分钟阅读 #tts#text-to-speech#benchmark#local-ai#evaluation即使 AI 来维护你的代码,也要为人类而写
2026 年 7 月 10 日,Scott Robinson 把一句老格言拧了个弯,让它重新焕发生机。由于 LLM 会把你的代码库当作风格指南来读,你合并进去的每一条捷径,都会成为模型以机器规模回敬给你的训练数据。在梳理了重复的访问权限检查示例,以及他那句“LLM 是海绵”之后,本文抛出一个更难的问题:当下一个维护者是机器时,为人类而写是否依然重要?依然重要。因为人类仍要评审和调试,而正是清晰让 diff 变得可评审。
2026-07-11 · 10 分钟阅读 #ai#llm#code-quality#maintainability#craft