标签: #ai-security
关于 GPU、LLM、MLOps、Kubernetes 以及心态的文章 · 3 篇
Web 智能体把网页文字当作命令来读 — 跨站提示注入与 Prismata 的围堵
2026 年 7 月 9 日发布于 arXiv 的 Prismata 论文(Villa、Ozdarendeli、Tan、Popa)探讨了自主 Web 智能体最古老的弱点。由于智能体把自然语言解释为命令,混入页面的第三方内容与用户生成内容就能直接劫持智能体。作者们把这看作 Cross-Site Scripting 的重现。Prismata 提出一种"上下文最小权限"防御:从页面结构中导出信任、遮蔽不可信内容、并限制智能体的行动权限。文章也
2026-07-11 · 9 分钟阅读 #prompt-injection#web-agents#ai-security#least-privilege#browser-agentsAI 系统安全工程：从提示词注入到模型安全
AI 系统安全完全指南。通过真实攻击案例与 Python 示例，学习提示词注入、越狱（Jailbreak）、数据投毒、模型提取、隐私攻击及防御策略。
2026-03-17 · 26 分钟阅读 #ai-security#prompt-injection#llm-security#adversarial-attack#jailbreak对抗性机器学习(Adversarial ML)指南：攻击与防御技术完全精通
彻底掌握对抗性机器学习的指南。通过实战代码学习 FGSM、PGD、C&W 攻击、数据投毒、模型窃取、后门攻击，以及对应的防御技术(对抗训练、认证防御)。
2026-03-17 · 32 分钟阅读 #adversarial-ml#ai-security#deep-learning#robustness#ai