タグ: #ai-security
GPU・LLM・MLOps・Kubernetes、そしてマインドセット · 3 件
ウェブエージェントはページの文章を命令として読む — クロスサイトプロンプトインジェクションとPrismataの封じ込め
2026年7月9日にarXivへ投稿されたPrismata論文(Villa、Ozdarendeli、Tan、Popa)は、自律型ウェブエージェントのもっとも古い弱点を扱います。エージェントは自然言語を命令として解釈するため、ページに混ざった第三者・ユーザー生成コンテンツがそのままエージェントを乗っ取れてしまいます。著者らはこれをCross-Site Scriptingの再来と見ます。Prismataは、ページ構造から信頼を導き、信頼でき
2026-07-11 · 11 分で読めます #prompt-injection#web-agents#ai-security#least-privilege#browser-agents敵対的機械学習ガイド: 攻撃と防御の完全ガイド
敵対的機械学習を完全マスター。FGSM、PGD、C&W攻撃、データポイズニング、モデル抽出、バックドア攻撃、そして敵対的訓練や認証済み防御を含む防衛技術をハンズオンコードで学ぶ。
2026-03-17 · 26 分で読めます #adversarial-ml#ai-security#deep-learning#robustness#aiAIシステムセキュリティエンジニアリング: プロンプトインジェクションからモデルセキュリティまで
AIシステムセキュリティの完全ガイド。プロンプトインジェクション、ジェイルブレイク、データポイズニング、モデル抽出、プライバシー攻撃、防御戦略を実際の攻撃事例とPythonコードで学びます。
2026-03-17 · 26 分で読めます #ai-security#prompt-injection#llm-security#adversarial-attack#jailbreak