태그: #ai-security

한국어English日本語中文

← 전체 글

• 웹 에이전트는 웹페이지의 글을 명령으로 읽는다 — 교차 사이트 프롬프트 인젝션과 Prismata의 봉쇄

  2026년 7월 9일 arXiv에 올라온 Prismata 논문(Villa, Ozdarendeli, Tan, Popa)은 자율 웹 에이전트의 가장 오래된 약점을 다룹니다. 에이전트는 자연어를 명령으로 해석하기 때문에, 페이지에 섞인 제3자·사용자 생성 콘텐츠가 그대로 에이전트를 탈취할 수 있습니다. 저자들은 이를 Cross-Site Scripting의 재림으로 봅니다. Prismata는 신뢰를

  2026-07-11 · 11 분 읽기 #prompt-injection#web-agents#ai-security#least-privilege#browser-agents

• AI 시스템 보안 엔지니어링: 프롬프트 인젝션부터 모델 보안까지

  AI 시스템 보안 완전 가이드. 프롬프트 인젝션, 탈옥(Jailbreak), 데이터 오염, 모델 추출, 프라이버시 공격, 방어 전략까지 실제 공격 사례와 Python 예제로 배웁니다.

  2026-03-17 · 30 분 읽기 #ai-security#prompt-injection#llm-security#adversarial-attack#jailbreak

• 적대적 머신러닝(Adversarial ML) 가이드: 공격과 방어 기법 완전 정복

  적대적 머신러닝을 완전히 마스터하는 가이드. FGSM, PGD, C&W 공격, 데이터 포이즈닝, 모델 도용, 백도어 공격과 이에 대한 방어 기법(Adversarial Training, 인증 방어)까지 실전 코드로 배웁니다.

  2026-03-17 · 35 분 읽기 #adversarial-ml#ai-security#deep-learning#robustness#ai