태그: #red-teaming

한국어English日本語中文

← 전체 글

• AI 안전 / 평가 / 레드티밍 2026 — Inspect AI / Garak / PyRIT / Promptfoo / OpenAI Evals / lm-eval-harness 심층 가이드

  2026년의 AI 안전·평가·레드티밍 생태계를 한 장에 모은다. Inspect AI(Anthropic, UK AISI 채택)·Garak(NVIDIA→독립)·PyRIT(Microsoft)·Promptfoo(YC)·OpenAI Evals·lm-evaluation-harness(EleutherAI), 그리고 MLflow Evals·Arize Phoenix·DeepEval(Confident AI)·

  2026-05-16 · 35 분 읽기 #ai-safety#red-teaming#evaluation#inspect-ai#garak

• AI Safety & Alignment 완전 가이드 2025: 책임있는 AI, RLHF, Constitutional AI, 레드팀

  AI Safety의 모든 것! Alignment 문제(목표 정렬), RLHF/DPO/Constitutional AI, 편향(Bias) 감지/완화, 환각(Hallucination) 방지, 레드팀 테스팅, AI Guardrails, 해석 가능성(SHAP/LIME), EU AI Act, 기업의 Responsible AI 프레임워크.

  2026-04-14 · 46 분 읽기 #ai-safety#alignment#responsible-ai#rlhf#constitutional-ai

• LLM 안전성과 Red Teaming 실전 가이드: 적대적 공격 방어부터 가드레일 구축까지

  LLM 시스템의 안전성을 확보하기 위한 Red Teaming 방법론과 방어 전략을 다룹니다. 프롬프트 인젝션, 탈옥 공격의 유형 분석부터 Llama Guard, NeMo Guardrails를 활용한 다층 방어 아키텍처 구축까지 실전 코드와 함께 안내합니다.

  2026-03-08 · 43 분 읽기 #llm#red-teaming#safety#guardrails#prompt-injection