태그: #aisi
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 3 편
AI 안전 & 얼라인먼트 2026 완벽 가이드 - Constitutional AI · RLHF · DPO · GRPO · Mechanistic Interpretability · AISI Evals · Red Team 심층 분석
2026년 AI 안전과 얼라인먼트의 전체 지형을 한 번에 정리한다. outer/inner alignment와 mesa-optimization 같은 개념적 토대부터 RLHF·DPO·GRPO·Constitutional AI로 이어지는 학습 정렬 기법, Anthropic RSP와 OpenAI Preparedness Framework, Google DeepMind Frontier Safety Fra
2026-05-16 · 32 분 읽기 #ai-safety#ai-alignment#constitutional-ai#rlhf#dpo프라이버시 & AI 규제 2026 — GDPR / EU AI Act (2026.8 전면 시행) / DSA / DMA / PIPA / APPI / NIST AI RMF / ISO 42001 심층 가이드
2026년 5월, 프라이버시·AI 규제는 다섯 진영으로 갈라졌다. EU는 GDPR(2018) 위에 EU AI Act(2024.8 발효, 2025.2 금지, 2026.8 전면 시행)와 DSA·DMA·Data Act·Cyber Resilience Act를 차곡차곡 쌓았다. 미국은 연방법이 없는 채로 8개 주가 활성 프라이버시법을 시행 중이고, IL BIPA는 별도의 생체정보 전선을 형성한다. 한
2026-05-16 · 46 분 읽기 #privacy#ai-regulation#gdpr#eu-ai-act#dsaAI 안전 / 평가 / 레드티밍 2026 — Inspect AI / Garak / PyRIT / Promptfoo / OpenAI Evals / lm-eval-harness 심층 가이드
2026년의 AI 안전·평가·레드티밍 생태계를 한 장에 모은다. Inspect AI(Anthropic, UK AISI 채택)·Garak(NVIDIA→독립)·PyRIT(Microsoft)·Promptfoo(YC)·OpenAI Evals·lm-evaluation-harness(EleutherAI), 그리고 MLflow Evals·Arize Phoenix·DeepEval(Confident AI)·
2026-05-16 · 35 분 읽기 #ai-safety#red-teaming#evaluation#inspect-ai#garak