태그: #embedding
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 14 편
분류하지 말고 지어내라는 기법과 그 검증 — 가짜 레이블이 원본 질의보다 나은 이유
수백 개짜리 분류 체계를 프롬프트에 넣는 대신, 작은 모델에게 그럴듯한 가짜 분류를 지어내게 하고 그것을 임베딩으로 실제 분류에 붙이는 기법이 논의됐습니다. 왜 이것이 동작할 수 있는지는 임베딩 공간의 비대칭성으로 설명됩니다. 다만 원문에는 측정 결과가 없고, 댓글에는 이 기법이 정말 원본 질의를 직접 임베딩하는 것보다 나은지 묻는 정확한 반론과 더 싼 대안이 함께 나왔습니다. 무엇을 어떻게
2026-08-14 · 13 분 읽기 #llm#embedding#classification#search#retrieval임베딩과 리랭커, RAG에서 실제로 중요한 것
RAG를 만들 때 임베딩 모델 선택을 좌우하는 것은 리더보드 순위가 아니라 차원, 최대 입력 길이, 접두어 규약, 다국어 표기, 그리고 리랭커와의 역할 분담입니다. 이 글은 2026-08-12에 확인한 임베딩·리랭커 모델들의 실제 카드 값을 정리하고, MTEB 점수가 무엇을 말해 주지 않는지, 한국어 문서를 다룰 때 무엇을 직접 재야 하는지를 설명합니다. 오픈 모델 가이드 시리즈 3편입니다.
2026-08-12 · 12 분 읽기 #ai#llm#huggingface#open-source-llm#embeddingSOTA 텍스트 임베딩 모델 분석 — 검색과 RAG의 심장
텍스트 임베딩은 검색과 RAG 시스템의 심장입니다. 대조학습과 InfoNCE, 이중 인코더, 하드 네거티브, E5/BGE/GTE 계열, Matryoshka 표현학습, MTEB 벤치마크까지 최신 임베딩 모델의 원리와 실무 적용을 정리합니다.
2026-06-30 · 35 분 읽기 #ai-papers#embedding#retrieval#rag#contrastive-learningRAG 실전 완전 가이드: 검색, 임베딩, 벡터 DB, Fine-tuning의 경계 (2025)
LLM에 외부 지식을 붙이는 가장 실용적인 패턴, RAG. 2025년 시점에서 임베딩 모델 선택, 청킹 전략, 벡터 DB 선택, Rerank, Hybrid Search, 그리고 Fine-tuning과의 경계까지. Notion AI와 Claude의 검색 아키텍처를 해부하고, 한국어 RAG의 특수성과 비용·지연시간 최적화 체크리스트를 한 호흡에 정리합니다.
2026-04-15 · 33 분 읽기 #rag#llm#ai#vector-db#embeddingANN 알고리즘 완전 가이드 2025: HNSW, IVF, Product Quantization, LSH — 벡터 DB의 내부는 어떻게 작동하는가
Pinecone, Weaviate, Qdrant, pgvector가 수억 벡터에서 밀리초 만에 유사 항목을 찾는 비결. HNSW, IVF, Product Quantization, LSH 등 ANN 알고리즘의 수학과 구현을 720줄로 깊이 있게 파헤친다.
2026-04-15 · 40 분 읽기 #ann#hnsw#ivf#product-quantization#lshAdvanced RAG 파이프라인 완전 가이드 2025: 청킹 전략, 리랭킹, 에이전틱 RAG, 평가
Advanced RAG의 모든 것! 문서 청킹 전략(Semantic/Recursive/Agentic), 리랭킹(Cohere/ColBERT/Cross-encoder), Query Transformation, 에이전틱 RAG(Self-RAG/CRAG), Multi-modal RAG, 평가(RAGAS/TruLens), 프로덕션 최적화.
2026-04-13 · 36 분 읽기 #rag#chunking#reranking#agentic-rag#evaluationVector Database 완전 가이드 2025: 임베딩, 유사도 검색, Pinecone/Weaviate/Qdrant/pgvector
Vector DB의 모든 것! 벡터 임베딩 원리, 유사도 검색(코사인/유클리드/내적), 인덱싱 알고리즘(HNSW/IVF/PQ), Pinecone vs Weaviate vs Qdrant vs Milvus vs pgvector 비교, 하이브리드 검색, 필터링, 프로덕션 운영, 성능 벤치마크.
2026-04-13 · 34 분 읽기 #vector-database#embedding#similarity-search#pinecone#weaviateEmbedding 모델 선택 완전 가이드: OpenAI부터 오픈소스까지 2025년 기준
2025년 기준 주요 임베딩 모델들을 MTEB 벤치마크 기준으로 비교하고, 언어/예산/프라이버시/규모에 따른 실전 선택 가이드를 제공합니다. OpenAI, Cohere, BGE-M3, E5 등 핵심 모델 완벽 정리.
2026-03-18 · 13 분 읽기 #embedding#임베딩모델#rag#ai-development#openaiRAG 시스템 완전 정복: 검색 증강 생성의 모든 것
RAG(검색 증강 생성) 시스템을 완전히 마스터하는 가이드. 기본 RAG부터 고급 Self-RAG, Corrective-RAG, HyDE까지, 벡터 데이터베이스, 임베딩 모델, 청킹 전략, 리랭킹까지 실전 예제로 구축합니다.
2026-03-17 · 39 분 읽기 #rag#llm#vector-database#langchain#embeddingLLM, Tool Calling, Embedding 벤치마크 완전 분석: 각 벤치마크가 측정하는 것
MMLU, HellaSwag, HumanEval, BFCL, MTEB 등 주요 AI 벤치마크들이 정확히 무엇을 측정하는지, 각 점수의 의미와 한계, 그리고 실제 활용 시 어떤 벤치마크를 참고해야 하는지 완전히 분석합니다.
2026-03-17 · 44 분 읽기 #llm#benchmark#mmlu#mteb#bfcl임베딩 모델 완전 가이드: 벡터 검색·RAG·Sentence Transformers 실전 활용
임베딩의 기본 개념부터 주요 모델 비교(OpenAI, Cohere, BGE, E5, GTE, Jina), Sentence Transformers 활용, 벡터 데이터베이스(Pinecone, Weaviate, Milvus, Chroma, FAISS) 인덱싱 전략, 유사도 검색, RAG 파이프라인 통합, 파인튜닝, MTEB 벤치마크 평가까지 임베딩 모델의 모든 것을 실전 코드와 함께 체계적으로 다
2026-03-13 · 32 분 읽기 #llm#embedding#vector-search#rag#sentence-transformersRAG 파이프라인 프로덕션 구축 가이드: 벡터 DB 선택부터 청킹·리랭킹·평가까지
RAG(Retrieval-Augmented Generation) 파이프라인의 프로덕션 구축을 체계적으로 다룹니다. 임베딩 모델 비교, 벡터 DB 선택(Pinecone·Milvus·Weaviate·Qdrant·Chroma), 청킹 전략, 하이브리드 검색, 리랭킹, RAGAS 평가 메트릭, 장애 대응까지 실전 운영 노하우를 제공합니다.
2026-03-11 · 25 분 읽기 #llm#rag#vector-database#retrieval#embeddingQdrant 벡터DB 운영 및 사용 방법 총정리 — 컬렉션 설계부터 RAG 연동까지
Qdrant 벡터DB의 핵심 개념부터 컬렉션 설계, 인덱스 전략, 필터링, RAG 파이프라인 연동, 운영 모니터링까지 실전에서 바로 쓸 수 있는 가이드를 정리했습니다.
2026-03-09 · 18 분 읽기 #database#qdrant#vector-database#embedding#similarity-searchPostgreSQL + pgvector 벡터 검색 실전 가이드: RAG부터 하이브리드 검색까지
PostgreSQL pgvector 확장으로 벡터 유사도 검색을 구현한다. 설치부터 HNSW/IVFFlat 인덱스, 하이브리드 검색(벡터+전문검색), RAG 파이프라인 통합까지 실전 코드 포함.
2026-03-02 · 10 분 읽기 #postgresql#pgvector#vector-search#embedding#rag