본문 바로가기

rag4

[IT-LLM] RAG 실전 설계: Chunking·Re-rank·평가(Eval)·운영(Observability)·프레임워크(FrameWork)까지 한 번에 정리 RAG 실전 설계: Chunking·Re-rank·평가(Eval)·운영(Observability)·프레임워크(Fraemwork)까지 한 번에 정리 RAG(Retrieval-Augmented Generation)는 “LLM에 지식을 붙인다”는 한 문장으로 요약되지만, 실무에서 성패는 검색 품질과 평가/운영 체계에서 갈립니다.처음에는 잘 되다가도, 문서가 늘고 사용자가 늘면 정확도 하락·근거 누락·비용 폭증·지연 증가가 동시에 터지기 쉽습니다.이 글은 RAG를 “데모”가 아니라 운영 가능한 시스템으로 만들기 위해 필요한 설계 포인트와 체크리스트를 정리합니다.이 글에서 얻을 수 있는 것1) RAG 전체 구조를 “아키텍처 관점”으로 한 번에 이해2) Chunking·Hybrid Search·Re-rank·Cit.. 2026. 1. 28.
[IT-LLM] LLM 완전 정리: 개념·유형·RAG·파인튜닝(SFT·PEFT·LoRA·QLoRA·RLHF)·리스크까지 LLM 완전 정리: 개념·모델유형/패밀리·RAG·파인튜닝·운영 리스크까지 LLM(Large Language Model, 대규모 언어 모델)은 검색·요약·문서작성·코드 보조 등 “언어 기반 업무” 전반에 빠르게 도입되고 있습니다.하지만 실무에서 체감 성능은 모델 이름만으로 결정되지 않습니다. 근거가 없으면 그럴듯한 오답을 만들어내는 할루시네이션(Hallucination, 환각)이 발생할 수 있고, 내부 정책/업무 규칙이 반영되지 않으면 결과가 들쭉날쭉해집니다.그래서 운영 환경에서는 RAG(Retrieval-Augmented Generation, 검색 증강 생성)로 “근거 기반 응답”을 만들고, 파인튜닝(Fine-tuning)으로 “형식·문체·규칙”을 고정하는 전략을 함께 고려합니다.이 글에서 얻을 수 있는.. 2026. 1. 20.
[IT-보안점검] LLM 보안 점검표: ‘이거’ 없으면 내부자료 그대로 새나갑니다 LLM 보안: 프롬프트 인젝션·RAG 데이터 유출·대응 체크리스트LLM을 붙이면 생산성이 크게 오르지만, 동시에 새로운 보안 리스크가 생깁니다. 특히 프롬프트 인젝션, RAG를 통한 데이터 유출, 그리고 툴 호출(에이전트) 오남용은 “기존 웹 보안”과 결이 다릅니다. 이 글에서는 실무자가 바로 적용할 수 있도록 위협 모델 + 대응 체크리스트로 정리합니다. 목 차LLM 보안이 기존 보안과 다른 이유프롬프트 인젝션(직접/간접) 이해RAG 데이터 유출: “검색”이 공격 표면이 되는 순간툴/에이전트 보안: 권한, 승인, 격리실무 체크리스트 12개 + FAQ 1. LLM 보안이 기존 보안과 다른 이유입력이 “자연어”라서 필터 우회가 쉽고, 정책이 애매해지기 쉽습니다.출력이 “행동”으로 이어질 수 있습니다(툴 호출.. 2026. 1. 18.
[IT-인공지능] 생성형 AI의 모든 것: 기술, 활용, 한계와 극복방안, 그리고 미래 전망 목 차혁신적인 콘텐츠 창작의 미래, 생성형 AI(Generative AI) 개요생성형 AI(Generative AI)의 기본 동작 원리 및 주요 알고리즘생성형 AI(Generative AI)의 주요 활용 분야 및 환경 변화 전망생성형 AI(Generative AI)의 한계와 극복 방안마무리 최근 가장 많은 주목을 받고 있는 생성형 AI(Generative AI)는 주어진 데이터를 바탕으로 새로운 콘텐츠를 생성하는 인공지능 기술입니다. 이 기술은 자연어 처리, 이미지 생성, 음악 작곡 등 다양한 분야에서 혁신을 이끌고 있습니다.이번 포스팅에서는 생성형 AI의 개요, 기본 원리, 주요 사례, 한계와 극복 방안, 그리고 미래 전망에 대해 자세히 알아보겠습니다.1. 혁신적인 콘텐츠 창작의 미래, 생성형 AI(.. 2024. 7. 16.

티스토리툴바