[IT-보안랭킹] OWASP Top 10 for LLM Applications 2025 완전 정리 – AI·RAG·운영 환경 보안 가이드

OWASP Top 10 for LLM Applications 2025란?

대규모 언어 모델(LLM, Large Language Model)은 이제 단순한 챗봇을 넘어 업무 자동화, 의사결정 지원, 검색증강 생성(RAG), API 연동 서비스 등 실제 운영 환경의 핵심 인프라로 자리 잡았습니다.

이에 따라 기존 웹 애플리케이션 보안 관점만으로는 LLM 기반 시스템의 위험을 충분히 설명할 수 없게 되었고, OWASP(Open Worldwide Application Security Project)는 「OWASP Top 10 for LLM Applications 2025」를 통해 AI 애플리케이션 특화 보안 위협을 공식적으로 정리했습니다.

본 글은 2025년 최신 기준 LLM01~LLM10 목록을 정확히 반영하여, LLM 서비스 개발자·운영자·보안 담당자가 반드시 이해해야 할 위험 요소와 그 의미를 체계적으로 설명합니다.

---

OWASP Top 10 for LLM Applications 2025 (공식 목록)

LLM01. Prompt Injection

악의적으로 조작된 입력 프롬프트를 통해 모델의 원래 의도를 벗어난 동작을 유도하는 공격입니다. 권한 우회, 내부 지시 무력화, 민감 정보 노출로 이어질 수 있어 LLM 보안 위협 중 가장 대표적인 항목으로 분류됩니다.

LLM02. Sensitive Information Disclosure

모델 또는 애플리케이션이 개인정보, 기밀 정보, 내부 시스템 데이터 등을 의도치 않게 출력하는 위험입니다. 2025 버전에서는 실제 사고 증가로 인해 중요도가 크게 상승한 핵심 항목입니다.

LLM03. Supply Chain Vulnerabilities

사전학습 모델, 외부 라이브러리, 데이터셋, 플러그인 및 파인튜닝 도구 등 LLM 생태계 전반의 공급망 요소가 공격당할 경우, 전체 애플리케이션이 위험에 노출될 수 있습니다.

LLM04. Data and Model Poisoning

훈련 데이터, 파인튜닝 데이터 또는 모델 가중치가 악의적으로 변조되어, 모델이 잘못된 판단이나 악성 행동을 하도록 유도되는 위협입니다. 장기적으로 서비스 신뢰도를 훼손할 수 있습니다.

LLM05. Improper Output Handling

LLM이 생성한 출력 결과를 검증·필터링 없이 시스템이나 사용자에게 전달할 경우, 코드 실행, 명령 주입, 잘못된 정보 확산 등 2차 보안 사고로 이어질 수 있습니다.

LLM06. Excessive Agency

LLM 또는 LLM 기반 애플리케이션에 과도한 자율성과 권한을 부여했을 때 발생하는 위험입니다. 자동 명령 실행, 파일 조작, 외부 시스템 제어 등이 통제 없이 이루어질 수 있습니다.

LLM07. System Prompt Leakage

내부용 시스템 프롬프트, 운영 지침, 보안 정책 프롬프트가 외부에 노출되는 위험입니다. 이를 통해 내부 로직과 권한 구조가 공격자에게 노출될 수 있습니다.

LLM08. Vector and Embedding Weaknesses

검색증강 생성(RAG) 환경에서 사용하는 벡터 데이터베이스 및 임베딩 구조의 취약점을 의미합니다. 벡터 DB 접근 통제 실패, 임베딩 무결성 훼손 등은 새로운 공격 표면으로 부각되고 있습니다.

LLM09. Misinformation

모델이 잘못된 정보, 편향된 결과, 혹은 조작된 내용을 생성·전파하는 위험입니다. 특히 의사결정 지원이나 자동 응답 시스템에서는 치명적인 결과를 초래할 수 있습니다.

LLM10. Unbounded Consumption

통제되지 않은 사용으로 인해 과도한 API 호출, 리소스 고갈, 예상치 못한 비용 폭증이 발생하는 위험입니다. 2025 버전에서는 단순 DoS를 넘어 운영 비용 리스크까지 포함해 명확히 정의되었습니다.

---

2025 버전에서 달라진 핵심 포인트

• 민감 정보 노출(Sensitive Information Disclosure)의 중요도 급상승
• 모델·데이터·도구 전체를 포함하는 공급망 보안 관점 강화
• RAG 확산에 따른 벡터·임베딩 보안 항목 신규 포함
• 비용·리소스 관리까지 포함한 운영 관점 보안 강조

---

왜 OWASP LLM Top 10이 중요한가?

LLM 보안은 더 이상 모델 단독의 문제가 아닙니다. 애플리케이션 구조, 운영 자동화, 비용 관리, 외부 생태계까지 포함한 종합적인 문제입니다.

OWASP Top 10 for LLM Applications 2025는 AI 시대에 신뢰할 수 있는 서비스를 구축하기 위한 가장 현실적인 보안 기준선 역할을 합니다.

---

마무리

LLM 기반 서비스는 강력하지만, 보안이 고려되지 않으면 새로운 위험의 중심이 될 수 있습니다.

본 글에서 정리한 OWASP Top 10 for LLM Applications 2025를 기준으로 현재 운영 중인 LLM 서비스와 향후 도입 계획을 점검해보는 것을 권장드립니다.

※ 본 글은 보안 인식 제고 및 교육 목적의 정보 제공 콘텐츠입니다.