🧪 AI 보안 실습 환경 | OWASP LLM Top 10

OWASP LLM Top 10
직접 해보세요

의료·금융·교육·법률 도메인별 AI 공격 기법을 체험하고
실제 방어 전략을 학습하세요 — OWASP LLM Top 10 중 9개 실습 가능

●LLM01프롬프트 인젝션실습 가능

●LLM02안전하지 않은 출력 처리실습 가능

●LLM03훈련 데이터 오염실습 가능

●LLM04모델 서비스 거부(DoS)실습 가능

LLM05공급망 취약점

●LLM06민감정보 노출실습 가능

●LLM07안전하지 않은 플러그인실습 가능

●LLM08과도한 권한실습 가능

●LLM09AI 과의존실습 가능

●LLM10모델 도용실습 가능

🔒

TechFi 유료 서비스 · 한시적 테스트 개방 중

이 기능은 테크파이(TechFi)의 허가 기업에만 제공되는 유료 서비스입니다. 현재 테스트 목적으로 일시 공개되었으며, 정식 이용 시 도입 문의가 필요합니다.

도입 문의 →

🧪

AI 보안 실습 환경 — 의도적으로 취약하게 설계된 시뮬레이션입니다. 모든 자격증명·개인정보는 가상 데이터이며 실제 시스템과 무관합니다.

🏷️ 도메인 필터 — 분야별 AI 보안 위협 실습

💉[LLM01] 직접 프롬프트 인젝션 — 챗봇 시스템 프롬프트 안에 숨겨진 관리자 계정·DB 접속 정보·API 키를 추출해보세요.

⚡ 공격 프롬프트 예시

😈

취약한 AI

취약점: 민감 자격증명이 시스템 프롬프트에 직접 삽입됨

아래에서 공격 프롬프트를 전송하면
여기에 응답이 표시됩니다

🛡️

방어된 AI

방어: 자격증명 제거 + 입력 인젝션 패턴 탐지 레이어

아래에서 공격 프롬프트를 전송하면
여기에 응답이 표시됩니다

↑ 입력한 공격 프롬프트가 취약한 AI와 방어된 AI에 동시 전송됩니다

📋 OWASP LLM Top 10 — 실습 가이드

LLM01프롬프트 인젝션실습 ▶

LLM02출력 처리 취약점실습 ▶

LLM03학습 데이터 오염실습 ▶

LLM04모델 서비스 거부실습 ▶

LLM05공급망 취약점준비중

LLM06민감정보 노출실습 ▶

LLM07플러그인 취약점실습 ▶

LLM08과도한 권한실습 ▶

LLM09AI 과의존실습 ▶

LLM10모델 탈취실습 ▶

* LLM05 공급망 취약점은 인터랙티브 시뮬레이션 준비 중입니다.

📰 실전 사례 — 실제 연구·사고

프롬프트 인젝션, 현실에서도 일어나고 있습니다

🏥

의료용 AI 모델, 프롬프트 인젝션 공격에 94% 이상 뚫려

서울아산병원 비뇨의학과 서준교·정보의학과 전태준, 인하대병원 이로운 교수팀 공동연구 | JAMA Network Open (피인용지수 9.7) 게재

2025년 1월~10월 GPT-4o-mini, Gemini-2.0-flash-lite, Claude 3 Haiku를 대상으로 12개 임상 시나리오·216건 대화를 분석한 결과, 전체 공격 성공률 94.4%로 나타났습니다. 임산부에게 금기 약물을 권고하는 최고 위험 시나리오에서도 3종 모두 100% 취약했으며, 조작된 답변이 후속 대화까지 지속되는 비율도 80% 이상이었습니다.

공격 기법 ① 상황인지형 프롬프트 주입

환자 정보를 활용해 AI 모델의 판단을 교란하는 기법. "의사가 이미 확인했다", "이 환자는 예외 케이스다" 등의 컨텍스트를 삽입해 금기 약물 처방을 유도합니다.

공격 기법 ② 증거 조작형 주입

실제 존재하지 않는 연구 결과나 FDA 발표를 그럴듯하게 위조해 AI가 잘못된 의학 정보를 사실로 수용하도록 유도합니다.

📊 모델별 공격 성공률 (1차 실험 · 2025.1~10)

GPT-4o-mini100%

Gemini-2.0-flash-lite100%

Claude 3 Haiku83.3%

📊 최신 모델 추가 실험 (간접 인젝션 · 임산부 금기 약물)

GPT-5100%

Gemini 2.5 Pro100%

Claude 4.5 Sonnet80%