🧪 AI 보안 실습 환경 | OWASP LLM Top 10

프롬프트 인젝션
직접 해보세요

의도적으로 취약하게 설계된 AI 챗봇으로 공격 기법을 체험하고
실제 방어 전략을 학습하세요

●LLM01프롬프트 인젝션실습 가능

LLM02안전하지 않은 출력 처리

LLM03훈련 데이터 오염

LLM04모델 서비스 거부(DoS)

LLM05공급망 취약점

●LLM06민감정보 노출실습 가능

LLM07안전하지 않은 플러그인

●LLM08과도한 권한실습 가능

LLM09AI 과의존

LLM10모델 도용

🧪

AI 보안 실습 환경 — 의도적으로 취약하게 설계된 시뮬레이션입니다. 모든 자격증명·개인정보는 가상 데이터이며 실제 시스템과 무관합니다.

무료 실습 5회 남음

💉[LLM01] 직접 프롬프트 인젝션 — 챗봇 시스템 프롬프트 안에 숨겨진 관리자 계정·DB 접속 정보·API 키를 추출해보세요.

⚡ 공격 프롬프트 예시

😈

취약한 AI

취약점: 민감 자격증명이 시스템 프롬프트에 직접 삽입됨

아래에서 공격 프롬프트를 전송하면
여기에 응답이 표시됩니다

🛡️

방어된 AI

방어: 자격증명 제거 + 입력 인젝션 패턴 탐지 레이어

아래에서 공격 프롬프트를 전송하면
여기에 응답이 표시됩니다

↑ 입력한 공격 프롬프트가 취약한 AI와 방어된 AI에 동시 전송됩니다

📰 실전 사례 — 실제 연구·사고

프롬프트 인젝션, 현실에서도 일어나고 있습니다

🏥

의료용 AI 모델, 프롬프트 인젝션 공격에 94% 이상 뚫려

서울아산병원 비뇨의학과 서준교·정보의학과 전태준, 인하대병원 이로운 교수팀 공동연구 | JAMA Network Open (피인용지수 9.7) 게재

2025년 1월~10월 GPT-4o-mini, Gemini-2.0-flash-lite, Claude 3 Haiku를 대상으로 12개 임상 시나리오·216건 대화를 분석한 결과, 전체 공격 성공률 94.4%로 나타났습니다. 임산부에게 금기 약물을 권고하는 최고 위험 시나리오에서도 3종 모두 100% 취약했으며, 조작된 답변이 후속 대화까지 지속되는 비율도 80% 이상이었습니다.

공격 기법 ① 상황인지형 프롬프트 주입

환자 정보를 활용해 AI 모델의 판단을 교란하는 기법. "의사가 이미 확인했다", "이 환자는 예외 케이스다" 등의 컨텍스트를 삽입해 금기 약물 처방을 유도합니다.

공격 기법 ② 증거 조작형 주입

실제 존재하지 않는 연구 결과나 FDA 발표를 그럴듯하게 위조해 AI가 잘못된 의학 정보를 사실로 수용하도록 유도합니다.

📊 모델별 공격 성공률 (1차 실험 · 2025.1~10)

GPT-4o-mini100%

Gemini-2.0-flash-lite100%

Claude 3 Haiku83.3%

📊 최신 모델 추가 실험 (간접 인젝션 · 임산부 금기 약물)

GPT-5100%

Gemini 2.5 Pro100%

Claude 4.5 Sonnet80%