자주 묻는 질문 18가지

Q.AI 투명성 확보 가이드라인은 어느 기업에 적용되나요?

A.AI 기술을 이용해 서비스를 제공하는 모든 사업자에게 적용됩니다. 스타트업·중소기업도 예외가 없습니다. 단, 개인적·가정적 목적의 AI 사용은 적용 범위에서 제외됩니다. 적용 여부는 이용자에게 AI를 활용한 서비스를 제공하는지를 기준으로 판단합니다.

Q.AI를 내부 업무에만 사용하면 가이드라인을 지켜야 하나요?

A.내부 직원 전용 AI 도구는 이용자 대상 의무(표시·설명요청권 등)가 직접 적용되지 않습니다. 그러나 인사·평가 등 자동화 의사결정에 AI를 사용하는 경우 근로자 권리 보호 차원에서 투명성 조치가 필요합니다.

Q.ChatGPT API를 활용한 서비스도 대상인가요?

A.예, ChatGPT·Claude·Gemini 등 외부 AI API를 이용해 서비스를 제공하는 경우 가이드라인이 적용됩니다. AI 모델 자체가 아닌 "AI를 활용한 서비스 제공자"가 의무 주체이므로, API를 사용하는 사업자가 표시·고지·설명 의무를 이행해야 합니다.

Q.단순 추천 알고리즘(e.g. 상품 추천)도 해당되나요?

A.개인화 추천 알고리즘은 AI의 일종으로 가이드라인 적용 대상입니다. 다만 이용자에게 미치는 영향의 경중에 따라 의무 수준이 달라집니다. 신용평가·채용·보험 심사처럼 중대한 결정을 자동화하는 경우 더 엄격한 의무가 부과됩니다.

Q.AI 생성 콘텐츠에 어떻게 표시해야 하나요?

A."AI 생성" 또는 "AI 작성" 등의 문구를 해당 콘텐츠 인근에 명확히 표시해야 합니다. 방법은 텍스트 배지(UI 레이블), 워터마크, 메타데이터 삽입 중 하나 이상을 선택할 수 있습니다. 표시는 이용자가 쉽게 인식할 수 있도록 눈에 잘 띄는 위치에 해야 하며, 작은 글씨나 숨겨진 위치는 적절하지 않습니다.

Q.AI 챗봇(상담 봇)을 사용할 때 무엇을 고지해야 하나요?

A.대화 시작 전 또는 시작 시점에 "AI 챗봇과 대화 중입니다"라는 사실을 이용자에게 명확히 알려야 합니다. 실제 상담원인 척하거나 AI임을 숨기는 것은 금지됩니다. 이용자가 요청할 경우 인간 상담원으로 전환할 수 있는 경로도 제공해야 합니다.

Q.AI가 쓴 글을 사람이 편집했을 때도 AI 표시를 해야 하나요?

A.AI가 초안을 생성하고 인간이 실질적으로 수정·편집한 경우, AI 보조 생성임을 표시하는 것이 권장됩니다. 다만 인간의 창작 비중이 압도적으로 높아 AI 기여가 미미한 경우는 표시 의무가 완화될 수 있습니다. 불명확하다면 "AI 보조 작성"으로 표시하는 것이 안전합니다.

Q.AI 표시 의무의 예외는 어떤 경우인가요?

A.풍자·패러디·예술 창작 등 맥락상 AI 사용이 명백히 드러나는 경우, 순수 교육·연구 목적의 실험적 사용, 또는 법령에 별도 규정이 있는 경우 표시 의무가 면제될 수 있습니다. 단, 예외 적용 시에도 이용자를 기만하는 방식은 허용되지 않습니다.

Q.감사 추적(Audit Trail) 로그를 얼마나 보존해야 하나요?

A.가이드라인은 AI 의사결정 관련 로그를 최소 3년 보존을 권고합니다. 금융·의료·교육 등 분야별 별도 규정이 있는 경우 해당 규정이 우선합니다. 보존 항목에는 입력 데이터(개인정보 제외 가명처리), 모델 버전, 처리 결과, 시간 정보가 포함되어야 합니다.

Q.설명 가능한 AI(XAI)를 반드시 도입해야 하나요?

A.XAI 도입이 직접적으로 강제되지는 않지만, 이용자의 설명 요청에 응답할 수 있는 체계를 갖춰야 합니다. 블랙박스 AI만 사용하고 설명 불가 상태라면 의무 위반이 됩니다. SHAP·LIME 등 사후 설명 기법 도입이나 의사결정 로직 문서화로 대응할 수 있습니다.

Q.모델 카드(Model Card)는 반드시 공개해야 하나요?

A.모델 카드 공개가 의무화되지는 않았지만 강력히 권고됩니다. 특히 이용자에게 중대한 영향을 미치는 AI 서비스(채용·신용·보험 등)의 경우 모델 카드 수준의 정보 공개가 사실상 요구됩니다. 내부 문서로만 유지하더라도 규제기관 요청 시 제출 가능해야 합니다.

Q.이용자 설명 요청에 얼마 내로 응해야 하나요?

A.설명 요청을 수령한 날로부터 30일 이내에 처리하고 회신해야 합니다. 정당한 사유가 있는 경우 1회에 한해 30일 연장이 가능하며, 연장 시 이용자에게 사유와 처리 예정일을 안내해야 합니다. 응답하지 않거나 형식적으로만 응대하는 경우 과태료 부과 대상입니다.

Q.이의제기권이란 무엇이며 어떻게 보장해야 하나요?

A.AI만으로 내려진 중요 결정(채용·대출·보험 심사 등)에 불복하여 인간의 재검토를 요청할 수 있는 권리입니다. 이의제기 접수 창구를 공개하고, 접수 후 인간 담당자가 실질적으로 재검토해야 합니다. "AI가 결정했으니 변경 불가"는 허용되지 않습니다.

Q.자동화 의사결정 거부권은 어떻게 적용하나요?

A.이용자는 자신에게 중대한 영향을 미치는 결정이 AI만으로 내려지는 것을 거부할 권리가 있습니다. 사업자는 이 경우 인간 개입이 포함된 대안적 처리 방법을 제공해야 합니다. 단, 이용자가 명시적으로 동의한 경우나 법령에 근거한 자동화 처리는 예외가 될 수 있습니다.

Q.개인정보처리방침에 AI 관련 내용을 어떻게 추가해야 하나요?

A.개인정보처리방침에 다음 항목을 추가해야 합니다: ① AI를 활용하는 처리 목적과 범위, ② AI 의사결정의 존재 여부, ③ 이용자가 행사할 수 있는 권리(설명요청권·이의제기권), ④ 관련 문의·요청 접수 방법. 기술 용어보다는 이용자가 이해하기 쉬운 언어로 작성해야 합니다.

Q.AI 투명성 컨플라이언스 담당자를 반드시 지정해야 하나요?

A.별도의 AI 컴플라이언스 담당자 지정이 법적으로 의무화되진 않았습니다. 그러나 개인정보보호법상 개인정보보호책임자(CPO)가 AI 투명성 의무 이행을 감독하도록 역할을 확대 적용하는 것이 권장됩니다. AI 사용 규모가 큰 기업은 별도 AI 거버넌스 위원회 구성을 권고합니다.

Q.가이드라인 준수 여부를 어떻게 자체 점검하나요?

A.연 1회 이상 AI 투명성 자체 점검을 실시하고 결과를 기록·보관해야 합니다. 점검 항목은: ① 표시 의무 이행 여부, ② 이용자 권리 행사 채널 운영, ③ 감사 로그 보존, ④ 직원 교육 실시, ⑤ AI 정책 문서 최신화 여부 등입니다. TechFi Security에서 제공하는 체크리스트를 활용하세요.