■ AI 고지·사람 사칭 금지
표시가 없는 문장은 공식 문서에서 확인한 내용이에요. 다른 표시는 읽는 법
왜 배우나 — 시험이 요구하는 것
시험 목표 5.5 편향·공정·투명 · D5 규정·안전 14%Address ethical AI considerations (bias, fairness, transparency)
이 개념으로 푸는 판단 (할 수 있어야 하는 것)
- 5.5① 고객지원 챗봇 — 사람처럼 보이게 해도 되나? — AI 고지·사람 사칭 금지 (투명성의 최소선)
한눈에
소비자 대상 챗봇(외부 대상·대화형 AI 에이전트 포함)은 사람이 아니라 AI 와 대화 중임을 알려야 한다. 최소 각 채팅 세션 시작 때 알린다. 고위험(high-risk) 용도가 아니어도 고지 의무가 적용된다 (Additional Use Case Guidelines) (2026-09-28 조회)
사람 사칭(impersonation)은 결과를 사람이 만든 것처럼 내놓거나, 사람과 대화한다고 믿게 하는 것이다. Universal Usage Standards 는 이것을 모든 사용자·용도에 금지한다 (2026-09-28 조회)
비유 자동 발송 메일의 "발신 전용 · 자동 발송" 표기와 같다. 메신저 봇 계정에 붙는 봇 배지와도 같다
ELI5
가게 앞 자동 안내 방송이 "저는 녹음된 안내예요" 하고 먼저 말하는 거예요.
- 상대가 사람인지 기계인지 손님이 알아야 해요.
- 대화를 새로 시작할 때마다 말해 줘요.
- 기계가 사람인 척하는 건 어디서든 안 돼요.
- 중요한 일(돈·병원 같은)이면 사람이 한 번 더 봐요.
개념 설명
원리
왜 알리나
- AUP 고위험(high-risk) 절에 이유 문장이 있다. 최종 사용자는 결과를 만드는 데 AI 가 끼었는지 알아야 한다 (en-aup). 사람은 상대가 AI 인지 알아야 얼마나 믿을지 정한다.
조항 셋이 겹친다
- Universal Usage Standards : 모든 사용자·용도에 적용된다. 사람 사칭(impersonation)을 금지한다. 결과를 사람이 만든 것처럼 내놓는 것과 사람과 대화한다고 믿게 하는 것이다. 이 금지는 "Do Not Compromise Privacy or Identity Rights" 절에 있다 (en-aup · headings).
- Additional Use Case Guidelines : 고위험이든 아니든 적용된다. 소비자 대상 챗봇(외부 대상·대화형 AI 에이전트 포함)은 AI 와 대화 중이라고 알린다. 최소 각 채팅 세션 시작 때 알린다 (en-aup).
- High-Risk Use Case Requirements : 결과를 개인·소비자가 직접 보면 "AI 를 써서 조언·결정·추천을 만든다" 고 알린다. 최소 각 세션 시작 때 알린다. 자격 있는 전문가 검토도 한다 (en-aup). 자세한 것은 ■ AUP 고위험 용도 에 있다.
고지(disclosure)와 사칭 금지는 다르다
- 고지는 해야 할 일이다(적극). 사칭 금지는 하면 안 될 일이다(소극). 둘 다 지켜야 한다. AI 라고 밝혀 놓고 대화 중에 "저는 사람이에요" 라고 하면, 고지는 했어도 사칭이다.
에이전트·집행
- 에이전트 용도도 AUP 를 똑같이 지켜야 한다 (en-aup).
- 위반하면 throttle(속도 제한)·정지·해지, 출력 차단·수정이 될 수 있다 (en-aup).
규칙과 판단
갈림길
①② 고지 의무 있나 [5.5①]
AI 사용 고지 + 전문가 검토
AI 를 써서 조언·결정·추천을 만든다고 각 세션 시작 때 알린다. 자세한 것은 ■ AUP 고위험 용도 에 있다. 소비자 대상 챗봇 고지는 고위험 여부와 상관없이 적용된다 (2026-09-28 조회)
매 채팅 세션 시작 때 알린다
사람이 아니라 AI 와 대화 중임을 알린다 (2026-09-28 조회)
문구는 consumer-facing 만 말한다
고지 문구는 consumer-facing 만 언급한다. 사람 사칭 금지는 모든 용도에 적용된다 (설명 쪽 미해결)
② 언제 고지 [5.5①]
모자란다
최소 각 채팅 세션 시작 때 알려야 한다
모자란다
세션마다 알려야 한다
최소선
"at a minimum" 이다. 그보다 자주 알리는 것은 괜찮다
③ 사칭이냐 [5.5①]
금지
사람과 대화한다고 믿게 한다. 이것은 사람 사칭이고 고지 위반이다
금지
결과를 사람이 만든 것처럼 내놓는 것이다
고지하면 된다
업계 일반 AUP 는 가짜 페르소나로 출처를 속이는 것을 금지
나머지 규칙
-
에이전트도 똑같다 : agentic use 도 AUP 를 지켜야 한다. 위반하면 throttle(속도 제한)·정지·해지가 될 수 있다 (2026-09-28 조회) [5.5①]
규칙 원문 ①②③ (갈림길로 그린 규칙)
-
소비자 대상 챗봇 고지 : 외부 대상·대화형 AI 에이전트도 포함한다. 사람이 아니라 AI 와 대화 중임을 알린다. 최소 각 채팅 세션 시작 때 알린다("at a minimum"). 그보다 자주 알리는 것은 괜찮다. 고위험 여부와 상관없이 적용된다 (2026-09-28 조회) [5.5①]
-
고지 조항은 둘이고, 문구가 다르다 (2026-09-28 조회) [5.5①]
조항 대상 알릴 내용 시점 Additional Use Case Guidelines 모든 소비자 대상 챗봇 AI 와 대화 중이다 (사람이 아니다) 최소 각 채팅 세션 시작 High-Risk Use Case Requirements 결과를 개인·소비자가 직접 보는 고위험 용도 AI 를 써서 조언·결정·추천을 만든다 최소 각 세션 시작 고위험 용도는 고지에 더해 자격 있는 전문가 검토(human-in-the-loop)가 필요하다. 자세한 것은 ■ AUP 고위험 용도 에 있다
직원만 쓰는 내부 도구 : 챗봇 고지 문구는 consumer-facing 만 언급한다 (설명 쪽 미해결)
-
사람 사칭 금지 : Universal Usage Standards(Do Not Compromise Privacy or Identity Rights 절)는 아래 두 가지를 모든 사용자·용도에 금지한다 (2026-09-28 조회) [5.5①]
- 결과를 사람이 만든 것처럼 내놓기
- 사람과 대화한다고 믿게 하기
비슷한 금지가 둘 더 있다. 동의·권한 없이 가짜 페르소나로 출처를 속이는 것이다. 그리고 AI 가 만든 것임을 숨긴 대량 자동 정치 메시지다 (2026-09-28 조회)
AI 라고 밝힌 이름 있는 봇은 고지하면 된다 업계 일반 AUP 는 가짜 페르소나로 출처를 속이는 것을 금지
더 깊이 : 판단 규칙 · 상황 변수 (설명)
판단 규칙
| 조건 | 답 | 등급 | 근거 |
|---|---|---|---|
| 소비자 대상 챗봇·대화형 에이전트다 | 사람이 아니라 AI 와 대화 중이라고 알린다. 최소 각 채팅 세션 시작 때 알린다 | (2026-09-28 조회) | en-aup "All consumer-facing chatbots, including any external-facing or interactive AI agent, must disclose to users that they are interacting with AI rather than a human." |
| 고위험 용도 7종(법률 · 의료 · 보험 · 금융 · 고용·주거 · 시험·인증·입학 · 언론) 결과를 개인이 직접 본다 | AI 를 써서 만든다고 각 세션 시작 때 알린다. 전문가 검토도 한다 | (2026-09-28 조회) | en-aup |
| 결과를 사람이 쓴 것처럼 내거나 사람과 대화한다고 믿게 한다 | 모든 용도에서 금지된다 | (2026-09-28 조회) | en-aup |
| 동의·권한 없이 가짜 페르소나로 출처를 속인다 | 금지된다 | (2026-09-28 조회) | en-aup · headings(Misinformation 절) |
| 에이전트가 자동으로 메시지를 보낸다 | 같은 규칙을 따른다. agentic use 에도 AUP 가 적용된다 | (2026-09-28 조회) | en-aup |
상황 변수
| 변수 | 값 | 답 쪽 | 등급 | 근거 |
|---|---|---|---|---|
| 받는 사람 | 외부 소비자 | 챗봇 고지가 필요하다 | 판단 규칙 1 | |
| 받는 사람 | 직원만 | 챗봇 고지 문구는 consumer-facing 만 말한다. 사칭 금지는 그대로 적용된다 | 미해결 | 미해결 1 |
| 용도 | 고위험 7종 | 고지하고 전문가 검토를 한다 | 판단 규칙 2 | |
| 용도 | 웰니스 조언(수면·스트레스·영양·운동) | 의료 고위험에서 빠진다. 그래서 챗봇이면 챗봇 고지만 한다 | en-aup | |
| 세션 수 | 한 고객이 하루 3번 새 채팅을 연다 | 3번 모두 시작 때 고지한다 | en-aup "each chat session" | |
| 봇 이름 | 브랜드 이름을 쓰고 AI 라고 밝힌다 | 고지만 하면 된다 | 업계 일반 | AUP 에 페르소나 허용 문장은 없다 |
| 채널 | 음성 콜봇 | 문구는 "chatbots · interactive AI agent" 다. 그래서 대화형이면 같은 규칙으로 보는 것이 안전하다 | 업계 일반 | en-aup |
연습 문제
온라인 쇼핑몰이 고객이 웹사이트에서 바로 쓰는 반품 접수 챗봇소비자 대상을 연다. 법무팀은 "대출·의료 같은 고위험 용도가 아니니 약관에 한 줄만 적자" 고 한다. 한 고객이 하루에 채팅을 세 번 새로 열기도 한다. AI 고지(disclosure)는 어떻게 해야 할까?
시험 대비
함정
- 상담 전환율이 오른다고 Agent 에 사람 이름·사진을 붙이고 AI 표시를 빼는 것은 함정이다. 사람 사칭이고 고지 위반이다
- "약관에 한 번 적으면 충분" 이나 "사용자가 물어볼 때만 밝힘" 은 함정이다. 최소 각 채팅 세션 시작 때 알린다
- "첫 대화에서 한 번만" 은 함정이다. 세션마다 알린다
- "고위험 용도(대출·의료 등)만 고지 의무" 는 함정이다. 소비자 대상 챗봇은 고위험이 아니어도 고지한다
- "AI 고지만 하면 고위험 용도도 끝" 은 함정이다. 고위험 용도는 전문가 검토도 필요하다. 자세한 것은 ■ AUP 고위험 용도 에 있다
신호
"All consumer-facing chatbots, including any external-facing or interactive AI agent, must disclose to users that they are interacting with AI rather than a human."
"This disclosure must be provided at a minimum at the beginning of each chat session."
"Impersonate a human by presenting results as human-generated, or using results in a manner intended to convince a natural person that they are communicating with a natural person when they are not"
"Our Universal Usage Standards apply to all users and use cases."
"end-users should be aware when AI has been involved in producing outputs"
더 깊이 : 뒤집히는 때 · 오답 재료 (설명)
뒤집히는 때
1. AI 초안을 사람 상담원이 고쳐서 보냄
- 조건 : 상담원이 Claude 초안을 읽고 고친 뒤 자기 이름으로 보낸다. 고객은 상담원과 대화 중이다.
- 판단 : 고객이 대화하는 상대가 실제로 사람이면 "사람과 대화한다고 믿게" 에는 해당하지 않는다. 다만 두 가지가 남는다. 하나는 "결과를 사람이 만든 것처럼 내놓음"(59줄 앞부분)이다. 다른 하나는 고위험 용도일 때의 "AI 를 써서 만든다" 고지다.
- 등급 : 미해결 (사람 손을 얼마나 거치면 "사람이 만든 것" 인지 원문 기준 없음)
- 근거 : en-aup
2. 한 세션이 아주 긺
- 조건 : 콜센터 채팅이 한 세션 안에서 40분 이어진다.
- 판단 : 원문은 "최소 세션 시작 때" 다. 중간에 다시 알리라는 요구는 없다. 더 자주 알리는 것은 "at a minimum" 이라 허용된다.
- 등급 : (최소선) · 중간 재고지는 선택
- 근거 : en-aup
3. 고위험 아님인데 "고지 안 해도 됨"?
- 조건 : 반품 접수 챗봇이다(고위험 7종 밖).
- 판단 : 뒤집히지 않는다. 챗봇 고지는 고위험 여부와 상관없다("regardless of whether they are High-Risk Use Cases").
- 근거 : en-aup
오답 재료
| 오답 | 왜 끌리나 | 왜 틀리나 | 근거 |
|---|---|---|---|
| "상담 전환율을 위해 사람 이름·사진을 붙이고 AI 표시를 뺀다" | 비즈니스 지표가 오른다 | 사람 사칭 금지(모든 용도)를 어기고 챗봇 고지도 어긴다 | en-aup |
| "약관(이용 약관)에 한 번 적으면 충분" | 법무 관행 같다 | 최소 각 채팅 세션 시작 때 사용자에게 알린다 | en-aup |
| "첫 대화에서 한 번만 알리면 된다" | 반복이 번거롭다 | "each chat session" 이다. 세션마다 알린다 | en-aup |
| "사용자가 '사람이에요?' 라고 물을 때만 밝힌다" | 거짓말은 안 했기 때문이다 | 먼저 알려야 한다. 묻기 전까지 사람인 척 두면 사칭 쪽이다 | en-aup |
| "고위험 용도만 고지 의무가 있다" | 고위험 절에 Disclosure 조항이 따로 있다 | 챗봇 고지는 Additional Use Case Guidelines 에 있다. 고위험이든 아니든 적용된다 | en-aup |
| "AI 라고 알렸으니 대출 결정도 자동으로 내보내도 된다" | 투명성(transparency)은 채웠기 때문이다 | 고위험은 전문가 검토가 따로 필요하다 | en-aup · ■ AUP 고위험 용도 |
| "에이전트는 챗봇이 아니라 규칙 밖" | 이름이 다르다 | "including any external-facing or interactive AI agent" 이다. agentic use 에도 AUP 가 적용된다 | en-aup |
참고
함께 보기
더 깊이 : 출처 · 상태 · 미해결 (참고)
출처
- 가이드 목표 5.5 공식 시험 가이드 v1.0
- Usage Policy (en-aup, 페이지 표기 Effective September 15, 2025)
- AUP 절 제목
상태
- 업계 일반 1줄(이름 있는 봇)
- 미해결 1줄(내부 도구)
미해결
- 직원만 쓰는 내부 도구 : 챗봇 고지 문구는 "consumer-facing" 만 말한다. 그래서 내부 도구에 고지 의무가 있는지 원문 문장이 없다. 사람 사칭 금지(Universal)는 모든 용도라 그대로 적용된다.
- 고지 조항 문구가 같은 AUP 안에서 다르다. 챗봇 쪽 내용은 "that they are interacting with AI rather than a human" 이다. 시점은 "at a minimum at the beginning of each chat session" 이다. 고위험 쪽 내용은 "that you are using AI to help produce your advice, decisions, or recommendations" 이다. 시점은 "at a minimum at the beginning of each session" 이다. 시험 보기가 둘을 섞으면 대상(모든 챗봇 vs 고위험 결과)을 먼저 가른다.
- 사람이 AI 초안을 고쳐 보낼 때 "사람이 만든 것" 의 기준이 없다 (뒤집히는 때 1).
- defuddle 판 AUP(en-aup.md)는 Universal 절 제목이 빠져 있다. 그래서 opencli 로 제목만 따로 받아 en-aup-headings-20260928.md 에 두었다. 페이지 표기는 Effective September 15, 2025 다. 가이드 2026-07 보다 앞이라 시험 뒤 변경은 없다.
- 목록(5.5①)과 원문이 다르다. 목록 정답 규칙은 챗봇 고지만 적었다. 고위험 고지의 다른 문구(알릴 내용 · "session")는 적지 않았다. 그래서 카드 ② 표로 보충했다. 목록 영어 신호 3개는 원문에서 모두 찾았다(en-aup, 굵은 글씨 표시만 다르다).