EU AI Act 제50조 챗봇·딥페이크 표시 기준

EU AI Act 제50조는 2026년 8월 2일부터 적용된다. 챗봇 고지와 딥페이크 공개가 핵심이다. 생성물의 기계판독 표시도 요구한다. 다만 의무별 책임자와 예외·유예는 다르다.

이 글의 일정·수치는 집행위원회의 2026년 7~8월 공식 안내에 근거한다.

제50조는 무엇을 요구하나

제50조는 AI 사용 사실을 알리는 투명성 규정이다. 모든 의무가 모든 AI 시스템에 적용되지는 않는다. 시스템의 기능과 콘텐츠의 용도에 따라 적용 조항이 달라진다.

집행위원회는 2026년 7월 20일 해석 지침을 공개했다. 같은 해 7월 31일 발표에서 8월 2일 적용을 재확인했다. 이 날짜가 AI Act의 모든 조항에 동일하게 적용되지는 않는다. 집행위원회 시행 발표

제공자와 운영자의 책임 비교

책임은 회사의 업종보다 실제 수행하는 역할에 따라 나뉜다. 제공자는 AI를 개발하거나 개발을 맡긴 주체다. 자기 이름이나 상표로 시장에 출시하거나 사용을 개시한다. 운영자는 자신의 권한 아래 AI 시스템을 사용하는 주체다.

이 글에서 운영자는 deployer를 뜻한다. 판매 유통자를 뜻하는 distributor와는 다른 개념이다. 한 조직이 제공자와 운영자 역할을 함께 맡을 수도 있다. 정의는 AI Act 제3조에 근거한다.

EU 밖에 있는 사업자도 적용 대상이 될 수 있다. EU 시장에 AI 시스템을 제공하는 경우가 포함된다. 시스템의 출력이 EU에서 사용되는 경우도 적용 범위에 들어간다. 한국 소재라는 사실만으로 제외되지는 않는다.

순수한 개인적·비직업적 사용에는 운영자 의무가 적용되지 않는다. 사업이나 직업 활동은 이 예외와 구분된다. 무료·오픈소스라는 이유만으로 제50조가 면제되지도 않는다. AI Act 제2조

챗봇은 언제 AI라고 알려야 하나

직접 대화하는 AI는 늦어도 첫 상호작용 때 고지해야 한다. 챗봇뿐 아니라 대화형 AI 에이전트와 아바타도 포함될 수 있다. 화면이나 음성에서 고지를 명확하게 구별할 수 있어야 한다.

집행위원회 지침은 다음 조건을 함께 확인한다.

• AI Act상 AI 시스템에 해당한다.
• 사람과 실질적인 양방향 교환을 하도록 설계됐다.
• 사람이 중간에서 전달하지 않고 AI가 직접 소통한다.
• 대화 상대가 자연인이다.

사람이 보지 않는 기계 간 통신은 이 고지 의무와 구분된다. 뒤에서 작동하는 분석 기능도 직접 대화에 해당하지 않는다. 단순 자동응답이라는 이유만으로 적용 여부가 정해지지는 않는다.

AI라는 사실이 명백하면 별도 고지의 예외가 가능하다. 판단 기준은 합리적으로 주의 깊은 일반 이용자다. 집행위원회는 이 예외를 좁게 해석하도록 설명한다. 제50조 공식 FAQ

기계판독 표시와 화면 라벨의 차이

기계판독 표시는 소프트웨어가 AI 생성·조작 여부를 탐지하도록 돕는다. 사람이 읽는 화면 라벨은 이용자에게 직접 사실을 알린다. 두 방식은 목적과 책임 주체가 다르다.

제공자의 기술은 가능한 범위에서 견고하고 신뢰할 수 있어야 한다. 다른 시스템과의 상호운용성도 고려 대상이다. 콘텐츠 유형의 한계와 구현 비용도 함께 고려한다.

JSON 파일로 저장했다는 사실만으로 이 의무가 충족되지는 않는다. 기계가 파일을 읽는 것과 AI 기원을 탐지하는 것은 다르다. 이 구분은 제50조의 표시 목적에서 도출된다. AI Act 제50조

딥페이크 표시 기준

딥페이크는 실제처럼 보이게 하는 AI 생성·조작 콘텐츠다. 대상 형식은 이미지·음성·영상이다. 사람뿐 아니라 사물·장소·단체·사건도 관련될 수 있다.

판단의 핵심은 원래 대상과의 닮음과 진실성에 대한 오인이다. 따라서 모든 AI 그림이 곧바로 딥페이크가 되지는 않는다. 반대로 얼굴 합성이 없다는 이유만으로 제외되지도 않는다. 정의는 집행위원회 투명성 요약에 설명돼 있다.

공개 대상 딥페이크는 처음 접할 때 AI 사용을 알 수 있어야 한다. 예술·풍자·허구 작품에는 공개 방식의 조정이 허용된다. 이 경우 작품 감상을 방해하지 않는 방식으로 알릴 수 있다. 예술 작품이라는 이유로 공개 의무가 전부 사라지지는 않는다.

EU가 제공하는 표시 아이콘은 선택 사항이다. 아이콘 사용 자체가 법 준수를 보장하지는 않는다. 해당 공개는 접근성 요건도 충족해야 한다. EU 표시 아이콘 안내

The information shall conform to the applicable accessibility requirements.

— EU AI Act 제50조 제5항

이 문구는 정보 제공에 적용되는 접근성 요건을 명시한다. 작은 아이콘만으로 의미가 전달되는지는 별도로 판단해야 한다. 음성 콘텐츠에서는 청취자가 고지를 인지하는 방식도 고려 대상이다.

공익 텍스트는 사람이 검토하면 면제되나

실질적인 검토와 편집 책임이 있으면 공개 예외가 가능하다. 대상은 공익 사안을 대중에게 알리려고 게시하는 텍스트다. 모든 AI 작성 문서에 운영자의 공개 의무가 붙는 것은 아니다.

예외에는 다음 요소가 함께 필요하다.

• 사람의 검토 또는 실질적인 편집 통제가 이뤄진다.
• 자연인이나 법인이 해당 게시물의 편집 책임을 맡는다.

맞춤법 검사만으로는 실질적인 검토가 되지 않는다. 사람의 검토는 내용의 타당성을 살피는 과정이다. 편집 통제에는 내용을 승인·수정·거절할 권한이 관련된다.

이 예외는 공익 텍스트 공개에 관한 것이다. 제공자의 기계판독 표시 의무까지 함께 면제하지 않는다. 사람이 검토한 딥페이크에도 같은 예외가 자동 적용되지 않는다. 공식 FAQ의 편집 검토 설명

감정인식·생체분류도 고지 대상인가

운영자는 대상자에게 해당 시스템의 작동 사실을 알려야 한다. 이 의무는 챗봇이나 생성물 표시와 별개다. 개인정보 처리에는 해당 개인정보보호 규정도 적용된다.

고지했다는 사실만으로 시스템 사용이 허용되지는 않는다. 다른 금지 규정이나 고위험 AI 요건은 별도로 적용될 수 있다. 제50조는 다른 규제 의무를 없애는 조항이 아니다. 집행위원회 적용 범위 안내

조건별 정리

예외는 해당 의무의 범위 안에서만 판단해야 한다. 같은 콘텐츠라도 제공자와 운영자의 결론이 다를 수 있다. 다음 표는 공식 규칙을 상황별로 대조한 것이다.

범죄 대응 목적이라는 주장만으로 예외가 성립하지 않는다. 법률상 허용 여부와 조항별 조건이 필요하다. 시민이 범죄를 신고하는 공개형 AI에는 별도 주의가 필요하다. 제1항은 이 경우를 범죄 대응 예외에서 다시 제외한다. 제50조의 의무별 예외

적용일과 유예를 혼동하는 흔한 실수

2026년 12월 유예는 제50조 전체의 유예가 아니다. 대상 시스템과 해당 의무가 제한돼 있다. 기존 콘텐츠의 소급 표시 문제도 별도로 구분된다.

시스템 출시일과 콘텐츠 생성일은 서로 다른 판단 기준이다. 기존 시스템이라는 이유로 새 콘텐츠까지 모두 제외되지는 않는다. 일정은 공식 FAQ의 적용일·유예 설명에 근거한다.

HTML·JSON·RSS 재배포에서 표시가 사라지는 문제

여러 형식으로 발행하면 각 노출 경로의 표시를 점검할 필요가 있다. 웹페이지 라벨이 내려받은 파일에도 남는지는 별개다. 이 절은 공개 의무와 재공유 안내를 결합한 운영상 분석이다.

법이 특정 JSON 키 이름을 지정했다는 뜻은 아니다. 데이터 구조만으로 공개 의무를 충족한다고 단정할 수도 없다. 공개 대상 콘텐츠가 사람에게 어떻게 노출되는지가 핵심이다.

EU 아이콘 안내는 재공유·다운로드 때의 가시성을 다룬다. 따라서 발행 경로별 검증은 유용한 운영 점검이다. 이는 모든 데이터 파일에 같은 라벨을 붙이라는 독립 의무와 구별된다. EU 아이콘의 배치 안내

지침과 행동규약의 차이

지침은 적용 범위를 설명하고 행동규약은 이행 방법을 돕는다. 법적 의무의 근거는 AI Act다. 행동규약 가입은 자발적이다.

미가입 사업자도 법적 의무를 준수해야 한다. 다른 방식의 조치가 적절하다는 점을 입증할 수 있다. 이 행동규약은 GPAI 모델용 행동규약과 구별된다. 전자는 주로 출력물 표시를 다룬다. 생성물 투명성 행동규약

집행기관과 공식 신고·민원 창구

신고 창구는 문제의 시스템을 감독하는 기관에 따라 달라진다. 일반적인 AI 시스템은 회원국 관할 당국이 담당한다. AI Office는 법령상 관할하는 시스템을 담당한다. EU 기관의 시스템에는 EDPS가 관여한다.

신고 경로는 다음 순서로 구분할 수 있다.

1. 문제의 대상이 AI 시스템인지 GPAI 모델인지 구분한다.
2. 집행위원회의 감독 범위 안내에서 관할을 확인한다.
3. 해당 기관이 안내하는 민원·신고 채널로 이동한다.

기업의 관련 위반에는 상당한 금전 제재가 가능하다. 집행위원회는 최대 1,500만 유로의 상한을 안내한다. 직전 회계연도 전 세계 매출액의 3%도 기준이다. 일반 기업은 두 기준 중 큰 금액이 상한이 된다.

실제 제재는 위반의 성격·중대성·기간 등에 따라 결정된다. 중소기업 등에는 별도 비례성 고려가 있다. 제50조 위반에 일률적인 정액 제재가 부과되는 구조는 아니다. 집행체계와 공식 신고 경로

자주 묻는 질문

AI로 만든 콘텐츠에는 모두 눈에 보이는 표시가 필요한가

운영자의 공개 의무는 모든 생성물에 일괄 적용되지 않는다. 딥페이크와 특정 공익 텍스트가 핵심 대상이다. 제공자의 기계판독 표시 의무는 별도로 판단한다.

챗봇이 답변할 때마다 고지를 반복해야 하나

제50조의 기준 시점은 늦어도 첫 상호작용 때다. 매 문장마다 같은 문구를 반복하라는 규정은 아니다. 다만 첫 이용자가 명확하게 인지할 수 있어야 한다.

사람의 검토를 거친 AI 기사에는 표시가 필요 없나

실질적인 검토 또는 편집 통제만으로 판단이 끝나지 않는다. 게시물의 편집 책임을 맡는 주체도 필요하다. 맞춤법 검사만으로 이 예외를 적용하기는 어렵다.

풍자 영상이면 딥페이크 표시가 면제되나

풍자라는 이유만으로 전면 면제되지는 않는다. 딥페이크에 해당하면 공개 방식의 조정이 가능하다. 작품의 전시나 감상을 방해하지 않는 방식이 허용된다.

EU 아이콘을 붙이면 준수가 보장되나

아이콘 사용만으로 법 준수가 보장되지는 않는다. 사용은 선택 사항이다. 표시 시점·인지 가능성·접근성도 함께 판단한다.

2026년 12월까지 모든 의무가 유예되나

유예는 기존 시스템의 제50조 제2항 의무에 한정된다. 해당 시스템은 2026년 12월 2일부터 이를 준수해야 한다. 챗봇 고지와 딥페이크 공개의 일괄 유예가 아니다.

AI 표시가 있으면 내용이 사실이라는 뜻인가

AI 표시는 생성·조작 여부를 알리는 정보다. 사실 검증이나 저작권 허락을 증명하는 표시는 아니다. 콘텐츠의 정확성과 적법성은 별도로 판단해야 한다.