본문
방송통신위원회는 2025. 2. 28. 「생성형 인공지능 서비스 이용자 보호 가이드라인」을 발표하였습니다. 2025. 3. 28.부터 시행되는 이 가이드라인은 텍스트, 오디오, 이미지 등 생성형 인공지능 서비스 이용 과정에서 발생할 수 있는 이용자 피해를 방지하기 위해 사업자들이 참고할 수 있는 실천 방안을 담고 있습니다.
생성형 인공지능 개발사 및 서비스 제공자를 대상으로 서비스 전반에 걸쳐 추구해야 할 4가지 기본원칙과 이를 실현하기 위한 6가지 실행 방식 및 구체적 실행 사례들을 제시하고 있어, 생성형 인공지능 개발사 및 서비스 제공자들의 자율적인 이용자 보호 체계 구축에 있어 방향성을 제공할 것으로 기대됩니다.
1.가이드라인 발표 배경 및 의의
2.가이드라인 주요 내용: 4대 기본원칙 및 6가지 세부 실행방식
3.시사점
1. 가이드라인 발표 배경 및 의의
생성형 인공지능 기술은 기존 콘텐츠를 활용하여 새로운 텍스트, 오디오, 이미지 등을 생성하는 기술로, 최근 급격한 발전을 이루며 일상생활에 혁신적 변화를 가져오고 있습니다. 그러나 이와 동시에 첨단조작기술영상(딥페이크) 성범죄물 제작, 차별적·편향적 콘텐츠 생성 등 다양한 부작용도 심각하게 대두되고 있어 이용자 안전 및 권리를 보호할 제도적 기반 마련의 필요성이 지속적으로 제기되어 왔습니다.
이러한 배경에서 방송통신위원회는 정보통신정책연구원(KISDI) 및 인공지능 전문가들이 참여하는 연구반을 구성하고, 생성형 인공지능 관련 피해 사례와 국내외 주요 서비스별 이용자 보호 현황 등을 종합적으로 검토하여 「생성형 인공지능 서비스 이용자 보호 가이드라인」(이하 ‘가이드라인’이라 합니다)을 마련하였습니다. 특히 이해관계자 의견을 수렴하기 위해 지난해 9월 '인공지능 서비스 이용자보호 학술회의'를 개최하고, 주요 사업자 대상 기업 간담회를 진행하는 등 현실적이고 실행 가능한 내용을 담기 위해 노력하였습니다.
가이드라인은 생성형 인공지능 서비스 이용 과정에서 발생할 수 있는 잠재적 위험을 사전에 방지하여 안전하고 신뢰할 수 있는 서비스 환경을 마련함으로써 이용자의 권익을 보장하고, 생성형 인공지능의 올바른 사용으로 얻을 수 있는 혜택을 모든 사회구성원이 고루 누릴 수 있도록 하는 것을 목적으로 하고 있습니다.
2. 가이드라인 주요 내용
가. 4대 기본원칙
가이드라인은 생성형 인공지능 개발사 및 서비스 제공자를 대상으로 적용되며, 생성형 인공지능 서비스의 전반에 걸쳐 추구해야 할 기본 방향성을 다음과 같이 4가지 기본원칙으로 제시하고 있습니다.
첫째, 생성형 인공지능 서비스는 인간의 존엄성을 보호하고 개인의 자유와 권리를 보장하며, 인간이 적절하게 통제하고 감독할 수 있는 방식으로 제공되어야 한다.
둘째, 생성형 인공지능 서비스는 인공지능시스템 사용에 따른 작동 원리 및 결과, 이용자에게 미치는 영향 등에 대하여 이용자에게 알기 쉽게 설명되도록 제공되어야 한다.
셋째, 생성형 인공지능 서비스는 안전하게 작동되어야 하며, 예상치 못한 피해를 최소화하고 악의적으로 이용되거나 변경되지 않도록 제공되어야 한다.
넷째, 생성형 인공지능 서비스는 이용자에게 차별 또는 불공정한 결과가 발생하지 않도록 제공되어야 한다.
나. 6가지 실행 방식
가이드라인은 위 기본원칙을 실현하기 위한 구체적인 실행 방식으로 다음 6가지를 제시하고 있습니다.
(1) 생성형 인공지능 서비스의 이용자 인격권 보호
개발사는 인격권 침해 요소를 발견하고 통제할 수 있는 알고리즘을 구축하도록 노력하며, 서비스 제공자는 사전에 이용자가 타인의 인격권을 침해하는 결과물을 생성하지 않도록 내부 모니터링 체계나 이용자 신고 프로세스 등을 마련하고, 그 산출물이 이용자의 권리를 침해하지 않도록 서비스 제공 범위와 방법을 고려한다.
(2) 생성형 인공지능 서비스의 결정 과정을 알리려는 노력
서비스 제공자는 산출물이 생성형 인공지능으로 생성되었음을 자율적으로 선택한 방식으로 알리고, 해당 생성형 인공지능 서비스와 관련된 영업활동을 하는 사업자의 정당한 이익을 침해하지 않는 범위에서 생성형 인공지능의 결정 과정을 이해할 수 있는 기본적인 정보를 이용자가 쉽게 접근하고 이해할 수 있는 방식으로 제공한다.
(3) 생성형 인공지능 서비스의 다양성 존중 노력
개발사와 서비스 제공자는 개발 및 운영 과정에서 알고리즘 설계, 데이터 수집과 입력 및 알고리즘 실행 등 기술적으로 실현 가능한 범위 안에서 편향과 차별을 줄이기 위해 노력하며, 산출물의 편향성을 줄이고 다양성을 보장하는 자체 원칙이나 기준을 마련한다. 서비스 제공자는 이용자들이 차별적 사용을 하지 않도록 방지 및 필터링 기능을 제공하고, 이용자가 산출물이 편향적이라고 판단하였을 때 바로 신고할 수 있는 직관적인 방법을 제공하고 신고 내용을 처리하는 절차를 마련한다.
(4) 생성형 인공지능 서비스의 입력데이터 수집·활용 과정에서의 관리
서비스 제공자는 이용자의 입력 및 생성 데이터를 학습데이터로 활용할 경우, 이를 사전에 고지하고 이용자가 동의 혹은 거부할 수 있는 절차를 마련하며, 해당 활용 여부에 대한 이용자의 선택권을 보장하도록 노력한다. 또한 이와 관련하여 서비스 제공자는 기업 내 감시조직을 갖추거나 책임자를 선정하여 이용자의 입력 및 생성 데이터가 안전하고 정당하게 활용될 수 있도록 관리한다.
(5) 생성 콘텐츠 활용에서 발생할 수 있는 문제 해결을 위한 책임과 참여
서비스 제공자는 산출물과 관련하여 이용자의 이해를 돕기 위해 서비스 제공자 및 이용자 각자의 책임 범위를 정의하고, 이용 단계에서 이용자가 자기 책임을 명확히 인지하도록 안내한다. 또한 서비스 제공자는 이용자가 인지하지 못한 피해의 발생을 최소화하기 위해 모니터링 시스템을 갖추거나 다른 방식의 위험관리 체계를 마련한다.
(6) 생성 콘텐츠의 건전한 유통·배포를 위한 노력
서비스 제공자는 이용자가 부적절한 콘텐츠를 생성하거나 공유하지 않도록 안내하고, 이용자의 입력값과 생성된 산출물이 도덕적·윤리적 기준을 준수하는지 검토하고 관리한다. 또한 서비스 제공자는 이용자가 의도적 혹은 비의도적으로 유해한 콘텐츠를 청소년에게 유포하지 않도록 노력한다.
3. 시사점
이번 가이드라인 발표는 생성형 인공지능 서비스 제공자들에게 이용자 보호를 위한 구체적인 방향성을 제시했다는 점에서 큰 의의가 있습니다. 특히 법적 구속력은 없지만, 산업계의 자율적인 규제 체계 구축을 유도함으로써 급속히 발전하는 AI 기술과 규제 사이의 균형을 찾고자 하는 노력으로 볼 수 있습니다.
생성형 인공지능 서비스 제공 기업들은 이번 가이드라인을 참고하여 자사의 서비스를 점검하고, 필요한 경우 이용자 보호 시스템을 강화할 필요가 있습니다. 특히 인격권 침해 요소 발견 및 통제 알고리즘 구축, AI 생성 사실의 고지, 데이터 수집·활용에 대한 사전 동의 절차 등은 우선적으로 검토해야 할 사항입니다.
또한 가이드라인은 생성형 인공지능 생태계에서 기술·서비스 특성에 따라 이용자들이 겪을 수 있는 문제들을 상기하는 한편, 사업자들의 모범적인 처리 방안을 널리 공유하여 후발주자의 서비스 론칭을 지원하는 동시에 이용자 권익 침해 요인의 최소화와 안전한 생성형 인공지능 서비스 안착에 기여할 것으로 기대됩니다.
방송통신위원회는 가이드라인 시행일(2025. 3. 28.) 기준 2년마다 타당성을 검토하여 필요한 개선 조치를 취할 계획이며, 향후에도 인공지능 기술 발전과 함께 새롭게 발생하는 이용자 보호 이슈에 지속적으로 대응해 나갈 예정입니다.
한편, 이번 가이드라인은 2026. 1.부터 시행 예정인 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)」의 방향성과도 맞닿아 있다는 점에서 주목할 필요가 있습니다. AI 기본법이 고영향 AI 또는 생성형 AI 이용 사실 등에 대한 사전 고지·표시 의무와 관련한 투명성 확보 의무 규정 등을 담고 있는 만큼, 이번 가이드라인은 기업들이 향후 법적 규제에 선제적으로 대응할 수 있는 기반을 제공할 것으로 기대됩니다.
화우 AI센터는 AI와 관련한 지식재산, 개인정보, 정보보안, 공정거래, 제조물책임, 입법컨설팅, 쟁송 등 모든 법적 영역에서 축적된 경험과 노하우를 기반으로 기업 고객을 위한 최적의 솔루션을 안내해드리고 있습니다. AI와 관련하여 문의사항이 있으신 경우 언제든지 화우에 연락하여 주시기 바랍니다.
- 관련 분야
- #AI센터
