본문
AI 기술이 다양한 산업 분야로 확산되면서, 이를 활용한 제품과 서비스가 급증하고 있습니다. 이러한 시장 변화 속에서 AI 기술의 적용 범위나 성능을 과장하여 광고하는 'AI 워싱' 행위가 새로운 법적 쟁점으로 부상하고 있습니다.
AI 워싱은 소비자의 합리적 선택권을 방해하고 AI 산업 생태계의 신뢰를 저하시킵니다. 특히 AI, 머신러닝, 딥러닝 등 첨단 기술 용어를 무분별하게 사용하거나, 제한적인 AI 활용을 전체적인 시스템 혁신인 것처럼 포장하는 사례가 늘어나면서 소비자 피해도 증가하고 있는 실정입니다.
이러한 배경에서, AI 워싱의 법적 쟁점 및 이로 이한 기업 리스크를 분석하고, AI 기술의 건전한 발전을 도모하면서도 소비자의 권익을 보호할 수 있는 제도적 해결책을 살펴봅니다.
1.배경
2.AI 워싱 사례 및 유형
3.AI 워싱과 표시광고법
4.AI 워싱 규제 설계
5.마치며
1.배경
최근 몇 년간 인공지능(AI) 기술은 다양한 산업 분야에서 혁신을 이끌며 빠르게 발전하고 있습니다. 특히 '생성형 AI'의 등장으로 단순 데이터 분석을 넘어 새로운 콘텐츠 제작까지 가능해졌습니다. 이러한 AI 기술의 급속한 발전은 소비자와 기업들의 큰 주목을 받고 있으며, 많은 기업이 AI 기술을 도입하거나 이를 활용한 제품과 서비스를 홍보하고 있습니다. AI를 도입한 기업들은 혁신적이고 첨단 기술을 활용하는 기업으로 인식되어 투자자와 소비자들로부터 긍정적인 평가를 받기 쉽습니다.
그러나 일부 기업들은 실제로 AI 기술을 활용하지 않으면서도 마치 첨단 AI 기술을 사용하고 있는 것처럼 거짓·과장된 홍보를 하는 사례가 증가하고 있습니다. 이를 'AI 워싱(AI Washing)'이라고 합니다. AI 워싱은 실제 AI와 무관하거나 일부 제한적으로 적용하면서도 마치 혁신적인 AI 기술을 활용하는 것처럼 기업이나 제품 등을 홍보하는 행위를 의미합니다. 이는 친환경 제품을 생산하거나 친환경 경영을 하는 것이 아님에도 친환경적 영업을 하는 것으로 거짓 홍보하는 그린워싱(Green Washing)과 유사한 개념입니다.
2. AI 워싱 유형 및 사례
AI 워싱은 여러 가지 유형으로 나타나고 있습니다.
- 기술적 용어의 과도한 사용: AI, 머신러닝, 딥러닝 등의 기술적 용어를 과도하게 사용하여 제품이나 서비스가 고도의 기술을 적용한 것처럼 포장하는 경우
- 제한적 활용의 과장: 특정 부서나 프로젝트에서만 제한적으로 AI를 활용하면서도 기업 전체가 AI 기술을 활용하는 것처럼 과장
- 핵심기술로 포장: 제품의 본질과는 무관하게 보조적으로만 AI 기술을 적용하고도 이를 핵심 기능인 것처럼 홍보
- 허위 기술 광고: 다른 기업의 AI 기술을 이용하면서도 자체 개발한 AI 기술을 통해 제품을 만든 것처럼 허위 광고
AI 워싱의 구체적인 사례들은 전 세계적으로 발생하고 있습니다.
- A사의 경우, 무인 결제 시스템 기술을 홍보하면서 AI 기술을 강조했으나, 실제로는 1,000명 이상의 직원이 수동으로 제품을 모니터링하고 있었다는 사실이 밝혀졌습니다.
- D사는 AI 기반 투자 시스템을 통해 고객 데이터를 활용한다고 홍보했으나, 미국 증권거래위원회(SEC) 조사 결과 실제로는 AI 기술을 전혀 활용하지 않은 것으로 드러났습니다.
- G사는 웹사이트와 소셜 미디어를 통해 AI 기술을 적극적으로 활용하는 것처럼 홍보했으나, 실제 조사 결과 AI 기술의 활용은 미미한 수준이었으며 이를 통해 투자자들을 현혹한 것으로 밝혀졌습니다.
- I사는 AI 기반 앱 개발 플랫폼이라고 홍보하며 투자금을 유치했으나, 실제로는 일반 소프트웨어 엔지니어들이 수동으로 앱을 개발한 것으로 드러나기도 하였습니다.
3. AI 워싱과 표시광고법
표시ㆍ광고의 공정화에 관한 법률(이하 “표시광고법”)은 부당한 표시·광고 행위를 명시적으로 금지하고 있습니다(동법 제3조). 거짓·과장의 표시·광고, 기만적인 표시·광고, 부당하게 비교하는 표시·광고, 비방적인 표시·광고가 이에 해당합니다. 부당한 표시·광고 행위를 한 사업자에게는 시정명령, 과징금 부과 등의 제재가 부과됩니다.
AI 워싱은 소비자를 기만하는 행위로서 부당한 표시광고에 해당할 수 있습니다. 예를 들어 기업이 단순한 키워드 매칭 알고리즘만을 사용하면서도 AI 기반 맞춤형 검색 서비스를 제공한다고 광고하는 경우 이는 실제 성능이나 기술 수준을 과장하여 소비자의 구매 결정에 영향을 미치는 행위로서 "거짓·과장의 표시·광고" 또는 "기만적인 표시·광고"에 해당할 가능성이 있습니다.
표시광고법 제4조는 공정위에 상품이나 용역의 중요 정보를 공개하도록 고시할 수 있는 권한을 부여하고 있는바, AI 기술의 실제 적용 범위나 성능이 소비자의 구매 결정에 중요한 영향을 미치는 요소라면, 공정위는 이러한 정보의 공개를 의무화할 수 있습니다. 중요정보 공개 제도는 소비자의 구매 결정에 실질적인 영향을 미치는 정보를 투명하게 공개하도록 함으로써, AI 워싱을 예방하고 소비자의 알 권리를 보장하는 핵심 장치로 기능할 수 있습니다.
그러나 AI 워싱을 표시광고법으로 규제하는 데에는 현실적인 어려움이 존재합니다. 우선 AI에 대한 명확한 정의와 판단 기준이 부재한 상황입니다. 어떤 기술을 실제 AI로 인정할 것인지에 대한 법적, 기술적 기준이 확립되어 있지 않아 규제의 실효성을 담보하기 어렵습니다.
또한 AI 기술의 실제 적용 여부나 성능을 검증하는 것은 기술적으로 매우 복잡한 과정을 수반합니다. 이는 규제 당국의 입증 부담을 가중시키는 요인이 됩니다. 더욱이 대부분의 소비자는 AI 기술에 대한 전문적 지식이 부족하여 AI의 실제 수준이나 적용 가능성을 판단하기 어렵다는 점도 규제의 한계로 작용합니다.
4. AI 워싱 규제 설계
AI 워싱 규제를 설계하는 데 있어 그린워싱에 대한 규제 경험은 중요한 시사점을 제공합니다. 공정위가 개정한 「환경 관련 표시광고 심사지침(이하 ‘환경심사지침’)」은 AI 워싱 규제의 구체적인 방향을 설정하는 데 유용한 참고 모델이 될 수 있습니다.
환경심사지침이 환경 용어와 표현에 대한 세부 기준을 제시한 것처럼, AI 기술의 실제 적용 범위나 성능에 대한 명확한 평가 기준이 필요합니다. 이러한 기준은 기업의 AI 관련 주장을 객관적으로 평가할 수 있는 근거가 될 것입니다. 더불어 AI 기술의 생애주기를 고려한 전과정성 접근이 요구됩니다. 환경심사지침이 상품의 전체 생애주기를 고려하여 심사 기준을 구성한 것처럼, AI 와 관련해서도 AI 기술의 개발부터 적용, 운영, 폐기에 이르는 전 과정에서 그 사용실태나 영향이 제대로 드러나도록 하는 규제 체계가 마련되어야 합니다. 이는 AI 기술의 특성을 충실히 반영한 정교한 규제를 가능하게 할 것입니다.
사업자들이 자체적으로 규제 준수 여부를 점검할 수 있는 가이드라인 제공도 중요한 과제입니다. 환경심사지침이 사업자를 위한 체크리스트를 제공한 것과 같이, 기업들이 자사의 광고가 AI 워싱에 해당하는지 스스로 판단할 수 있는 실용적인 도구가 필요합니다. 이는 기업의 자발적인 규제 준수를 촉진하는 효과적인 방안이 될 것입니다.
AI 관련 법령 간의 관계 정립 또한 간과할 수 없는 중요한 문제입니다. 환경심사지침이 환경기술산업법, 식품표시광고법 등 유관 법령과의 관계를 명확히 한 것처럼, 아직 AI 관련 법령들이 입법되지 않았지만 여러 부처에서 입법을 하면서 특별히 표시광고에 대해 별도 내용을 담으려 한다면 그들 간의 체계적인 관계 설정이 필요합니다. 이를 통해 규제의 일관성과 효율성을 확보할 수 있습니다.
또한, AI 기술이 급속도로 발전하는 현실을 고려할 때, AI 워싱 규제도 기술 발전에 발맞춰 지속적으로 업데이트되어야 합니다.
5. 마치며
AI 워싱 문제의 해결을 위해서는 법적, 제도적, 기술적, 사회적 차원의 포괄적인 접근이 요구됩니다. 규제 기관의 감독 강화, 기업의 자율 규제, 그리고 소비자의 인식 제고가 유기적으로 결합될 때 실효성 있는 해결책이 도출될 수 있을 것입니다.
무엇보다 AI에 대한 명확한 정의와 판단 기준을 확립하는 것이 시급합니다. 국내외 관련 기관과의 긴밀한 협력을 통해 AI에 대한 일관된 정의와 평가 기준을 수립함으로써, AI 워싱을 규제하고 소비자를 보호하는 제도적 기반을 마련할 수 있습니다. AI 워싱이 국제적 문제임을 감안할 때, 해외 규제 기관들과의 긴밀한 협력을 통한 글로벌 차원의 대응 방안 모색도 게을리해서는 안 됩니다.
AI 기술 적용의 투명성 강화도 중요한 과제입니다. AI 기술의 적용 범위와 성능에 관한 정보 공개는 표시광고법 제5조에 근거한 공정위의 중요정보 공개 제도를 통해 체계화할 수 있습니다. 이와 함께 기업의 자율 규제 체계 구축도 중요합니다. AI 기술을 활용하는 기업들이 자체적인 윤리 기준과 가이드라인을 수립하고, 이를 준수하도록 하는 산업계 차원의 노력이 필요합니다.
규제 기관의 전문성 제고도 필수적입니다. 공정위를 비롯한 관련 규제 기관이 AI 기술에 대한 전문성을 강화하여 AI 워싱을 효과적으로 감시하고 규제할 수 있는 역량을 갖추어야 합니다. 이를 위해 전문 인력 확보와 지속적인 교육이 수반되어야 할 것입니다.
마지막으로, AI 기술 발전의 속도에 맞춘 규제 체계의 지속적인 업데이트가 필요합니다. 관련 법규와 규제 체계를 시의적절하게 정비하고, 기업의 윤리의식 제고와 소비자의 주체적인 판단 능력 향상을 동시에 추구해야 할 것입니다.
이러한 다면적 접근을 통해서만 AI 워싱 문제에 대한 실효성 있는 해결책을 마련할 수 있을 것이며, 이는 궁극적으로 AI 기술의 건전한 발전과 소비자 보호라는 두 가지 목표를 모두 달성하는 데 기여할 것입니다.
화우 AI센터는 AI와 관련한 지식재산, 개인정보, 정보보안, 공정거래, 제조물책임, 입법컨설팅, 쟁송 등 모든 법적 영역에서 축적된 경험과 노하우를 기반으로 기업 고객을 위한 최적의 솔루션을 안내해 드리고 있습니다. AI와 관련하여 문의사항이 있으신 경우 언제든지 화우에 연락하여 주시기 바랍니다.
