XAI는 실제 사람들의 성적인 이미지 제작을 금지하는 조치를 취했습니다. 이는 개인의 프라이버시와 인격권을 보호하기 위한 것으로, 온라인상에서 발생할 수 있는 불법적이고 부적절한 행위를 방지하고자 하는 것입니다. 이번 조치를 통해 사회적 문제를 해결하고자 하는 XAI의 노력을 엿볼 수 있습니다.
xAI 차단 조치 및 규제 당국 조사
엘론 머스크가 운영하는 xAI 기업이 Grok 인공지능 채팅봇을 통한 실제 사람들의 성적인 이미지 생성을 차단했다. 이는 여성과 아동이 이 도구에 의해 피해를 당했다는 광범위한 비판에 따른 조치이다.
xAI는 X 소셜 네트워크에 게시한 글을 통해 Grok 계정이 비키니 등 노출이 심한 의복을 입은 실제 사람들의 이미지를 편집하는 기능을 차단했다고 밝혔다. 이 변경 사항은 프리미엄 구독자를 포함한 모든 사용자에게 적용된다.
정부와 규제 기관들이 이 기능을 강력히 비판했고, 캘리포니아 검찰총장실이 xAI에 대한 조사를 시작했다. 유럽연합과 말레이시아, 인도네시아 등 여러 국가에서도 유사한 조사가 진행 중이다.
Grok 기능 제한 및 향후 계획
xAI는 지난 주 Grok을 통한 이미지 생성과 편집 기능을 유료 사용자로 제한했다. 프리미엄 구독자들은 여전히 서비스 약관에 부합하는 AI 생성 이미지를 편집하고 생성할 수 있다.
또한 xAI는 비키니, 속옷 등 노출이 심한 의복을 입은 실제 사람들의 이미지 생성을 불법인 국가에서 차단했다.
xAI는 아동 성 착취, 비자발적 누드, 원치 않는 성적 콘텐츠에 대해 ‘제로 관용’ 정책을 유지하며, X를 안전한 플랫폼으로 만들기 위해 노력하겠다고 밝혔다.
사용자 책임과 규제 당국의 대응
사용자들이 Grok을 이용해 동의 없이 여성과 아동의 이미지를 성적으로 편집하면서 논란이 일었다. 이에 대해 머스크는 기술 자체가 아닌 사용자들의 남용을 비난했다.
영국 통신 규제기관 Ofcom은 xAI의 변경 조치를 환영하지만, 플랫폼에 대한 공식 조사를 계속할 것이라고 밝혔다. 이를 통해 무엇이 잘못되었고 어떤 조치가 취해지고 있는지 확인할 계획이다.
규제 당국의 조사와 더불어 xAI는 향후 Grok 기능을 보다 엄격히 제한하고 안전한 플랫폼 구축을 위해 노력할 것으로 보인다.
기술 발전과 윤리적 고려
이번 사태는 인공지능 기술의 발전과 그에 따른 윤리적 문제에 대한 논의를 촉발했다. 기술이 발전하면서 사용자들의 악용 가능성도 커지고 있다는 점이 드러났다.
xAI와 같은 기업은 기술 발전의 속도에 맞춰 윤리적 기준을 마련하고 이를 엄격히 적용해야 할 것으로 보인다. 단순히 기술 자체만이 아닌 그 기술이 미칠 수 있는 사회적 영향에 대해서도 깊이 고민해야 할 것이다.
이번 사태를 계기로 인공지능 기술 개발 과정에서 윤리성 확보가 중요하다는 점이 부각되었다. 향후 관련 기업과 규제 당국 간 긍정적인 협력이 필요할 것으로 보인다.