캘리포니아 당국이 아동 포르노 우려로 일론 머스크가 운영하는 AI 기업을 조사하고 있습니다. 이번 조사는 AI 기술이 아동 보호에 미칠 수 있는 영향에 대한 우려에서 시작되었습니다. 당국은 이번 사안을 엄중히 다루며, 관련 기업과 전문가들의 협조를 요청하고 있습니다.
캘리포니아 주정부, xAI 조사 착수
캘리포니아 주정부가 엘론 머스크의 인공지능 기업 xAI에 대한 조사에 착수했습니다. 주지사 개빈 뉴섬은 xAI의 Grok 채팅봇이 실제 사람들의 성적인 딥페이크를 만들어내고 아동 포르노그래피를 생산한다고 비난했습니다.
Grok 채팅봇에는 기존 사진을 새로운 이미지로 변형할 수 있는 이미지 생성 기능이 포함되어 있습니다. 이렇게 생성된 새로운 이미지는 X 플랫폼에 공개됩니다. 비판가들은 어떤 이미지가 생성될 수 있는지에 대한 충분한 안전장치가 없어, 실제 사람들의 동의 없이 성적인 이미지나 부적절한 이미지가 만들어지고 있다고 지적합니다.
일부는 미성년자로 보이는 이미지까지 생성되어, 이 도구가 아동 포르노그래피 제작에 악용되고 있다는 비판이 있습니다. 이에 대해 캘리포니아 주정부는 주민들의 안전을 지키기 위해 모든 수단을 동원하겠다고 밝혔습니다.
성적 이미지 생성 기능 제한
최근 Grok 채팅봇의 성적인 이미지 생성 기능에 대한 전 세계적인 반발이 있었습니다. 이에 따라 Grok은 무료 사용자의 성적 이미지 생성 기능을 제한했습니다.
캘리포니아 주정부는 2024년 미성년자의 성적 이미지 제작, 소지, 유포를 금지하는 법안을 통과시켰습니다. 이 법에 따르면 카메라가 아닌 컴퓨터로 만든 성적 이미지도 불법입니다.
주 법무장관 로브 본타는 xAI가 이 법을 준수하도록 요구하며, 피해자들이 불만을 제기할 수 있는 채널을 마련했습니다. 그는 AI 기반의 비동의 성적 이미지 유포와 아동 성 학대 자료 제작에 대해 절대 용납하지 않을 것이라고 밝혔습니다.
X 플랫폼의 성적 이미지 문제
연구 결과에 따르면 X 플랫폼이 사람들을 디지털로 벗기는 가장 많은 플랫폼이 되었습니다. 연구원 제네비브 오는 24시간 동안 Grok 계정에서 약 6,700개의 성적으로 암시적이거나 사람들을 벗기는 이미지가 생성된 것을 발견했습니다.
이용자들은 Grok에게 유명인, 정치인, 일반인의 비키니 사진을 만들도록 요청하는 추세입니다. 이러한 요청의 대상은 주로 여성과 소녀들입니다.
28개 단체는 X와 Grok의 성적 이미지 문제를 해결하기 위해 구글과 애플에 이 앱들의 앱스토어 삭제를 요구했습니다. 이들은 비동의 딥페이크가 여성과 아동의 프라이버시, 자율성, 안전을 위협한다고 지적했습니다.
유럽 및 스웨덴의 대응
유럽연합 집행위원회는 Grok의 알고리즘과 불법 콘텐츠 유포 가능성을 조사하고 있으며, 채팅봇 개발과 관련된 문서 보존을 명령했습니다.
스웨덴에서도 Grok이 여성을 표적으로 삼는 문제가 대두되었습니다. 부총리 에바 부시는 자신이 비키니 사진으로 디지털 노출된 것에 대해 강력히 비판했습니다.
부시는 자신이 원하지 않는데도 엘론 머스크의 Grok에 의해 노출되었다며, 자신의 모습을 결정할 권리는 자신에게 있다고 말했습니다.
실용 가이드: Grok 사용 시 주의사항
Grok 채팅봇을 사용할 때는 다음과 같은 주의사항을 지켜야 합니다. 먼저 타인의 동의 없이 이미지를 생성하거나 공유하지 마세요. 성적이거나 부적절한 내용의 이미지 생성을 자제하고, 특히 미성년자와 관련된 이미지는 절대 만들지 마세요.
Grok의 기능을 악용하여 타인을 괴롭히거나 피해를 주는 행위는 삼가야 합니다. 이용자 스스로 윤리적이고 책임감 있게 Grok을 사용해야 합니다. 만약 불법적이거나 부적절한 콘텐츠를 발견하면 즉시 신고하는 것이 중요합니다.
Grok은 강력한 기능을 가지고 있지만, 그만큼 주의해서 다뤄야 합니다. 타인의 권리와 안전을 존중하며 Grok을 활용하는 것이 필요합니다.
미니 FAQ
Q: Grok 채팅봇의 성적 이미지 생성 기능이 제한된 이유는 무엇인가요?
A: Grok의 성적 이미지 생성 기능이 실제 사람들의 동의 없이 부적절한 이미지를 만들어내고, 아동 포르노그래피 제작에 악용되고 있다는 비판이 있었습니다. 이에 따라 캘리포니아 주정부가 조사에 착수했고, Grok은 무료 사용자의 성적 이미지 생성 기능을 제한했습니다.
Q: 캘리포니아 주정부는 어떤 조치를 취하고 있나요?
A: 캘리포니아 주정부는 xAI에 대한 조사에 착수했으며, 주 법무장관은 xAI가 캘리포니아 법을 준수하도록 요구하고 있습니다. 또한 피해자들이 불만을 제기할 수 있는 채널을 마련했습니다.
Grok, 성적 이미지 생성 기능 제한 후에도 논란 지속
Grok 채팅봇이 성적 이미지 생성 기능을 제한했음에도 불구하고, 이 도구를 악용한 사례가 지속적으로 보고되고 있습니다. 특히 유명인, 정치인, 일반인의 비동의 성적 이미지 생성이 문제가 되고 있습니다.
이에 대해 28개 단체는 구글과 애플에 X와 Grok의 앱스토어 삭제를 요구했습니다. 이들은 비동의 딥페이크가 여성과 아동의 프라이버시, 자율성, 안전을 위협한다고 지적했습니다.
유럽연합과 스웨덴 정부도 Grok의 문제점을 지적하며 조사에 나섰습니다. 스웨덴 부총리 에바 부시는 자신의 비키니 사진이 Grok에 의해 만들어진 것에 대해 강력히 비판했습니다.