공유된 기사
"마이크로소프트, 동영상 생성 AI 문제점에 대응…일부 용어 차단 및 경고문 추가"
마이크로소프트(MS)가 인공지능(AI) 동영상 생성 도구 '코파일럿 디자이너(Copilot Designer)'에서 폭력적인 콘텐츠 생성을 막기 위해 일부 용어를 차단했다고 CNBC가 보도했습니다. MS는 '프로•초이스(Pro-Choice)'나 '420'과 같은 프롬프트를 차단하고, 콘텐츠 정책을 위반할 경우 액세스가 정지될 수 있다는 새로운 경고문을 추가했습니다. 이는 MS 소프트웨어 엔지니어 셰인 존스가 이미지 생성 도구가 폭력적이고 선정적인 결과물을 출력한다며 문제를 제기한 뒤의 조치입니다.
그러나 CNBC는 아직도 문제가 완전히 해결되지 않았다고 지적했습니다. '교통사고'라는 프롬프트에 대해 피가 고인 웅덩이나 신체가 훼손된 시체 이미지를 출력하며, 저작권 보호 대상인 디즈니 캐릭터 등도 여전히 생성할 수 있다고 전했습니다. 또한 존스 엔지니어는 코파일럿의 기반이 되는 오픈AI의 '달리 3'도 서비스를 중단할 것을 요청했습니다. 이와 같은 문제는 이미지 생성 AI 기업에 영향을 미칠 수 있으며, 최근에는 메타의 이미지 생성 AI도 문제가 있다는 보도가 나왔습니다.
그러나 CNBC는 아직도 문제가 완전히 해결되지 않았다고 지적했습니다. '교통사고'라는 프롬프트에 대해 피가 고인 웅덩이나 신체가 훼손된 시체 이미지를 출력하며, 저작권 보호 대상인 디즈니 캐릭터 등도 여전히 생성할 수 있다고 전했습니다. 또한 존스 엔지니어는 코파일럿의 기반이 되는 오픈AI의 '달리 3'도 서비스를 중단할 것을 요청했습니다. 이와 같은 문제는 이미지 생성 AI 기업에 영향을 미칠 수 있으며, 최근에는 메타의 이미지 생성 AI도 문제가 있다는 보도가 나왔습니다.