작년 9월, 저는 현 ChatGPT 4.0 시스템의 목소리 작업 제안을 Sam Altman으로부터 받았습니다. 그는 제가 기술 회사와 창작자 간의 간극을 좁히고 소비자들이 인간과 AI 사이의 급격한 변화에 편안함을 느낄 수 있도록 돕기를 바랐습니다. 그는 제 목소리가 사람들에게 위안을 줄 것이라고 말했습니다.
많은 고민 끝에 개인적인 이유로 저는 제안을 거절했습니다. 9개월 후, 제 친구, 가족, 그리고 대중들은 최신 시스템인 "Sky"가 저와 얼마나 비슷하게 들리는지 언급했습니다.
공개된 데모를 들었을 때, 저는 Altman이 저의 가장 친한 친구들과 언론 매체들이 구별할 수 없을 정도로 섬뜩할 정도로 비슷한 목소리를 추구했다는 사실에 충격을 받고 분노했습니다. Altman은 심지어 유사성이 의도적임을 암시하며, 제가 인간과 친밀한 관계를 형성하는 챗 시스템 Samantha의 목소리를 연기했던 영화를 언급하며 "her"라는 단어를 트윗했습니다.
ChatGPT 4.0 데모가 공개되기 이틀 전, Altman은 제 에이전트에게 연락하여 재고를 요청했습니다. 저희가 연락하기 전에 시스템은 이미 공개되었습니다.
그들의 행동으로 인해 저는 법률 대리인을 선임해야 했고, 대리인은 Altman과 OpenAI에게 서한을 보내 그들의 행위를 지적하고 "Sky" 목소리를 만든 정확한 과정을 상세히 밝힐 것을 요구했습니다. 결과적으로, OpenAI는 마지못해 "Sky" 목소리를 삭제하는 데 동의했습니다.
우리 모두 딥페이크와 우리 자신의 초상, 작품, 정체성 보호에 대해 고심하고 있는 이 시기에, 저는 이러한 질문들이 절대적인 명확성을 요구한다고 믿습니다. 저는 투명성 확보와 개인의 권리가 보호되도록 적절한 법률 제정을 통해 문제가 해결되기를 기대합니다.
알트만 이러고 "Her" ㅇㅈㄹ 한거임?
-
샘알트맨(게이, 사업가)
아 좀있으면 GPT4-O 음성기능 출시인데 목소리 뭘로하지
섹스한 중저음 남성으로 하면 꼴리긴하는데
이성애자가 더 많으니까 아무래도 여자 목소리 베이스로 하는게 낫겠지..?
그래! HER 영화가 연상되게 기획하면 되겠다 ㅋㅋ 스칼렛한테 연락 ㄱㄱ
스칼렛 요한슨(우유통 보유자)
?? 뭔소리임 안됨 지금 헐리우드+민주당업계 작가들 배우들 AI 적개심 쩌는데
제 목소리 쓰지 마세요 돈 얼마를 준다고 해도 절대로 안됨
아... 지금 음성모델 + GPT 향후 발전하는 거 보면 님 이미지랑 HER랑
완전 찰떡인데 님이 인공지능 첫 이미지로 앞으로 대중들에게 효과도 어쩌고 저쩌고
아니 내가 하고 싶어도 주위에 내 동료들 인맥들한테 척 지는 짓 못한다고 ㅋㅋ
하지말라고요 (실제로 고민 존나 많이 했다고 언급) 아무튼 내목소리 쓰지마셈 진짜로 ㅇ
아 씨발 이미 목소리 5개월 동안 다듬어서 잘 만들어놨는데 왜저래 미치겠네
근데 듣고보니까 스칼렛 요한슨 목소리랑 좀 다른데?
그냥 대충 출시하고 넘어가면 모르지 않을까?
일단 출시 ㄱㄱ
(대중들)
와~ 개쩐다~~!! 근데 목소리 영\화 HER 그거랑 좀 비슷하네?
대박이당 ㅎㅎ 너무 좋아용!!
ㅋㅋㅋ 기분 좋다
여기저기서 연락도 많이 오네ㅎㅎ 구글 견제 오지게 됐겠다 개꿀~!
트윗도 하나 써볼까~?
"HER"
콜린 (스칼렛 남친)
자기야 이거 봐 ㄷㄷ
인공지능이라는건데 이게 애플에 적용되려나봐~
근데 이거 목소리가 당신 목소리랑 닮았는데? 뭐지?
????
아니 씨발새끼가 분명 내가 쓰지 말라고 했는데? 이거 완전 내 목소리잖아?
아니 그리고 얘 트위터에다 "HER"라고 써놨네?
이거 빼박 내 목소리 갖다 쓴거네
증거도 있겠다 이거 법률소송 간다 ㅅㅂ
아... 그러니까 약간 닮은 목소리를 만든 것뿐이지
스칼렛 요한슨님 목소리를 쓴건 아닙니다
다만, 불편하시다면 이 목소리는 삭제하도록 하겠습니다
그리고 전혀 다른 기본 베이스의 목소리로...
만들어서 출시하도록 할게요...
소송 그런것까지는 자제해주시고,
없던 일로 해주시면 감사하겠습니다
아 씨발 기분 존나 나쁘네 분노가 쌓이네 (실제로 한말)
아 좃같네 ㅅㅂ 불쾌하네 ㅅㅂ
아 님들아 샘알트만이 이거 목소리 100% 제 목소리 따라서 만든거예요
저는 모든 창작자들의 권한과 개성이 지켜지길 바라고요
다시는 이런 일 없기를 바랍니다
하 씨발 트위터에 HER라고 쓰지만 않았어도...
아니 애초에 목소리 써도 되냐고 물어보지만 않았어도...
좃같다
소송 가면 저 2개때문에 내가 패소할 확률이 높다...
안되겠다... 다른 새로운 목소리 만들어야지
3개월 후
,.
..
.
"안녕^^, 내 이름은 사만다야"
- END -
-
오픈AI는 논란이 불거지자 이에 대한 설명을 내놨다. 이 회사는 “브리즈, 코브, 엠버, 주니퍼, 스카이 등 챗봇의 5가지 목소리를 5개월에 걸친 캐스팅 및 녹음 과정을 통해 선택했다”고 말했다. 캐스팅 전문가들이 성우와 영화배우들로부터 400개의 제출물을 받았고 이 중 14개의 목소리를 꼽은 뒤 최종 5개를 선택했다는 것이다. 오픈AI는 “스카이의 목소리는 스칼렛 요한슨을 흉내 낸 것이 아니라, 다른 전문배우가 자신의 자연스러운 목소리를 낸 것”이라며 “개인정보 보호를 위해 당사자의 이름은 공개할 수 없다”고 말했다.
스칼렛 요한슨 지혼자 난동피우는 거임
-
스칼렛요한슨의 목소리와 비슷하다는 주장때문에 사용중지됨
특이점이 온다 갤러리
