'보이스 엔진'이라는 기술을 공개한 오픈AI

https://openai.com/blog/navigating-the-challenges-and-opportunities-of-synthetic-voices

Navigating the Challenges and Opportunities of Synthetic Voices

 

오픈AI가 사람 음성을 학습해 모방 음성을 생성하는 인공지능(AI) 도구 '보이스 엔진'(Voice Engine)을 개발했다고 밝혔습니다.

 

오픈AI 사이트에 들어가서 직접 들어봤는데, 실제 사람의 목소리를 그대로 복사하여 구현하는 모습을 볼 수 있었습니다.

 

 

 

오픈AI 블로그 링크에 들어가시면 '보이스 엔진'의 샘플을 들을 수 있습니다.

 

참고로 오픈AI는 보이스엔진을 지난 2022년에 개발했는데, 챗GPT의 음성인식·읽어주기 기능과 텍스트-음성 변환 API에서 쓰이는 음성 기능 강화에 사용하려고 했다고 합니다. 

 

그런데 어린이 교육을 위한 음성 해설 콘텐츠나 실시간 개인 맞춤형 응답 생성 기능 등 다양한 분야에서 활용이 가능하다는 점을 확인하고 기술개발에 열을 올리고 있습니다.

 

 

그런데 중요한 것은 보이스엔진 기술이 실제 사람 목소리와 아주 비슷하게 만들어내기에 악용될 가능성이 매우 높다는 것입니다.

 

이 문제를 파악한 오픈AI는 "인조 음성 기능의 오용 가능성 때문에 더 광범위한 출시에 대해서는 조심스럽게 접근하고 있다"며 "현재로서는 이 기술을 미리 보여주기(preview)만 하되 널리 출시하지는 않기로 했다"고 밝혔습니다.

 

특히 "사람의 목소리를 닮은 음성을 생성하는 것은 심각한 위험을 야기하며, 선거가 있는 해에는 특히 더 그렇다는 것을 인지하고 있다"며 "우리는 미국과 해외의 정부, 미디어, 엔터테인먼트, 교육, 시민사회 등 다양한 분야와 협력해 그들의 피드백을 반영하기 위해 노력하고 있다"고 덧붙였습니다.

 

그리고 "보이스 엔진에서 생성된 모든 음성의 출처를 추적하기 위한 워터마킹 등 일련의 안전 조치를 구현했다"고 밝혔습니다.

 

또한 음성 생성 기술이 더 발달할 것을 대비해 은행 계좌나 그 밖의 민감한 정보에 접근 권한을 주는 보안 조치에 음성 기반 인증 방식을 폐지해야한다고  말하기도 했습니다.