AI音訊工具遭濫用去深度偽造,網民用來仿製名人聲音說髒話與不當言論

英國人工智慧公司Eleven Labs的音訊工具被人濫用,以假冒名人聲音來發表種族歧視和恐同字眼。Eleven Labs承認在發布試用版數天後,就在網路論壇發現越來越多被濫用製造的深度偽造作品。

Eleven Labs表示對這些案例正在檢討公司的防護措施,但沒有提供細節。該公司聲稱其音訊仿製技術具有巨大潛力,可以革新多個行業的內容製作、表達和互動方式。該公司曾製作過一段宣傳視頻,展示了其仿製其他名人聲音的能力。

Eleven Labs表示,其技術的絕大多數用途是正面的,但仍需要額外的防護措施。

看更多:立法院三讀通過修正刑法加強防制性暴力,未經同意偷拍、外流、假造性影像通通加重刑度抓去關!

(完)


[自問自答x互問互答]

看完文章->自問自答->留言紀錄問題與答案->別人看到你的問題可能會覺得這是個好問題->別人看到你的答案可能會覺得還有別的答案->你看到別人的問題與答案時也是類似的反應->互問互答->日復一日->愈學愈多->大家不知不覺就變強了


範例問題:

  1. 如果有人把你的臉合成到另外一張做了壞事的照片,而且很難判斷真假的話,會對你造成什麼影響?想想看。
  2. 當你發現一個無法判斷真假的消息時,你會用哪些方式來確認真假呢?為什麼?
  3. 除了老師跟教科書之外,你還有哪些可以學習到新知識的方法?說說看。

你也問問看……

smiley小傳媒編輯團隊希望幫助小學生提升寫作力
若你有作文、新詩、讀書心得、電影觀後感、遊記、小日記…… 等希望得到修改與建議,
或有相關作品希望公開發表,歡迎寄到編輯信箱:editor@news.kidsmedia.com.tw

延伸閱讀

發表迴響

%d