產業
2024.09.08 (日)
YouTube正在開發能夠檢測臉部和聲音深度偽造的工具
字級：
YouTube 宣布兩項新工具將幫助創作者和藝人們保護他們的知識財產權，避免被生成式 AI 複製。這些工具可減輕 AI 生成內容可能帶來的負面影響。第一項新工具將幫助藝人檢測 AI 生成的複製聲音、是否被用在上傳到 YouTube 的歌曲中，這個功能將整合到 YouTube 現有的 Content ID 系統裡，用於識別和管理受版權保護的內容。第二項工具則將讓各行業的 YouTube 創作者（包括演員、運動員等）在平台上檢測到 AI 生成的臉部內容時收到提醒。
YouTube 創作者產品副總裁 Amjad Hanif表示第一項工具已經建置完成，第二項工具則正在積極開發中。他強調，AI 為創作者提供了許多創新的機會，但 YouTube 也致力於幫助創作者掌控自己的聲音和肖像權的使用。他還提到，未經許可抓取創作者內容來訓練 AI 模型是違反 YouTube 服務條款的行為，但他也承認創作者可能希望、對他們如何與第三方公司合作開發 AI 工具擁有更多控制權。YouTube 將在今年晚些時候提供更多關於此方面的資訊。
上個月，全球最大的演員和廣播員工會 Sag-Aftra 宣布與 AI 公司 Narrativ 達成了一項協議，允許其成員將自己的聲音授權用於廣告，這一協議被視為 AI 幫助娛樂業者而非損害他們生計的案例。YouTube 的新工具也有類似的定位，強調 AI 應該增強人類的創造力，而不是取代它。
生成式 AI 也為創作者和藝人們帶來了新的挑戰。隨著 ChatGPT、Midjourney 和 Gemini 等工具的興起，不同領域的藝人和藝術家們擔心這些模型會未經許可地從他們的作品中學習，並呼籲保護他們的肖像免受不當複製。最近湯姆·漢克斯（Tom Hanks）警告他在 Instagram 的粉絲、指出有廣告使用 AI 生成他的樣貌來推銷假造的療效產品。
這些新技術工具的推出、正值公私領域紛紛採取措施、以規範生成式 AI 模型，尤其是針對「深偽技術（deepfakes）」——模仿真實人物、聲音、場景或事件的 AI 生成內容。例如，美國加州正在考慮立法，要求人工智慧公司在 AI 生成的圖像、影音和音樂的元數據中加入數位浮水印。歐洲最近通過的人工智慧法案也要求 AI 生成內容的披露。
YouTube 推出的這些新工具預期會受到音樂產業的歡迎，因為音樂產業一直在努力抑制未經授權使用個人肖像和聲音生成 AI 內容的行為。
音樂產業近年支持了多項打擊這類AI相關問題的法案，包括於今年 7 月在美國參議院提出的《No FAKES Act》法案，這將首次在美國聯邦法律中建立個人對自己肖像和聲音的權利。該法案以及美國眾議院正在審議的類似法案《No AI FRAUD Act》將授予個人在其聲音或肖像、在 AI 生成的內容中未經許可被模仿時、提起訴訟的權利。
YouTube 的這一舉動是媒體平台努力遏制 AI 技術濫用的措施之一。YouTube 和 TikTok 此前都宣布過，要求平台上的 AI 生成內容必須標明其身份。今年 7 月，YouTube 宣布了一項政策，允許人們對模仿其肖像的 AI 生成影片提出下架請求。此外，YouTube 也正在與幾家主要唱片公司進行談判，授權音樂以開發 AI 驅動的音樂製作工具。
資料來源：◎ engadget + TheDrum + MBW
立刻加入北流 Line@
訂閱北流電子報
YouTube 創作者產品副總裁 Amjad Hanif表示第一項工具已經建置完成，第二項工具則正在積極開發中。他強調，AI 為創作者提供了許多創新的機會，但 YouTube 也致力於幫助創作者掌控自己的聲音和肖像權的使用。他還提到，未經許可抓取創作者內容來訓練 AI 模型是違反 YouTube 服務條款的行為，但他也承認創作者可能希望、對他們如何與第三方公司合作開發 AI 工具擁有更多控制權。YouTube 將在今年晚些時候提供更多關於此方面的資訊。
上個月，全球最大的演員和廣播員工會 Sag-Aftra 宣布與 AI 公司 Narrativ 達成了一項協議，允許其成員將自己的聲音授權用於廣告，這一協議被視為 AI 幫助娛樂業者而非損害他們生計的案例。YouTube 的新工具也有類似的定位，強調 AI 應該增強人類的創造力，而不是取代它。
生成式 AI 也為創作者和藝人們帶來了新的挑戰。隨著 ChatGPT、Midjourney 和 Gemini 等工具的興起，不同領域的藝人和藝術家們擔心這些模型會未經許可地從他們的作品中學習，並呼籲保護他們的肖像免受不當複製。最近湯姆·漢克斯（Tom Hanks）警告他在 Instagram 的粉絲、指出有廣告使用 AI 生成他的樣貌來推銷假造的療效產品。
這些新技術工具的推出、正值公私領域紛紛採取措施、以規範生成式 AI 模型，尤其是針對「深偽技術（deepfakes）」——模仿真實人物、聲音、場景或事件的 AI 生成內容。例如，美國加州正在考慮立法，要求人工智慧公司在 AI 生成的圖像、影音和音樂的元數據中加入數位浮水印。歐洲最近通過的人工智慧法案也要求 AI 生成內容的披露。
YouTube 推出的這些新工具預期會受到音樂產業的歡迎，因為音樂產業一直在努力抑制未經授權使用個人肖像和聲音生成 AI 內容的行為。
音樂產業近年支持了多項打擊這類AI相關問題的法案，包括於今年 7 月在美國參議院提出的《No FAKES Act》法案，這將首次在美國聯邦法律中建立個人對自己肖像和聲音的權利。該法案以及美國眾議院正在審議的類似法案《No AI FRAUD Act》將授予個人在其聲音或肖像、在 AI 生成的內容中未經許可被模仿時、提起訴訟的權利。
YouTube 的這一舉動是媒體平台努力遏制 AI 技術濫用的措施之一。YouTube 和 TikTok 此前都宣布過，要求平台上的 AI 生成內容必須標明其身份。今年 7 月，YouTube 宣布了一項政策，允許人們對模仿其肖像的 AI 生成影片提出下架請求。此外，YouTube 也正在與幾家主要唱片公司進行談判，授權音樂以開發 AI 驅動的音樂製作工具。
資料來源：◎ engadget + TheDrum + MBW
立刻加入北流 Line@
訂閱北流電子報
