生成式 AI 帶來假造風險，影音分享平台巨擘 YouTube 宣布了一連串新政策，明年起影片創造者必須向觀眾揭露，內容是否經人工智慧動過手腳。

Axios、CNN 報導，AI科技日新月異，已能做出各種以假亂真的影片與圖像，之後使用 YouTube 上傳影音者，若是經 AI 編修過，如「真人說假話」、「沒發生過卻營造出真實感的場景事件」等等，皆必須明確標註，讓觀者知悉影片真偽。

此外，若模擬／假造的內容涉及特定人士，包括面容、聲音，該人士可向 YouTube 要求將內容撤下。然而，並非所有要求都會獲准，對於諷刺、搞笑內容，或模仿公眾人物的影音，會有較高的介入門檻。就音樂產業而言，若歌手的特殊嗓音遭到模仿，會提供撤下影片的服務。

創作者若不依規定辦理，YouTube 有權採取懲罰動作，如直接刪除內容。YouTube 強調，用科技操弄的內容，恐有誤導之嫌，釀成傷害。警語將標註於影片的敘述說明中，對於政治、軍事衝突、健康議題等較敏感的題材，則會出現在更顯目的區塊。

對於 AI 工具可能導致的假消息風險，專家已不只一次示警。TikTok 今年稍早也針對 AI 生成內容加了標註，臉書（Facebook）與 Instagram 的母公司 Meta，則於上周表示，投放政治廣告者，必須揭露 AI 之使用。