雖然專家學者對於生成式AI恐被用以製作假新聞的憂慮，隨著Sora的出現而加劇，要求立法禁止分享或建立深偽圖像或影片的呼聲也不斷升高，但因該限制恐會侵害憲法所保障的言論自由，因此歐美各國在制定相關法律上都會限縮其適用範圍。
日前OpenAI在網站上公開由人工智慧影像生成軟體Sora所生成的影片，該影片畫質清晰，動作栩栩如生，影像、畫面和構圖都可媲美電影，根據OpenAI所公布的資料，使用者只要輸入文字描述，Sora就能夠生成包含多個角色、特定運動類型、主體和背景細節準確的影片，雖然將生成式AI的應用推展到另一個境界，但也可能使大眾更難以辨識影片資訊的可靠性與真實性，而加深民眾對於偽造影片與假訊息的疑慮。
台灣在2020年間，發生網紅小玉利用深偽（Deepfake）技術，將明星、政治人物、網紅等人的臉合成到成人影片女優身上，製作成色情影片，並將這些不實性愛影片上網販售後，即研議修法以規範深偽技術之犯罪行為，並於2023年通過刑法修正案，增訂妨害性隱私及不實性影像罪章，除增列意圖散布而以電腦合成或其他科技方法製作關於他人不實之性影音或其電磁紀錄，以及散布、播送、交付或以他法供人觀覽之處罰規定，並增列意圖營利之加重處罰規定。然而，對於生成式AI所產生之其他不實影像，例如假影片、假新聞等，我國尚無完整的規範，故整理國外相關規範，做為我國的參考。
美國對深偽影像的規範只在州政府層級
美國目前並沒有聯邦法規禁止分享或建立深偽圖像或影片，但因要求修改聯邦法律的呼聲越來越高，因此今年1月即有代表提出「No Artificial Intelligence Fake Replicas And Unauthorized Duplications（No AI FRAUD）」禁止人工智慧假複製品和未經授權的複製法案，規定未經許可，建立任何人的「數位描述」（包含他的外表和聲音）都屬違法，以保護個人免受人工智慧所產生之偽冒、假造物品的侵害。但因其目前只在法案階段而尚未通過，因此美國對於深偽圖像或影片的規範，只在州政府的層級。
德州在2019年通過法律，禁止使用深偽技術去製作、傳播以傷害公職候選人或影響選舉為目的的影片，並規定若有人意圖傷害候選人或影響選舉結果，而去建立深偽影片並使該影片在選舉前30天發布或傳播，可判處最高一年監禁和最高4,000美元的罰金。而加州在2019年通過法律，不僅將未經同意的Deepfake色情內容規定為犯罪行為，賦予受害者對那些使用自己肖像建立圖像的人提起訴訟的權利，也禁止意圖損害候選人的聲譽或欺騙選民，在選舉前60天散布具有實質欺騙性的聲音或影像資料的行為。
英國通過線上安全法案保障因外貌被深偽而受損害者
英國在2023年通過「英國線上安全法案（UK Online Safety Act）」，規定分享經過數位處理的露骨影像或影片屬於非法行為，但這只適用於行為人故意或輕率地對他人造成痛苦的情形，而未阻止色情深偽影片的製作，或無法證明行為人故意造成他人痛苦的情況下分享這些深偽影片。 修正案也沒有將未經主體同意，建立任何其他類型的人工智慧生成媒體，規定為犯罪行為。因此只有那些因外貌被使用於深偽技術而受損害者，才能依誹謗、隱私和騷擾、個人資料保護法、智慧財產權法或刑法等規定來尋求救濟。
中國大陸對深偽進行全面性規範
中國大陸為強化對生成式AI的管理，提出了「互聯網資訊服務深度合成管理規定」、「生成式人工智慧服務管理辦法徵求意見稿」等規定，它的主要義務包括對任何組織和個人的一般性義務、深度合成服務提供者之義務，以及深度合成服務提供者和技術支持者的義務。其中，一般性義務規範，是要求任何組織和個人不得利用深度合成服務製作、複製、發布、傳播法律、行政法規禁止的資訊，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動，亦不得利用深度合成服務製作、複製、發布、傳播假新聞。
其次，深度合成服務提供者之義務規範，是要求他們應：(1)對深度合成服務使用者進行真實身分資訊認證；(2)加強深度合成內容管理，對深度合成服務使用者的輸入資料和合成結果進行審核；(3)建立用以識別違法和不良資訊的特徵庫，並留存相關網路日誌；(4)發現違法和不良資訊時，應及時向有關主管部門報告，並對相關深度合成服務使用者採取處置措施；(5)發現利用深度合成服務製作、複製、發布、傳播虛假資訊時，及時採取闢謠措施；(6)對其提供的深度合成服務，可能導致公眾混淆或者誤認者，應進行標識。
再者，對深度合成服務提供者和技術支持者之義務規範，則是要求他們應：(1)加強訓練資料管理，並採取必要措施以保障訓練資料安全；(2)提供生物識別資訊編輯功能時，應告知被編輯之個人，並取得其同意；(3)加強技術管理，定期審核、評估、驗證生成合成類演算法機制機理。再者，對互聯網應用程式分發平台之義務規範，是要求他們應落實上架審核、日常管理、應急處置等安全管理責任，核驗深度合成類應用程式的安全評估、備案等情況；對違反國家有關規定者，應及時採取處置措施。
結語
雖然專家學者對於生成式AI恐被用以製作假新聞的憂慮，隨著Sora的出現而加劇，要求立法禁止分享或建立深偽圖像或影片的呼聲也不斷升高，但因該限制恐會侵害憲法所保障的言論自由，因此歐美各國在制定相關法律上都會限縮其適用範圍，通常僅以色情內容或以傷害公職候選人、影響選舉為目的之內容作為規範對象，而不似中國大陸對於深偽進行全面性的規範。
我國目前僅在刑法中針對建立或散布深偽色情內容之行為進行處罰，而未對恐影響選舉結果之假新聞進行相關規範，在面對介選及認知作戰日益嚴重的今日，似可參考美國立法，對於以傷害公職候選人、影響選舉為目的之深偽內容進行相應的規範。
＜本文作者：黃于珊目前為執業律師，輔仁大學圖書資訊與資訊管理雙學士，交通大學科技法律研究所碩士，美國華盛頓大學智慧財產權法碩士，曾擔任系統工程師、專利工程師。專攻領域為智慧財產權法、個人資料保護法、高科技產業議題及資訊通訊法等。＞