生成對抗網路（GAN）：合成媒體時代

• 作者：
• 作者姓名

  量子運行遠見
• 2023 年 12 月 5 日

洞察總結

生成對抗網路 (GAN) 以創建深度偽造品而聞名，可產生模仿現實生活中的面孔、聲音和舉止的合成數據。 它們的用途範圍從增強 Adob​​e Photoshop 到在 Snapchat 上產生逼真的濾鏡。 然而，GAN 引起了道德問題，因為它們經常被用來製作誤導性的深度偽造影片並傳播錯誤訊息。 在醫療保健領域，人們對 GAN 訓練中的病患資料隱私感到擔憂。 儘管有這些問題，GAN 仍有有益的應用，例如協助刑事調查。 它們在電影製作和行銷等各個領域的廣泛使用，促使人們呼籲採取更嚴格的資料隱私措施和政府對 GAN 技術進行監管。

生成對抗網路 (GAN) 背景

GAN 是一種深度神經網絡，可以產生與其訓練資料相似的新資料。 相互競爭以產生有遠見的作品的兩個主要模組稱為生成器和鑑別器。 生成器負責創建新數據，而鑑別器則嘗試區分生成的數據和訓練數據。 生成器不斷地試圖透過創建看起來盡可能真實的資訊來欺騙鑑別器。 為此，生成器需要了解資料的底層分佈，從而允許 GAN 無需實際記憶即可創建新資訊。

當 Google 研究科學家 Ian Goodfellow 和他的隊友於 2014 年首次開發 GAN 時，演算法在機器學習方面展現出了巨大的前景。 從那時起，GAN 在不同行業中得到了廣泛的實際應用。 例如，Adobe 將 GAN 用於下一代 Photoshop。 Google 利用 GAN 的強大功能來產生文字和圖像。 IBM 有效地使用 GAN 進行資料增強。 Snapchat 利用它們來實現高效的圖像過濾器，迪士尼利用它們來實現超解析度。 

破壞性影響

雖然 GAN 最初是為了改進機器學習而創建的，但它的應用已經跨越了有爭議的領域。 例如，不斷創建深度偽造影片來模仿真人，並使其看起來像是他們在做或說的事情他們沒有做或說過。 例如，有一段影片顯示美國前總統巴拉克·歐巴馬(Barack Obama)用貶義詞稱呼美國前總統唐納德·特朗普(Donald Trump)，而Facebook首席執行官馬克·扎克伯格(Mark Zuckerburg)則吹噓自己能夠控制數十億被盜資料。 這些都沒有發生在現實生活中。 此外，大多數深度偽造影片都針對女性名人，並將她們放入色情內容中。 GAN 也能夠從頭開始創建虛構的照片。 例如，LinkedIn 和 Twitter 上的幾個深度造假記者帳號原來是人工智慧產生的。 這些綜合資料可用於創建宣傳人員可以使用的聽起來逼真的文章和思想領導文章。 

同時，在醫療保健領域，人們越來越擔心使用實際患者資料庫作為演算法的訓練資料可能會洩露資料。 一些研究人員認為，必須有額外的安全或屏蔽層來保護個人資訊。 然而，儘管 GAN 主要以其欺騙人的能力而聞名，但它也有積極的好處。 例如，2022年13月，荷蘭警方重新製作了一段2003年被謀殺的XNUMX歲男孩的影片。警方希望透過使用受害者的真實鏡頭，鼓勵人們記住受害者並挺身而出。有關懸案的新資訊。 警方聲稱他們已經收到了一些舉報，但必須進行背景調查以核實這些線索。

生成對抗網路（GAN）的應用

生成對抗網路（GAN）的一些應用可能包括： 

• 電影製作行業創建深度偽造內容，以在後期製作的電影中放置合成演員並重新拍攝場景。 這項策略可以轉化為長期成本節約，因為他們不需要向演員和工作人​​員支付額外的報酬。
• 越來越多地使用深度偽造文本和視頻來促進不同政治派別的意識形態和宣傳。
• 公司使用合成影片來創建精心設計的品牌和行銷活動，而無需僱用程式設計師以外的實際人員。
• 團體遊說加強對醫療保健和其他個人資訊的資料隱私保護。 這種阻力可能會迫使公司開發不基於實際資料庫的培訓資料。 然而，結果可能不那麼準確。
• 政府監管和監控生產 GAN 技術的公司，以確保該技術不會被用於錯誤訊息和詐欺。

要評論的問題

• 您有使用過 GAN 技術的經驗嗎？ 體驗如何？
• 公司和政府如何確保 GAN 的使用符合道德規範？