記者從中國科學技術大學獲悉，該校九韶團隊研究了模式崩潰發生的根本機理，基于數學理論分析提出了一種新方法定量檢測和解決生成對抗網絡（GANs）中的模式崩潰問題。該成果日前發表于國際學術期刊《IEEE模式分析與機器智能匯刊》。
生成對抗網絡（GAN），是廣泛使用的生成模型。其通過學習真實樣本的分布，被用于合成復雜逼真的數據。然而，模式崩潰是生成對抗網絡面臨的一個重要挑戰，即生成樣本的多樣性明顯低于真實樣本的多樣性，這對進一步應用造成了困擾。由于生成對抗網絡及其訓練過程的復雜性，涉及多種可能的因素和環節，一直無法明確究竟是何種機理導致模式崩潰的發生。
經過深入研究，研究團隊發現了生成對抗網絡產生模式崩潰的根本機理。理論分析表明，當真實數據存在多個模式時，生成器損失函數關于其參數是非凸的。具體而言，導致生成分布僅覆蓋真實分布的部分模式的參數，是生成器損失函數的局部極小點。
為了解決模式崩潰問題，研究團隊提出了一個統一的框架，稱為動態生成對抗網絡（DynGAN）。該方法通過對可觀察的判別器輸出設置相應閾值，檢測出生成器無法生成的樣本，即崩潰樣。根據這些崩潰樣本劃分訓練集，然后在這些劃分上訓練動態條件的生成模型。
這項研究結果理論確保了所提新方法DynGAN的漸進式模式覆蓋。合成數據集和現實世界數據集的實驗表明，DynGAN在克服模式崩潰方面超過了現有GAN及其變體。研究人員表示，該研究工作不僅推進了生成對抗網絡的理論研究，也為完善生成模型的模式覆蓋提供了重要的實現手段。
（中國科大供圖）
記者從中國科學技術大學獲悉，該校九韶團隊研究了模式崩潰發生的根本機理，基于數學理論分析提出了一種新方法定量檢測和解決生成對抗網絡（GANs）中的模式崩潰問題。該成果日前發表于國際學術期刊《IEEE模式分析與機器智能匯刊》。
生成對抗網絡（GAN），是廣泛使用的生成模型。其通過學習真實樣本的分布，被用于合成復雜逼真的數據。然而，模式崩潰是生成對抗網絡面臨的一個重要挑戰，即生成樣本的多樣性明顯低于真實樣本的多樣性，這對進一步應用造成了困擾。由于生成對抗網絡及其訓練過程的復雜性，涉及多種可能的因素和環節，一直無法明確究竟是何種機理導致模式崩潰的發生。
經過深入研究，研究團隊發現了生成對抗網絡產生模式崩潰的根本機理。理論分析表明，當真實數據存在多個模式時，生成器損失函數關于其參數是非凸的。具體而言，導致生成分布僅覆蓋真實分布的部分模式的參數，是生成器損失函數的局部極小點。
為了解決模式崩潰問題，研究團隊提出了一個統一的框架，稱為動態生成對抗網絡（DynGAN）。該方法通過對可觀察的判別器輸出設置相應閾值，檢測出生成器無法生成的樣本，即崩潰樣。根據這些崩潰樣本劃分訓練集，然后在這些劃分上訓練動態條件的生成模型。
這項研究結果理論確保了所提新方法DynGAN的漸進式模式覆蓋。合成數據集和現實世界數據集的實驗表明，DynGAN在克服模式崩潰方面超過了現有GAN及其變體。研究人員表示，該研究工作不僅推進了生成對抗網絡的理論研究，也為完善生成模型的模式覆蓋提供了重要的實現手段。
（中國科大供圖）
本文鏈接：我學者解決生成對抗網絡的模式崩潰問題http://www.sq15.cn/show-2-3284-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： 美國月球著陸器翻了，日本著陸器醒了