文章概要:

1. 新加坡國立大學(xué)研究團(tuán)隊成功研發(fā)出名為Show-1的AI系統(tǒng)，能夠從文本描述中生成高質(zhì)量視頻。

2. Show-1采用像素和潛變模型的混合架構(gòu)，充分利用了兩種方法的優(yōu)勢，實現(xiàn)了文本到視頻的精確對齊和高效放大。

3. 與純像素模型相比，Show-1僅需使用20-25%的GPU內(nèi)存，同時在逼真度和文本到視頻對齊方面實現(xiàn)了相同或更好的結(jié)果。

微新創(chuàng)想（idea2003.com）10月7日 消息:新加坡國立大學(xué)的研究團(tuán)隊最近成功研發(fā)了一款名為Show-1的AI系統(tǒng)，該系統(tǒng)可以將文本描述轉(zhuǎn)化為高質(zhì)量視頻。這一突破性的技術(shù)在AI領(lǐng)域引起了廣泛的關(guān)注，被譽為最佳的免費AI視頻創(chuàng)作工具之一。

Show-1的研發(fā)團(tuán)隊采用了一種混合架構(gòu)，將像素和潛變模型相結(jié)合，以充分發(fā)揮兩種方法的優(yōu)勢。像素模型直接處理像素值，因此能夠更好地與文本提示對齊，但需要大量計算資源。潛變模型則將輸入壓縮到潛變空間，然后進(jìn)行擴(kuò)散。雖然更加高效，但在保留精細(xì)文本細(xì)節(jié)方面存在困難。

Show-1模型將這兩種模型架構(gòu)相結(jié)合:像素模型用于生成關(guān)鍵幀和低分辨率插值圖像，捕捉與文本提示接近的所有運動和內(nèi)容。然后，潛變模型用于將低分辨率視頻放大到高分辨率。潛變模型充當(dāng)“專家”，以添加逼真的細(xì)節(jié)。這種混合方法將像素模型的精確文本到視頻對齊與潛變模型的高效放大相結(jié)合，取得了最佳效果。

根據(jù)研究團(tuán)隊的介紹，Show-1在逼真度和文本到視頻對齊方面取得了與Imagen Video或Runways Gen-2等最先進(jìn)方法相同或更好的結(jié)果，同時僅需使用純像素模型生成視頻所需GPU內(nèi)存的20-25%。這一特點也使得Show-1對開源應(yīng)用具有吸引力。

Show-1具有以下產(chǎn)品特色功能:

• 像素級和潛在級結(jié)合:Show-1獨創(chuàng)性地將像素級和潛在級VDMs相結(jié)合，充分發(fā)揮了兩者的優(yōu)點，以實現(xiàn)文本到視頻的生成。這一特色使其在保持高效性的同時能夠?qū)崿F(xiàn)精確的文本與視頻對齊。

• 高質(zhì)量視頻生成:通過首先使用像素級VDMs生成具有強文本-視頻關(guān)聯(lián)性的低分辨率視頻，然后使用潛在級VDMs進(jìn)行進(jìn)一步上采樣，Show-1能夠生成高質(zhì)量的視頻，確保了視頻的視覺質(zhì)量。

• 高效性:與像素級VDMs相比，Show-1在推理期間的GPU內(nèi)存使用效率更高，顯著減少了計算資源的需求，從而提高了效率。

• 文本視頻對齊:Show-1注重確保生成視頻與文本提示之間的精確對齊，這意味著生成的視頻能夠更好地反映文本描述的內(nèi)容，提高了生成視頻與文本一致性。

• 開源代碼和模型權(quán)重:作者公開提供了Show-1的代碼和模型權(quán)重，這意味著研究社區(qū)和開發(fā)人員可以自由地使用和構(gòu)建在此模型的基礎(chǔ)上進(jìn)行進(jìn)一步研究和開發(fā)。

總之，Show-1是一種先進(jìn)的文本到視頻生成模型，通過融合不同級別的VDMs，它能夠高效地生成高質(zhì)量、精確對齊的視頻，并且具有開放的代碼和模型權(quán)重，可用于各種應(yīng)用，如視頻生成、自動生成影片等。

Show-1項目網(wǎng)址:https://showlab.github.io/Show-1/