富士調(diào)色配方app？我平時(shí)比較多用它來(lái)做照片的基礎(chǔ)調(diào)整，亮度，對(duì)比度，色調(diào)等等，曲線功能極為好用，象的調(diào)色軟件都能夠按照的數(shù)值很視野局限，而snapseed卻可以不能夠做到很比較細(xì)膩，廢片一定要用它來(lái)

富士調(diào)色配方app？

我平時(shí)比較多用它來(lái)做照片的基礎(chǔ)調(diào)整，亮度，對(duì)比度，色調(diào)等等，曲線功能極為好用，象的調(diào)色軟件都能夠按照的數(shù)值很視野局限，而snapseed卻可以不能夠做到很比較細(xì)膩，廢片一定要用它來(lái)去挽救！

2.黃油相機(jī)

更適合利用做最近非常最流行Plog，有許多付費(fèi)的字體和貼紙，可愛啊，日系小清新，炫酷，新潮時(shí)尚，各種風(fēng)格都是可以不滿足，四處退出新模板，一鍵備份P圖，讓你的照片在社交圈輕松更出彩。

3.VSCO

這是一個(gè)主攻膠片風(fēng)的app，但是許多超好看的濾鏡不需要會(huì)員才能解鎖碼，在淘寶上面3塊錢就是可以買一個(gè)絕版的會(huì)員號(hào)，上百種膠片濾鏡隨便是用，也是極為劃算了！比較遺憾，軟件內(nèi)的HSL功能，用過(guò)電腦軟件lightroom的朋友估計(jì)清楚這個(gè)功能有多好用！

嚴(yán)格一點(diǎn)意義上來(lái)說(shuō)這是一款相機(jī)app，它模仿的是富士膠片機(jī)的冷紫調(diào)質(zhì)感，色彩鮮艷，照片直拍直出，算上閃光燈，超好看的沒(méi)不過(guò)！

有人稱它為手機(jī)版的PS，到我所知道的我用過(guò)最好就是是用手機(jī)摳圖軟件，其實(shí)它不單單可以摳圖，喜歡ins風(fēng)的朋友一定要來(lái)看看這個(gè)app里面的貼紙，同樣的大部分是付費(fèi)的！

6.美圖秀秀

美圖秀秀這個(gè)軟件真有很不厲害，從手機(jī)修圖軟件結(jié)束流行一直在到現(xiàn)在，它都還沒(méi)有掉落下來(lái)隊(duì)伍，一直都更新完自身的功能，我每次來(lái)手機(jī)人像后期根本不會(huì)最需要美圖秀秀，五官自動(dòng)識(shí)別調(diào)整，一鍵備份上妝，3d立體修容，能去掉斑點(diǎn)等功能，快捷好用。濾鏡我推薦推薦【質(zhì)感】系列。貼紙和涂鴉筆的功能也很好用，社群內(nèi)網(wǎng)友們分享分享的p圖教程很有意思。最近系統(tǒng)更新了也在漸漸地改善吃像素的毛病，不過(guò)，是一個(gè)綜合能力很強(qiáng)的手機(jī)后期軟件！

變分自編碼器（VAE）目前存在哪些問(wèn)題，發(fā)展方向是什么？

變分自編碼器（VAE）與生成對(duì)抗網(wǎng)絡(luò)（GAN）一樣的，是無(wú)監(jiān)督學(xué)習(xí)最具前景的方法之一。本文中，牛津大學(xué)統(tǒng)計(jì)系在讀博士AdamKosiorek從原理上向我們介紹了VAE目前面臨的挑戰(zhàn)。而，文中也提出來(lái)了是對(duì)該方法的幾種改進(jìn)方向。

隱變量模型

打比方你只希望是從一個(gè)定義在x∈RD上的概率分布來(lái)對(duì)整個(gè)世界建模，其中p（x）意思是x很可能處于的狀態(tài)。這個(gè)世界很可能非常緊張，我們根本無(wú)法明白了p（x）的具體看形式。替解決這個(gè)問(wèn)題，我們化入兩個(gè)變量z∈Rd來(lái)具體解釋x的背景信息。比如x是一個(gè)圖像，這樣的話z就可以不記錄關(guān)與圖像中可見物體的出現(xiàn)、數(shù)量、類型，以及畫面的背景和光影條件的信息。這個(gè)新的變量以至于我們也可以將p（x）它表示為一個(gè)能無(wú)限水配模型。

這是一個(gè)水的混合物模型，因?yàn)槭菍?duì)z的任意可能會(huì)取值，都分解重組另一個(gè)條件分布的位置，并是從z的概率并且加權(quán)，最終換取p（x）。

在這樣的設(shè)定下，「計(jì)算變量x的觀測(cè)值，隱變量z是什么」就成了一個(gè)太挺有趣的問(wèn)題。

也就是說(shuō)，我們?nèi)绻苊靼缀篁?yàn)分布p(z∣x)?？墒牵瑉和x之間這個(gè)可以呈現(xiàn)相同高度的線性關(guān)系（例如，由一個(gè)多層神經(jīng)網(wǎng)絡(luò)基于），并且，D——我們觀測(cè)值的維度，和d——隱變量的維度，也可能會(huì)太大。由于邊緣其分布和后驗(yàn)其分布都要對(duì)（1）式積分求值，我們認(rèn)為它們大都沒(méi)能算出的。

我們是可以是從蒙特卡羅抽樣，參照p(x)≈1M∑Mm1p(x∣z(m))p(x)≈1M∑m1Mp(x∣z(m)),z(m)～p(z)來(lái)估計(jì)（1）式，但導(dǎo)致z的空間肯定相當(dāng)大，我們可能會(huì)是需要上百萬(wàn)個(gè)z的樣本，來(lái)得到一個(gè)靠譜的估計(jì)。

在訓(xùn)練一個(gè)概率模型的時(shí)候，我們也可以可以使用參數(shù)其分布-它的參數(shù)由一個(gè)參數(shù)為θ∈Θ的神經(jīng)網(wǎng)絡(luò)來(lái)確認(rèn)。現(xiàn)在，我們就這個(gè)可以使用頗大似然肯定來(lái)去學(xué)習(xí)能夠得到這些參數(shù)。

這里的問(wèn)題是，我們無(wú)法價(jià)值最大化（1）式，畢竟我們無(wú)法估計(jì)它。是為解決這個(gè)問(wèn)題，我們是可以求教于有用抽樣（importancesampling）。當(dāng)我們需要對(duì)遠(yuǎn)古時(shí)期（名義分布的位置）概率密度分布（pdf）毛估估一個(gè)期望值時(shí)，IS以至于我們也可以從另一個(gè)有所不同的概率其分布（建議其分布）中隨機(jī)取樣，然后把將這些樣本對(duì)名義分布求期望。用q?(z∣x)來(lái)表示我們的建議分布-其中的參數(shù)由參數(shù)為?∈Φ的神經(jīng)網(wǎng)絡(luò)判斷。我們也可以能得到：

根據(jù)重要性抽樣的文獻(xiàn)解得，最優(yōu)化的建議分布，與名義分布特點(diǎn)乘以2某個(gè)函數(shù)成比例，其中這個(gè)函數(shù)的期望是我們只希望大概的。在我們的設(shè)定下，「某個(gè)函數(shù)」是p（x|z）。參照貝葉斯定理，p(z∣x)p(x∣z)p(z)/p(x)，看到，更優(yōu)我建議你分布與后驗(yàn)其分布成比例，顯然，后驗(yàn)分布特點(diǎn)根本無(wú)法求解答。

變分自編碼器的誕生

幸運(yùn)的是，很顯然我們也可以一石三鳥：按照一個(gè)學(xué)習(xí)到的建議分布的位置來(lái)另一種大概后驗(yàn)分布特點(diǎn)，我們也可以快速有效的我得到邊緣分布的位置pθ(x)的估計(jì)。在這里，我們無(wú)意地間換取了一個(gè)快板碼的設(shè)定。替學(xué)習(xí)我們的模型，我們不需要：

pθ(x,z)-生成模型，其中中有：

pθ(x∣z)-一個(gè)概率形式的解碼器，和

p(z)-一個(gè)定義在隱變量上的先驗(yàn)分布

q?(z∣x)-一個(gè)概率形式的編碼器

為了另一種估計(jì)后驗(yàn)廣泛分布，我們這個(gè)可以借用建議分布和后驗(yàn)廣泛分布之間的KL散度（可以明白為兩個(gè)概率其分布之間的距離），不過(guò)我們這個(gè)可以最小化這個(gè)結(jié)果。

這會(huì)兒，我們面臨的新問(wèn)題那就是：目的是計(jì)算出KL散度，我們不需要知道后驗(yàn)分布特點(diǎn)。不是他沒(méi)有可能，如果利用一點(diǎn)點(diǎn)代數(shù)乘除運(yùn)算，我們就能能得到可以不可以計(jì)算的目標(biāo)函數(shù)。

我在第二行發(fā)動(dòng)了對(duì)數(shù)項(xiàng)，在第三行可以使用了貝葉斯定理在內(nèi)pθ(x)和z是單獨(dú)的的事實(shí)。到最后一行中的L(xθ,?)是對(duì)數(shù)概率廣泛分布pθ(x)的下界-即通常所說(shuō)的的證據(jù)下界（ELBO）。我們按照整理好是可以我得到：

只需要一個(gè)從我建議你分布特點(diǎn)中抽得的樣本，我們就可以不能得到類似估記：

我們是從尋找風(fēng)選擇最大化ELBO的?和θ（常見不使用必掉梯度下降）來(lái)訓(xùn)練模型：

實(shí)際最大化ELBO，我們或（1）最大化邊緣分布特點(diǎn)，或（2）最小化窗口KL散度，或而結(jié)束。要盡量，ELBO的另一種大概是f(x)1、重要性權(quán)重為w(x)pθ(x,z)q?(z∣x)的重要性隨機(jī)取樣的期望的對(duì)數(shù)形式。

這個(gè)大概量有啥？

如果沒(méi)有你足夠觀察的看重要性抽樣，就能發(fā)現(xiàn)到，對(duì)建議分布特點(diǎn)的支撐應(yīng)該比對(duì)名義廣泛分布的支撐更應(yīng)用范圍——應(yīng)該是同樣盡量避免估計(jì)量方差無(wú)限大的空間和數(shù)值的不穩(wěn)定性。在這里，好是是來(lái)優(yōu)化軟件KL(p∣∣q)的倒數(shù)——因?yàn)樗心Ｊ狡骄再|(zhì)，而不是什么系統(tǒng)優(yōu)化KL（q∣∣p），來(lái)試圖模式q去不兼容能找到一個(gè)好是的模式p。這意味著我們要從虛無(wú)飄渺的后驗(yàn)廣泛分布中并且抽樣，而這是很麻煩的。另外其它的東西，我們可以不使用ELBO的IS肯定，作為重要性加權(quán)自編碼器（IWAE）。這里的想法很簡(jiǎn)單點(diǎn)：我們從建議其分布中收集k個(gè)樣本，并內(nèi)中可以計(jì)算出平均概率比，這里的每一個(gè)樣本也叫「粒子」。

巳經(jīng)證明，這個(gè)估計(jì)也量是在優(yōu)化修正后的KL散度KL(qIS∣∣pIS)，其中qIS和pIS的定義分別是：

哪怕和原始分布但卻接近，但qIS和pIS不允許q和p中存在地預(yù)想以外的小的變動(dòng)。原始論文中證明，系統(tǒng)優(yōu)化這個(gè)下界可以不能夠得到更好的生成模型。同樣它也具體了一個(gè)近似后驗(yàn)分布的位置q的熵大得多的估計(jì)（更寬，更分與合），并成功的超越了原始KL散度的模式不兼容方法。還有一個(gè)三個(gè)有趣的的結(jié)果，如果我們令粒子K的數(shù)量不等于無(wú)窮無(wú)盡，我們就可以不是需要斷定模型q。

IWAE（第一行）和VAE（第二行）中z的后驗(yàn)分布的位置。圖像從IWAE論文中重現(xiàn)歷史能得到。

IWAE問(wèn)題？

重要性加權(quán)ELBO，或IWAE，怎么推廣了各種的ELBO：是對(duì)K1，我們有LKL1L。同樣有l(wèi)ogp(x)≥Ln1≥Ln≥L1。另外一點(diǎn)，我們用來(lái)估記LK的粒子一定，它的結(jié)果就會(huì)越距離數(shù)據(jù)都是假的對(duì)數(shù)概率分布——即「界限越緊」。這意味著和遺留下來(lái)ELBO的梯度相比較，對(duì)IWAE求微分得到的梯度估記量也可以解決我們不能找到一個(gè)更好的梯度方向。除此之外，伴隨著K的增加，梯度肯定量的方差會(huì)你所選快速收縮。

是對(duì)生成模型這些點(diǎn)的很好，但對(duì)付建議廣泛分布的時(shí)候，變會(huì)出現(xiàn)問(wèn)題。緊接著K的減小，見意其分布中參數(shù)的梯度的大小會(huì)趨向于0，但是比方差收斂得又要快。

令Δ(?)它表示我們優(yōu)化的目標(biāo)函數(shù)（即ELBO）在?上的梯度的小批量大概。假如定義參數(shù)沒(méi)更新的信號(hào)-噪聲比（SNR）萬(wàn)分感謝：

其中E和V各表示希望和方差。一眼就可以看出相對(duì)于pθ，SNR緊接著K增加而提高，但相對(duì)于q?，SNR緊接著K提升而增大。這里的結(jié)論很簡(jiǎn)單?。何覀?cè)谟玫牧Ｗ釉蕉?，我們的推斷模型效果就?huì)越差。假如我們?cè)诤醯氖且馑际亲詫W(xué)，我們可能會(huì)遇到了問(wèn)題了。

更好的估計(jì)量

正如我們?cè)谧罱恼撐摹禩ighter Variational Bounds are Not Necessarily Better》中證明的，我們可以能得到比IWAE好的結(jié)果。思路是在推斷和生成模型中在用差別的目標(biāo)，按照這種方法，我們是可以只要兩個(gè)目標(biāo)中都能得到小方差非零梯度，終于我得到更好的模型。

有所不同的訓(xùn)練目標(biāo)在訓(xùn)練時(shí)期中信號(hào)-噪聲比

在上圖中，我們比較比較了我建議你分布q?的參數(shù)?z在更新完中的SNR。SNR高了的VAE最系統(tǒng)優(yōu)化L1來(lái)訓(xùn)練。SNR最多的IWAE則最360優(yōu)化L64。中間的三條曲線可以使用的是完全不同的組合：生成模型中使用的L64，斷定模型中不使用的則是L8或L1。在當(dāng)前指標(biāo)下，它們效果確實(shí)沒(méi)有VAE好，但訓(xùn)練訓(xùn)練出的建議分布和生成模型都比在用VAE或IWAE得到的好。

這里有一個(gè)令人驚訝的副作用：在用我們新的大概量訓(xùn)練的模型比建議使用IWAE本身訓(xùn)練的模型提升到了更高的L64界限。為啥會(huì)這樣的？按照研究最有效樣本量（ESS）和數(shù)據(jù)的邊緣概率分布特點(diǎn)的對(duì)數(shù)，倒是是最360優(yōu)化L1，可能導(dǎo)致了性質(zhì)最好就是的建議分布可是性質(zhì)最差的生成模型。如果我們將三個(gè)好的建議分布和一個(gè)也可以結(jié)論好的生成模型的目標(biāo)生克制化在一起，我們估計(jì)這個(gè)可以得到這個(gè)目標(biāo)的一個(gè)方差更小的估計(jì)，哪怕因此這個(gè)可以換取更好的模型。請(qǐng)?jiān)谶@里查找我們論文的詳情。

論文：TighterVariationalBoundsareNot Necessarily Better

論文地址：

摘要：我們同樣在理論和經(jīng)驗(yàn)上相關(guān)證明，不使用更緊的信息下界（ELBO）可能會(huì)并進(jìn)一步影響實(shí)際降低梯度大概量的信號(hào)-噪聲比來(lái)自學(xué)猜想網(wǎng)絡(luò)的過(guò)程。我們的結(jié)果對(duì)目前廣為應(yīng)用形式的隱含假設(shè)：「更緊的ELBO是聯(lián)立模型學(xué)和推斷攤銷模式中更最合適的變分目標(biāo)」做出了質(zhì)疑。據(jù)我們的研究，我們提議了三個(gè)新的算法：偏重要性加權(quán)自編碼器（PIWAE）、多層重要性加權(quán)自編碼器（MIWAE）這些組織重要性加權(quán)自編碼器（CIWAE）；在這三個(gè)算法中，標(biāo)準(zhǔn)的重要性自編碼器（IWAE）都可以不作為一個(gè)特殊情況。我們可以證明了這三個(gè)自編碼器都是可以在IWAE的基礎(chǔ)上提出效果實(shí)力提升——即使我們不使用的是IWAE中的目標(biāo)來(lái)測(cè)試出來(lái)效果。進(jìn)一步來(lái)說(shuō)，和IWAE比起，PIWAE是可以而提升到推斷網(wǎng)絡(luò)和生成網(wǎng)絡(luò)的效果。