nn.BCELoss與nn.CrossEntropyLoss有哪些區(qū)別-創(chuàng)新互聯(lián)

這篇文章主要介紹了nn.BCELoss與nn.CrossEntropyLoss有哪些區(qū)別，具有一定借鑒價值，感興趣的朋友可以參考下，希望大家閱讀完這篇文章之后大有收獲，下面讓小編帶著大家一起了解一下。

成都創(chuàng)新互聯(lián)主營湖口網(wǎng)站建設的網(wǎng)絡公司,主營網(wǎng)站建設方案,成都App定制開發(fā),湖口h5微信小程序開發(fā)搭建,湖口網(wǎng)站營銷推廣歡迎湖口等地區(qū)企業(yè)咨詢

BCELoss與CrossEntropyLoss都是用于分類問題?？梢灾溃珺CELoss是Binary CrossEntropyLoss的縮寫，BCELoss　CrossEntropyLoss的一個特例，只用于二分類問題，而CrossEntropyLoss可以用于二分類，也可以用于多分類。

不過我重新查閱了一下資料，發(fā)現(xiàn)同樣是處理二分類問題，BCELoss與CrossEntropyLoss是不同的。下面我詳細講一下哪里不同。

1、使用nn.BCELoss需要在該層前面加上Sigmoid函數(shù)。

公式如下：

2、使用nn.CrossEntropyLoss會自動加上Sofrmax層。

公式如下：

可以看出，這兩個計算損失的函數(shù)使用的激活函數(shù)不同，故而最后的計算公式不同。

補充拓展：pytorch的BCELoss和cross entropy

BCELoss:

torch.nn.BCELoss:

Input: (N, *)(N,?) where *? means, any number of additional dimensions

Target: (N, *)(N,?), same shape as the input

Output: scalar. If reduction is 'none', then (N, *)(N,?), same shape as input.

這里的輸入和target 目標必須形狀一致，并且都是浮點數(shù)，二分類中一般用sigmoid的把輸出挑出一個數(shù)：

>>> m = nn.Sigmoid()
>>> loss = nn.BCELoss()
>>> input = torch.randn(3, requires_grad=True)
>>> target = torch.empty(3).random_(2)
>>> output = loss(m(input), target)
>>> output.backward()

CrossEntropyLoss:

input(N,C) #n 是batch c是類別
target(N)

輸入和target 形狀是不同的crossEntropy 是自己會做softmax

>>> loss = nn.CrossEntropyLoss()
>>> input = torch.randn(3, 5, requires_grad=True)
>>> target = torch.empty(3, dtype=torch.long).random_(5)
>>> output = loss(input, target)
>>> output.backward()

感謝你能夠認真閱讀完這篇文章，希望小編分享的“nn.BCELoss與nn.CrossEntropyLoss有哪些區(qū)別”這篇文章對大家有幫助，同時也希望大家多多支持創(chuàng)新互聯(lián)成都網(wǎng)站設計公司，關注創(chuàng)新互聯(lián)成都網(wǎng)站設計公司行業(yè)資訊頻道，更多相關知識等著你來學習!

另外有需要云服務器可以了解下創(chuàng)新互聯(lián)scvps.cn，海內外云服務器15元起步，三天無理由+7*72小時售后在線，公司持有idc許可證，提供“云服務器、裸金屬服務器、網(wǎng)站設計器、香港服務器、美國服務器、虛擬主機、免備案服務器”等云主機租用服務以及企業(yè)上云的綜合解決方案，具有“安全穩(wěn)定、簡單易用、服務可用性高、性價比高”等特點與優(yōu)勢，專為企業(yè)上云打造定制，能夠滿足用戶豐富、多元化的應用場景需求。

新聞標題：nn.BCELoss與nn.CrossEntropyLoss有哪些區(qū)別-創(chuàng)新互聯(lián)
標題路徑：http://muchs.cn/article22/hodcc.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián)，為您提供服務器托管、網(wǎng)站設計公司、商城網(wǎng)站、網(wǎng)站改版、面包屑導航、小程序開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經(jīng)允許不得轉載，或轉載時需注明來源： 創(chuàng)新互聯(lián)