flutter介紹,flutter flutter

Flutter入門這一篇效率文章就夠了

本文面向 Flutter 初學者，旨在用易懂的方式帶大家入門。除了 Flutter 代碼，還會介紹到語法、原理、特性等基礎知識。相信本文能幫助你學習和理解 Flutter。

站在用戶的角度思考問題，與客戶深入溝通，找到龍圩網(wǎng)站設計與龍圩網(wǎng)站推廣的解決方案，憑借多年的經(jīng)驗，讓設計與互聯(lián)網(wǎng)技術結合，創(chuàng)造個性化、用戶體驗好的作品，建站類型包括：網(wǎng)站設計制作、網(wǎng)站建設、企業(yè)官網(wǎng)、英文網(wǎng)站、手機端網(wǎng)站、網(wǎng)站推廣、申請域名、網(wǎng)絡空間、企業(yè)郵箱。業(yè)務覆蓋龍圩地區(qū)。

我們先看一下目前的一些跨平臺方案，從前端渲染的角度來分類的話，大致可以分為以下幾種方案。

WebView 渲染

這種方案就很好理解，現(xiàn)在很多項目都會嵌入 H5 的頁面。就是用 JavaScript 等前端技術進行開發(fā)，在客戶端上用 WebView 來進行渲染。微信小程序目前使用的就是這種方案。

它的優(yōu)點很明顯，使用成熟的前端技術進行開發(fā)，學習成本低，開發(fā)效率高，并且支持動態(tài)發(fā)布代碼。

但缺點也很明顯，在性能體驗上，和原生還是存在較大差距的。

原生控件渲染

既然 WebView 的性能不夠好，于是就有了使用原生控件進行渲染的方案。這種方案，同樣也是使用 JavaScript 開發(fā)，區(qū)別是它最終是調(diào)用原生控件進行渲染的。這種方案的代表是 Facebook 的 React Native。

由于使用原生控件進行渲染，性能體驗也會更接近原生。但也只是更接近，和原生還是有差距的，因為它需要頻繁的進行 JavaScript 和原生之間的通信，這個通信效率是比較低的。

另外，由于需要適配各個平臺的控件，那就有可能出現(xiàn)，系統(tǒng)控件更新了，而框架本身還沒有更新，由此產(chǎn)生了一些問題。換句話說，這種方案是受到原生控件限制的。

繪圖引擎渲染

接下來就是主角了。

在前端，如果完全不使用原生控件，我們可以通過系統(tǒng)的繪圖 API 繪制出一個用戶界面。從這個角度出發(fā)，可以在各個平臺使用一個統(tǒng)一接口的繪圖引擎來進行界面繪制，這個引擎最終調(diào)用的是系統(tǒng)的 API 繪制的。這樣的話，它的性能可以做到接近原生，并且又不受原生控件的限制，在不同平臺上能夠做到 UI 統(tǒng)一。

Flutter 就是這樣的一個開發(fā)框架。

一個跨平臺 UI 解決方案

Flutter 是由 Google 開發(fā)的，一個跨平臺 UI 解決方案。換句話說，它原則上只管 UI 的問題，如果涉及到平臺本身的一些功能，比如調(diào)用藍牙、攝像頭，一般還是需要原生代碼去操作。但現(xiàn)在也會有一些第三方庫幫我們解決這些問題。

繪圖引擎 Skia

Flutter 使用 Skia 作為它的繪圖引擎。Skia 已經(jīng)被 Google 收購，目前很多 Google 旗下的產(chǎn)品都是用 Skia 繪制的，包括 Android。

Android 內(nèi)置了 Skia，但 iOS 沒有，所以在打 iOS 安裝包的時候，會把 Skia 一起打進去。這就導致了，用同一份 Flutter 代碼打包之后，iOS 的包要比 Android 的包大一些。

開發(fā)語言 Dart

Flutter 使用的開發(fā)語言，叫 Dart。Dart 也是 Google 自家的，它是一門面向?qū)ο蟮恼Z言，從它身上會看到一些其他開發(fā)語言的影子。學習起來難度不大的。

前面講跨平臺方案的時候，可以發(fā)現(xiàn)別的方案基本都是用 JavaScript 作為開發(fā)語言的，但為什么 Flutter 不用？就因為 Dart 是谷歌自家的嗎？這個問題先留著，我們后面會提到。

這里部分就簡單點帶過了，具體的搭建流程可以在官網(wǎng)查看:

主要的搭建步驟如下:

下載 Flutter SDK

官網(wǎng)下載地址：

由于在國內(nèi)訪問可能受限，官方為中國開發(fā)者搭建了鏡像：

更新環(huán)境變量

解壓后，將 flutter\bin 的全路徑添加到環(huán)境變量 PATH 中。

安裝開發(fā)工具

理論上，任何文本編輯器都可以用來開發(fā) Flutter 應用，但推薦的開發(fā)工具是 Android Studio、IntelliJ 以及 VS Code。因為在這些開發(fā)工具上，可以安裝官方的 Flutter 和 Dart 插件，得到更好的開發(fā)體驗。文章里使用 Android Studio 來演示。

如果你打算開發(fā) iOS 應用，則還需要安裝 Xcode。

安裝插件

在開發(fā)工具的插件設置中，安裝上面說到的 Flutter 和 Dart 插件。Flutter 插件用于支持 Flutter 的運行、調(diào)試、熱重載等功能，而 Dart 插件則提供了代碼的輸入校驗、代碼補全等功能。

萬物始于 Hello World，我們先來創(chuàng)建一個顯示 Hello World 的 Flutter 項目。

在 Android Studio 的歡迎頁面選擇 Start a new Flutter project ，或者通過菜單欄的 File New New Flutter Project ，創(chuàng)建一個新的 Flutter 項目。

創(chuàng)建好的項目里面包含了 android 和 ios 兩個文件夾，它們是標準的 Android 和 iOS 項目。我們的 Flutter 代碼，存放在 lib 文件夾里。項目創(chuàng)建好后，會默認帶一個計數(shù)器的示例，我們不管它，把 main.dart 的代碼改成 Hello World:

啟動一個模擬器，或者連上真機，點擊 Run 運行一下，就能看這樣一個界面了：

具體代碼先混個眼熟就好，具體的后面會再講到。

在寫 Flutter 之前，還要先跟大家簡單介紹一下 Dart 的語法。如果你有 Java 或 JavaScript 的開發(fā)經(jīng)驗，以及面向?qū)ο蟮木幊趟枷耄瑢W起來是很快的。

我們可以在 test 文件夾下新建一個 dart 文件，用來寫測試代碼。

指定類型

var

但和 JavaScript 不同的是，以下代碼在 JavaScript 是不會報錯的，但在 Dart 里會報錯：

Object

如果非要上面這樣寫，那也可以。把 var 換成 Object 就不報錯了：

和 Java 類似，Object 是所有對象的根基類。但是這樣的話，如果想打印一下 num 的字符串長度，是會報錯的：

因為 length 是屬于 String 的，但系統(tǒng)只知道 num 是一個對象，并不知道它是一個 String。

dynamic

如果還是非要這樣寫，那也可以。Dart 有一個特有的關鍵字 dynamic，把 Object 改成 dynamic 就不報錯了：

我們運行一下這個文件，可以在控制臺看到正確打印出了字符串長度。

函數(shù)

dynamic

在 Dart 里，函數(shù)也是可以不寫返回類型的，不寫的話會被當做 dynamic 來處理。這樣的話，函數(shù)的類型就是 return 的類型，如果沒有 return 則是 void 類型。比如可以這樣:

運行之后是能正確打印出字符串長度的。

用于傳參

Dart 里的函數(shù)也是一個對象，所以可以把函數(shù)作為參數(shù)來傳遞，比如：

可選參數(shù)

在 Dart 的函數(shù)傳參里，有一個叫可選參數(shù)的概念，我們以文字控件 Text 為例，在源碼里可以看到 Text 的構造函數(shù)是這樣的:

首先，在參數(shù)里有一個 data，它是要顯示的文字內(nèi)容，是一個必填項。而 data 后面的一堆參數(shù)，是用一個大括號括起來的，這些參數(shù)就叫做可選參數(shù)，意思是這些參數(shù)可傳可不傳。

假如我們要顯示一個比較長的文字，又想限制它最多顯示兩行，就可以這樣來創(chuàng)建一個 Text:

可選參數(shù)，在 Flutter 里面用的非常多。

異步

Future

在 Dart 里使用 Future 來處理異步任務，比如我們現(xiàn)在延時一秒打印 666，代碼如下：

Future 的語法和 Promise 非常像。任務執(zhí)行成功會調(diào)用 then，執(zhí)行失敗會調(diào)用 catchError，而無論成功還是失敗，都會調(diào)用 whenComplete。

async/await

如果你不喜歡上面那種寫法，或者是想把異步轉(zhuǎn)成同步，就可以用 async 和 await 這兩個關鍵字來轉(zhuǎn)換。

我們把上面的代碼轉(zhuǎn)換一下，寫一個 getString 方法，返回的類型是 Future，它會延時返回一個字符串。在 main 函數(shù)后面加上 async 關鍵字，在 getString() 前面加上 await，代碼如下:

運行之后可以看到，能正常延時一秒后，把字符串打印出來。這里 getString() 返回的類型是 Future，而 await getString() 則是返回了延時之后返回的字符串。await 要在 async 的函數(shù)里面才能使用。

async 和 await 其實是一個語法糖，它最終也是轉(zhuǎn)換成 Future 調(diào)用鏈的形式執(zhí)行的。

接下來回到 Flutter，F(xiàn)lutter 里最重要的一個概念是 Widget（下面翻譯作控件）。

在原生開發(fā)里面，我們可能會在界面上區(qū)分，這是一個 View，這是一個 Layout，這是一個 View Controller。但在 Flutter 里面，它們?nèi)紝儆谝粋€統(tǒng)一的模型 Widget。可以說，在 Flutter 界面里，所有東西都是 Widget。

以前學面向?qū)ο蟮臅r候，我們都聽過一句話，叫萬物皆對象。我這里套用一下，在 Flutter 里， 萬物皆控件 。

具體有哪些控件，我做了一下簡單的分類。

根控件

所有的控件都屬于 StatefulWidget 或 StatelessWidget 。它們的區(qū)別是，StatefulWidget 擁有狀態(tài) State ，而 StatelessWidget 沒有。

StatefulWidget

當一個控件是可變的時候，就要使用 StatefulWidget 來構建。StatefulWidget 本身不可變，但它持有的狀態(tài) State 是可變的。

StatelessWidget

當一個控件狀態(tài)是固定不可變的時候，就可以使用 StatelessWidget。前面我們寫的 Hello World 就是使用 StatelessWidget。

容器控件

容器類控件一般是將某些屬性或配置，作用在它的子控件上，比如控件所在的寬高、背景、位置等。

常用的容器控件有 Container、Center、Padding 等。

布局控件

布局控件可以類比作原生開發(fā)中的 Layout，通常它會擁有一個 children 的屬性，用于接收一個控件數(shù)組，對這些控件進行特定的排版。

常用的布局控件有 Row、Column、Stack、Flex 等。

基礎控件

基礎控件就是常用的文字、按鈕、圖片等控件。

常用的基礎控件有 Text、TextField、Button、Image 等。

功能控件

在 Flutter 里還有一類控件，它們不影響 UI 布局，但帶有一些特定的功能，比如頁面跳轉(zhuǎn)、事件監(jiān)聽、定義主題等。我們把這一類控件稱作功能控件。

常用的功能控件有 Navigator、NotificationListener、Theme 等。

開始寫 Flutter 代碼了。還記不記得，在 Flutter 項目創(chuàng)建之后，是自帶一個計數(shù)器 demo 的，現(xiàn)在我們用自己的代碼實現(xiàn)一遍。代碼修改成如下：

運行之后，就可以看到這樣的界面了：

按鈕每點擊一次，數(shù)字就會加一。下面我們來分析一下這段代碼，看下里面用到的一些 Widget。

StatefulWidget

由于頁面中的數(shù)字是跟隨狀態(tài)變化的，所以該頁面改用 StatefulWidget。StatefulWidget 并不會直接返回一個 Widget，而是返回狀態(tài) State，在 State 里再返回 Widget。

Scaffold

Scaffold 是一個標準的 Material Design 頁面，它包含了標題欄、浮動按鈕、側滑菜單、底部導航欄等配置。我們這里用到了標題欄 appBar、頁面內(nèi)容 body、浮動按鈕 floatingActionButton。

AppBar

AppBar 就是標題欄，通過查看控件的構造方法，我們可以知道它可配置的屬性。

AppBar 的可選參數(shù)除了標題 title，還可以配置標題前的內(nèi)容 leading，右側的操作按鈕 anctions，控件垂直高度 elevation 等。我們只傳了 title，其他屬性都用默認值。

Center

Center 是一個容器類控件，它的作用就是讓它的子控件居中顯示。

FloatingActionButton

熟悉安卓開發(fā)的應該對這個控件比較熟悉，它就是頁面右下角一個特定樣式的 Button，參數(shù)里面的 onPressed 是一個必填項，要傳一個點擊之后的回調(diào)函數(shù)。

根據(jù)這個例子，下面給大家介紹一下 Flutter 兩個比較重要的特性。

點擊 Button 之后，我們把 num 變量加一，并使用 setState 通知狀態(tài)發(fā)生了改變，F(xiàn)lutter 會根據(jù)新的狀態(tài)更新 UI。如果有接觸過小程序開發(fā)，setState 就和小程序的 setData 類似。

在 Flutter 里面我們不需要用 set 方法來更新 UI，可變控件是和狀態(tài)綁定的，這就是 Flutter 的響應式 UI 編程。

在 Android Q 和 iOS 13 里都加入了暗黑模式，我們也換一個暗黑主題來玩一下。MaterialApp 里有一個 theme 的屬性，我們把它配置一下:

這次改完之后不點 Run 了，我們點一下閃電圖標 Flutter Hot Reload ，就能看到界面發(fā)生了變化:

這就是 Flutter 的 熱重載 ，在修改完代碼之后，通過熱重載就能馬上在設備上看到修改結果，可以很大程度上增加開發(fā)效率。

下面再給大家介紹幾個 Flutter 里的常見操作。

在 Flutter 里，使用 Navigator 來管理頁面跳轉(zhuǎn)，比如要跳轉(zhuǎn)到一個 NewPage 可以這樣寫:

進棧使用 push，出棧則是 pop。

使用 MaterialPageRoute 會模擬出 Android 上頁面跳轉(zhuǎn)的過場效果。

我們來看看怎么顯示一張本地圖片。

先在根目錄新建一個存放圖片的文件夾，比如叫 images，把圖片 picture.png 放進去。

找到根目錄下的 pubspec.yaml 文件，這個便是 Flutter 依賴配置文件，我們需要在這里配置一下剛才的圖片：

這樣，我們就能使用 Image 控件把這張圖片顯示出來了：

和 node 的 npm 以及 Android 的 jcenter 類似，F(xiàn)lutter 也擁有一個公共倉庫 pub.dev。pub.dev 是 Google 官方的 Dart 倉庫，在上面可以找到我們需要的包和插件。

Flutter 本身沒有 Toast，我們來接入一個。在 pub.dev 上搜索后，我決定使用 fluttertoast：

按照說明，在 pubspec.yaml 文件里的 dependencies 下配置：

點一下 Android Studio 右上角的 Packages get 同步之后就可以使用了：

我們上面使用的都是 Material Design 的控件，它們都是在 flutter/material.dart 包里面的。如果要使用 iOS 風格的控件，則要用到 flutter/cupertino.dart 包：

iOS 風格的控件，基本都以 Cupertino 開頭。我們把計時器頁面里的控件替換一下：

效果如下：

代碼的部分就到這里了，接下來跟大家聊一下編譯方式，編程語言的編譯方式有兩種。

關于它們孰優(yōu)孰劣，就要看從哪個角度去對比了。JIT 的話，它的一大特點就是支持動態(tài)發(fā)布代碼，也就是支持熱更新。但要是從性能的角度考慮，AOT 會更好，因為在運行的時候不用再進行編譯的操作的，運行的效率會更高一些。

回到我們一開始的時候留下的問題，為什么別的跨平臺方案都是用 JavaScript，而 Flutter 要用 Dart 來開發(fā)。JavaScript 的編譯方式是 JIT 的，它不支持 AOT。而 Dart 同時支持 JIT 和 AOT。

Flutter 在開發(fā)階段使用 JIT，讓我們用上了熱重載，增加了開發(fā)效率。在打包時改用 AOT，保證了正式版應用的性能。

最后講一下大家比較關心的一個東西，F(xiàn)lutter 是否支持熱更新？前面說到 Dart 支持 JIT，所以從技術層面它是支持的。但是目前是不支持的，在官方的計劃文檔中，可以看到:

至于原因，官方在這里進行了說明?？偟膩碚f，是由于政策的限制，以及出于對性能和安全性的考慮，暫時不支持了。

到這就結束啦。由于想把 Flutter 基礎在一篇內(nèi)講完，沒有涉及太多細節(jié)，如果要寫 Flutter 代碼還需要深入學習。但相信理解之后再學，會輕松很多。

Flutter_圖片分辨率適配及批量拓展使用

flutter開發(fā)中，圖片的引用是必不可少的，所以為了提高效率和精準度，我們需要對不同分辨率的手機使用相對應的切圖圖片，本章介紹如何進行 圖片分辨率適配 和 圖片批量拓展處理 。

flutter中會首先根據(jù)系統(tǒng)的devicePixelRatio（每一個邏輯像素包含多少個原始像素，可以通過MediaQueryData.devicePixelRatio來得到）來找對應倍數(shù)的文件夾下的圖片，如果沒有對應倍數(shù)，找最接近的。

所以在flutter項目中，我們需要構建對應的倍數(shù)像素文件夾

之后再pubspec.yaml中，配置assets文件后就可以使用了（如使用"assets/images/jay.png"，會自動適配該像素下最接近的jay圖片）。

使用flutter-img-sync插件批量化處理，具體操作如下

目前還不能處理gif、webp等格式的圖片，而且如果和上邊介紹的不同像素比適配方案一起使用的話，由于進行了精準定位，所以指定圖片后就不能進行像素適配，這是目前還存在的較大問題，所以目前兩者方案只能暫時取一使用。

Flutter浪潮下的音視頻研發(fā)探索

文/陳爐軍

整理/LiveVideoStack

大家好，我是阿里巴巴閑魚事業(yè)部的陳爐軍，本次分享的主題是Flutter浪潮下的音視頻研發(fā)探索，主要內(nèi)容是針對閑魚APP在當下流行的跨平臺框架Flutter的大規(guī)模實踐，介紹其在音視頻領域碰到的一些困難以及解決方案。

分享內(nèi)容主要分為四個方面，首先會對Flutter有一個簡單介紹以及選擇Flutter作為跨平臺框架的原因，其次會介紹Flutter中與音視頻關系非常大的外接紋理概念，以及對它做出的一些優(yōu)化。之后會對閑魚在音視頻實踐過程中碰到的一些Flutter問題提出了一些解決方案——TPM音視頻框架。最后是閑魚Flutter多媒體開源組件的介紹。

Flutter

Flutter是一個跨平臺框架，以往的做法是將音頻、視頻和網(wǎng)絡這些模塊都下沉到C++層或者ARM層，在其上封裝成一個音視頻的SDK，供UI層的PC、iOS和Android調(diào)用。

而Flutter做為一個UI層的跨平臺框架，顧名思義就是在UI層也實現(xiàn)了一個跨平臺開發(fā)?？梢灶A想的是未Flutter發(fā)展的好的話，會逐漸變?yōu)橐粋€從底層到UI層的一個全鏈路的跨平臺開發(fā)，技術人員分別負責SDK和UI層的開發(fā)。

在Flutter之前已經(jīng)有很多跨平臺UI解決方案，那為什么選擇Flutter呢？

我們主要考慮性能和跨平臺的能力。

以往的跨平臺方案比如Weex，ReactNative，Cordova等等因為架構的原因無法滿足性能要求，尤其是在音視頻這種性能要求幾乎苛刻的場景。

而諸如Xamarin等，雖然性能可以和原生App一致，但是大部分邏輯還是需要分平臺實現(xiàn)。

我們可以看一下，為什么Flutter可以實現(xiàn)高性能：

原生的native組件渲染以IOS為例，蘋果的UIKit通過調(diào)用平臺自己的繪制框架QuaztCore來實現(xiàn)UI的繪制，圖形繪制也是調(diào)用底層的API,比如OpenGL、Metal等。

而Flutter也是和原生API邏輯一致，也是通過調(diào)用底層的繪制框架層SKIA實現(xiàn)UI層。這樣相當于Flutter他自己實現(xiàn)了一套UI框架，提供了一種性能超越原生API的跨平臺可能性。

但是我們說一個框架最終性能怎樣，其實取決于設計者和開發(fā)者。至于現(xiàn)在到底是一個什么狀況：

在閑魚的實踐中，我們發(fā)現(xiàn)在正常的開發(fā)沒有特意的去優(yōu)化UI代碼的情況下，在一些低端機上，F(xiàn)lutter界面的流暢性是比Native界面要好的。

雖然現(xiàn)在閑魚某些場景下會有卡頓閃退等情況，但是這是一個新事物發(fā)展過程中的必然問題，我們相信未來性能肯定不會成為限制Flutter發(fā)展的瓶頸的。

在閑魚實踐Flutter的過程中，混合棧和音視頻是其中比較難解決的兩個問題，混合棧是指一個APP在Flutter過程中不可能一口氣將所有業(yè)務全部重寫為Flutter，所以這是一個逐步迭代的過程，這期間原生native界面與Flutter界面共存的狀態(tài)就稱之為混合棧。閑魚在混合棧上也有一些比較好的輸出，例如FlutterBoost。

外接紋理

在講音視頻之前需要簡要介紹一下外接紋理的概念，我們將它稱之為是Flutter和Frame之間的橋梁。

Flutter渲染一幀屏幕數(shù)據(jù)首先要做的是，GPU發(fā)出的VC信號在Flutter的UI線程，通過AOT編譯的機器碼結合當前Dart Runtime，生成Layer Tree UI樹，Layer Tree上每一個葉子節(jié)點都代表了當前屏幕上所需要渲染的每一個元素，包含了這些元素渲染所需要的內(nèi)容。將Layer Tree拋給GPU線程，在GPU線程內(nèi)調(diào)用Skia去完成整個UI的渲染過程。Layer Tree中有PictureLayer和TextureLayer兩個比較重要的節(jié)點。PictureLayer主要負責屏幕圖片的渲染，F(xiàn)lutter內(nèi)部實現(xiàn)了一套圖片解碼邏輯，在IO線程將圖片讀取或者從網(wǎng)絡上拉取之后，通過解碼能夠在IO線程上加載出紋理，交給GPU線程將圖片渲染到屏幕上。但是由于音視頻場景下系統(tǒng)API太過繁多，業(yè)務場景過于復雜。Flutter沒有一套邏輯去實現(xiàn)跨平臺的音視頻組件，所以說Flutter提出了一種讓第三方開發(fā)者來實現(xiàn)音視頻組件的方式，而這些音視頻組件的視頻渲染出口，就是TextureLayer。

在整個Layer Tree渲染的過程中，TextureLayer的數(shù)據(jù)紋理需要由外部第三方開發(fā)者來指定，可以把視頻數(shù)據(jù)和播放器數(shù)據(jù)送到TextureLayer里，由Flutter將這些數(shù)據(jù)渲染出來。

TextureLayer渲染過程：首先判斷Layer是否已經(jīng)初始化，如果沒有就創(chuàng)建一個Texture，然后將Texture Attach到一個SufaceTexture上。

這個SufaceTexture是音視頻的native代碼可以獲取到的對象，通過這個對象創(chuàng)建的Suface，我們可以將視頻數(shù)據(jù)、攝像頭數(shù)據(jù)解碼放到Suface中，然后Flutter端通過監(jiān)聽SufaceTexture的數(shù)據(jù)更新就可以順利把剛才創(chuàng)建的數(shù)據(jù)更新到它的紋理中，然后再將紋理交給SKIA渲染到屏幕上。

然而我們?nèi)绻枰肍lutter實現(xiàn)美顏，濾鏡，人臉貼圖等等功能，就需要將視頻數(shù)據(jù)讀取出來，更新到紋理中，再將GPU紋理經(jīng)過美顏濾鏡處理后生成一個處理后的紋理。按Flutter提供的現(xiàn)有能力，必須先將紋理中的數(shù)據(jù)從GPU讀出到CPU中，生成Bitmap后再寫入Surface中，這樣在Flutter中才能順利的更新到視頻數(shù)據(jù)，這樣做對系統(tǒng)性能的消耗很大。

通過對Flutter渲染過程分析，我們知道Flutter底層需要渲染的數(shù)據(jù)就是GPU紋理，而我們經(jīng)過美顏濾鏡處理完成以后的結果也是GPU紋理，如果可以將它直接交給Flutter渲染，那就可以避免GPU-CPU-GPU這樣的無用循環(huán)。這樣的方法是可行的，但是需要一個條件，就是OpenGL上下文共享。

OpenGL

在說上下文之前，得提到一個和上線文息息相關的概念：線程。

Flutter引擎啟動后會啟動四個線程：

第一個線程是UI線程，這是Flutter自己定義的UI線程，主要負責GPU發(fā)出的VSync信號時候用當前Dart編譯的機器碼和當前運行環(huán)境創(chuàng)建出Layer Tree。

還有就是IO線程和GPU線程。和大部分OpenGL處理解決方案中一樣，F(xiàn)lutter也采取一個線程責資源加載，一部分負責資源渲染這種思路。

兩個線程之間紋理共享有兩種方式。一種是EGLImage(IOS是 CVOpenGLESTextureCache)。一種是OpenGL Share Context。Flutter通過Share Context來實現(xiàn)紋理共享，將IO線程的Context和GPU線程的Context進行Share，放到同一個Share Group下面，這樣兩個線程下資源是互相可見可以共享的。

Platform線程是主線程，F(xiàn)lutter中有一個很奇怪的設定，GPU線程和主線程共用一個Context。并且在主線程也有很多OpenGL 操作。

這樣的設計會給音視頻開發(fā)帶來很多問題，后面會詳細說。

音視頻端美顏處理完成的OpenGL紋理能夠讓Flutter直接使用的條件就是Flutter的上下文需要和平臺音視頻相關的OpenGL上下文處在一個Share Group下面。

由于Flutter主線程的Context就是GPU的Context，所以在音視頻端主線程中有一些OpenGL操作的話，很有可能使Flutter整個OpenGL被破壞掉。所以需要將所有的OpenGL操作都限制在子線程中。

通過上述這兩個條件的處理，我們就可以在沒有增加GPU消耗的前提下實現(xiàn)美顏和濾鏡等等功能。

TPM

在經(jīng)過demo驗證之后，我們將這個方案應用到閑魚音視頻組件中，但改造過程中發(fā)現(xiàn)了一些問題。

上圖是攝像頭采集數(shù)據(jù)轉(zhuǎn)換為紋理的一段代碼，其中有兩個操作：首先是切進程，將后面的OpenGL操作都切到cameraQueue中。然后是設置一次上下文。然后這種限制條件或者說是潛規(guī)則往往在開發(fā)過程中容易被忽略的。而這個條件一旦忽略后果就是出現(xiàn)一些莫名其妙的詭異問題極難排查。因此我們就希望能抽象出一套框架，由框架本身實現(xiàn)線程的切換、上下文和模塊生命周期等的管理，開發(fā)者接入框架以后只需要安心實現(xiàn)自己的算法，而不需要關心這些潛規(guī)則還有其他一些重復的邏輯操作。

在引入Flutter之前閑魚的音視頻架構與大部分音視頻邏輯一樣采用分層架構：

1：底層是一些獨立模塊

2：SDK層是對底層模塊的封裝

3：最上層是UI層。

引入Flutter之后，通過分析各個模塊的使用場景，我們可以得出一個假設或者說是抽象：音視頻應用在終端上可以歸納為視頻幀解碼之后視頻數(shù)據(jù)幀在各個模塊之間流動的過程，基于這種假設去做Flutter音視頻框架的抽象。

咸魚Flutter多媒體開源組件

整個Flutter音視頻框架抽象分為管線和數(shù)據(jù)的抽象、模塊的抽象、線程統(tǒng)一管理和上下文同一管理四部分。

管線，其實就是視頻幀流動的管道。數(shù)據(jù)，音視頻中涉及到的數(shù)據(jù)包括紋理、Bit Map以及時間戳等。結合現(xiàn)有的應用場景我們定義了管線流通數(shù)據(jù)以Texture為主數(shù)據(jù)，同時可以選擇性的添加Bit Map等作為輔助數(shù)據(jù)。這樣的數(shù)據(jù)定義方式，避免重復的創(chuàng)建和銷毀紋理帶來的性能開銷以及多線程訪問紋理帶來的一些問題。也滿足一些特殊模塊對特殊數(shù)據(jù)的需求。同時也設計了紋理池來管理管線中的紋理數(shù)據(jù)。

模塊：如果把管線和數(shù)據(jù)比喻成血管和血液，那框架音視頻的場景就可以比喻成器官，我們根據(jù)模塊所在管線的位置抽象出采集、處理和輸出三個基類。這三個基類里實現(xiàn)了剛才說的線程切換，上下文切換，格式轉(zhuǎn)換等等共同邏輯，各個功能模塊通過集成自這些基類，可以避免很多重復勞動。

線程：每一個模塊初始化的時候，初始化函數(shù)就會去線程管理的模塊去獲取自己的線程，線程管理模塊可以決定給初始化函數(shù)分配新的線程或者已經(jīng)分配過其他模塊的線程。

這樣有三個好處：

一是可以根據(jù)需要去決定一個線程可以掛載多少模塊，做到線程間的負載均衡。第二，多線程并發(fā)式能夠保證模塊內(nèi)的OpenGL操作是在當前線程內(nèi)而不會跑到主線程去，徹底避免Flutter的OpenGL 環(huán)境被破壞。第三，多線程并行可以充分利用CPU多核架構，提升處理速度。

從Flutter端修改Flutter引擎將Context取出后，根據(jù)Context創(chuàng)建上下文的統(tǒng)一管理模塊，每一個模塊在初始化的時候會獲取它的線程，獲取之后會調(diào)用上下文管理模塊獲取自己的上下文。這樣可以保證每一個模塊的上下文都是與Flutter的上下文進行Share的，每個模塊之間資源都是共享可見的，F(xiàn)lutter和音視頻native之間也是互相共享可見的。

基于上述框架如果要實現(xiàn)一個簡單的場景，比如畫面實時預覽和濾鏡處理功能，

1：需要選擇功能模塊，功能模塊包括攝像頭模塊、濾鏡處理模塊和Flutter畫面渲染模塊，

2：需要配置模塊參數(shù)，比如采集分辨率、濾鏡參數(shù)和前后攝像頭設置等，

3：在創(chuàng)建視頻管線后使用已配置的參數(shù)創(chuàng)建模塊

4：最后管線搭載模塊，開啟管線就可以實現(xiàn)這樣簡單的功能。

上圖為整個功能實現(xiàn)的代碼和結構圖。

結合上述音視頻框架，閑魚實現(xiàn)了Flutter多媒體開源組件。

組要包含四個基本組件分別是：

1：視頻圖像拍攝組件

2：播放器組件

3：視頻圖像編輯組件

4：相冊選擇組件

現(xiàn)在這些組件正在走內(nèi)部開源流程。預計9月份，相冊和播放器會實現(xiàn)開源。

后續(xù)展望和規(guī)劃

1：實現(xiàn)開頭所說的從底層SDK到UI的全鏈路的跨端開發(fā)。目前底層框架層和模塊層都是各個平臺各自實現(xiàn)，反而是Flutter的UI端進行了跨平臺的統(tǒng)一，所以后續(xù)會將底層也按照音視頻常用做法把邏輯下沉到C++層，盡可能的實現(xiàn)全鏈路跨平臺。

2：第二部分內(nèi)容為開源共建，閑魚開源的內(nèi)容不僅包括拍攝、編輯組件，還包括了很多底層模塊，希望有開發(fā)者在基于Flutter開發(fā)音視頻應用時可以充分利用閑魚開源出的音視頻模塊能力，搭建APP框架，開發(fā)者只要去負責實現(xiàn)特殊需求模塊就可以，盡可能的減少重復勞動。

網(wǎng)頁題目：flutter介紹,flutter flutter
鏈接地址：http://muchs.cn/article24/phgece.html

成都網(wǎng)站建設公司_創(chuàng)新互聯(lián)，為您提供小程序開發(fā)、網(wǎng)站制作、品牌網(wǎng)站建設、網(wǎng)站導航、全網(wǎng)營銷推廣、網(wǎng)站收錄

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場，如需處理請聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時需注明來源： 創(chuàng)新互聯(lián)