嵌入式領域正在經(jīng)歷一場強大的變革。互聯(lián)設備正在發(fā)展成為能夠根據(jù)其收集的數(shù)據(jù)自行做出決策的系統(tǒng)。通過在更接近捕獲數(shù)據(jù)的位置處理數(shù)據(jù),而不是在物聯(lián)網(wǎng)網(wǎng)關或云中處理數(shù)據(jù),它有望加快決策速度,減少延遲,解決數(shù)據(jù)隱私問題,降低成本并提高能效。
工業(yè)自動化、機器人、智能城市和家庭自動化只是推動提高邊緣計算性能和能力需求的幾個應用領域。這些類型的系統(tǒng)中的傳感器過去非常簡單且互不相連,但人工智能和機器學習(ML)現(xiàn)在能夠提高本地智能水平,允許原生設備上的決策,這是過去簡單控制算法所無法實現(xiàn)的。
人工智能時代通用處理器的發(fā)展
幾年前,開發(fā)人員將邏輯和控制算法作為其軟件開發(fā)的核心,然而數(shù)字信號處理(DSP)算法隨后出現(xiàn),實現(xiàn)了許多增強的語音、視覺和音頻應用。
應用程序開發(fā)的這種轉(zhuǎn)變已經(jīng)進入了一個新時代,并且正在影響計算架構的設計。我們現(xiàn)在已經(jīng)到了一個階段,推理是算法開發(fā)的主要焦點。這為計算性能、能效、延遲和實時處理以及可擴展性等帶來了新的或增強的要求。
我們不僅看到了對新處理器加速器的需求,還看到了對通用處理能力的改進,以便為開發(fā)人員提供必要的平衡,并支持實時視頻中的功能檢測或人物檢測等應用。
幾年前開發(fā)噪聲消除應用的開發(fā)人員可能會依賴基于頻率的濾波器。但是今天,開發(fā)人員可以通過將過濾與ML/AI模型和推理相結(jié)合來提高應用程序性能和功能。這推動了對處理器和工具的需求,使這些任務更加高效,并盡可能無縫地提供給用戶。
激發(fā)邊緣和終端設備的智能
這種演變是由ML推動的,但它也面臨著技術挑戰(zhàn)。多年來,為物聯(lián)網(wǎng)和嵌入式設備創(chuàng)建“一刀切”方法的開始和停止以及嘗試,促使行業(yè)改變其物聯(lián)網(wǎng)開發(fā)方法,以釋放巨大的擴展機會。
開發(fā)人員現(xiàn)在正在利用安全、性能增強的技術來實現(xiàn)小型、低功耗的嵌入式系統(tǒng),用于以前無法想象的語音、視覺和振動應用,這些應用正在改變世界。各種版本的語言和轉(zhuǎn)換器模型將很快在具有新計算能力的物聯(lián)網(wǎng)邊緣設備中找到自己的位置。這將開啟開發(fā)者曾經(jīng)夢想不到的新的可能性。
實現(xiàn)智能邊緣功能
隨著硬件的發(fā)展,開發(fā)人員面臨著越來越復雜的軟件,這就需要新的開發(fā)流程來創(chuàng)建優(yōu)化的ML模型和高效的設備驅(qū)動程序。至關重要的是,提供給生態(tài)系統(tǒng)的軟件開發(fā)平臺和工具要與硬件一起發(fā)展。
有各種各樣的Arm和第三方工具可用于支持最終用戶創(chuàng)建人工智能算法。一旦數(shù)據(jù)科學家離線創(chuàng)建了模型,就可以使用工具來優(yōu)化模型,以便在基于Ethos-U的npu上使用,或者在基于Cortex-M的處理器上使用氦指令。
Qeexo是第一家為邊緣設備自動化端到端機器學習的公司,其AutoML平臺提供了一個直觀的UI,允許用戶收集、清理和可視化傳感器數(shù)據(jù),并使用不同的算法自動構建機器學習模型。Keil微控制器開發(fā)套件(Keil MDK)等傳統(tǒng)嵌入式工具是MLOps工具的補充,有助于建立驗證復雜軟件工作負載的DevOps流程。因此,嵌入式、物聯(lián)網(wǎng)和人工智能應用融合在一個開發(fā)流程中,這是許多軟件開發(fā)人員都知道的。
邊緣的潛力正在被釋放。對微控制器更高性能的需求不斷增長,特別是語音激活門鎖、人員檢測和識別、帶預測性維護的互聯(lián)電機控制以及無數(shù)其他高端AI和ML應用等任務。
借助正確的技術,嵌入式開發(fā)人員可以重新設計邊緣和終端設備,在成本、性能、能效和隱私之間取得適當?shù)钠胶猓@些都是這些受限系統(tǒng)的關鍵因素。