在各行各業，AI手藝正在深切應用到各個場景。好比在電力行業，有AI協助“值守”，電力用戶能夠削減運維人力成本的投入，保障電力根底設備的一般運轉。還能通過AI手藝闡發電力場站的視頻監控，能夠停止實時運檢，進步電力場站的運檢效率。

堅信服智能邊沿計算平臺在軟硬件適配、模子擺設、復雜模子運行等方面簡化邊沿AI應用開發的難度，幫忙開發者愈加高效實現邊沿AI應用落地。今天來為各人揭曉堅信服智能邊沿計算平臺若何處理邊沿AI工程化落地的三大難題。

一、軟、硬件異構，兼容適配「難」

因為底層AI芯片和框架的計劃良多，AI應用的開發者在做軟硬協同及適配開發時難度十分高。基于堅信服智能邊沿計算平臺的云邊智能協同底座，實現了適配兼容，在模子遷徙適配、AI應用構建擺設以及推理性能優化等多個維度，幫忙企業開發者實現云邊智能高效協同。

堅信服智能邊沿計算平臺內置的邊沿推理引擎Sangfor Runtime，適配支流的深度進修框架、神經收集模子（包羅目的檢測、目的逃蹤、圖像分類等），通過一套尺度接口，幫忙開發者快速實現算法面向邊沿AI芯片的主動適配以及性能調優，為用戶供給一站式邊沿AI推理辦事，進一步降低算法在差別邊沿AI芯片間的遷徙成本。

二、場景多樣復雜，模子擺設「難」

在施行交付現場，差別攝像頭接入的視頻流存在多類型場景的智能化闡發需求，傳統點對點的設置裝備擺設效率低下，加大了交付成本。

在AI應用構建階段，堅信服智能邊沿計算平臺通過可視化界面設置裝備擺設，開發者只需要上傳AI模子文件，平臺將實現主動AI鏡像打包過程，幫忙開發者主動構建可用于邊沿節點上運行的AI應用鏡像，大幅節省應用開發時間。基于堅信服邊沿AI手藝，用戶在研發邊沿AI應用時，能夠降低成本、進步模子性能。

此外，堅信服智能邊沿計算平臺面向交付人員，供給多模子AI應用快速擺設與模子智能調度的才能。交付人員基于客戶的營業場景需求，按照同時運行算法的數量及算法依賴關系，通過可視化界面設置裝備擺設單模子調度、多模子并行調度、多模子串行調度及混合調度，最末滿足差別場景下AI多模子應用的分發與擺設運行，進步實時擺設的便利性。

三、大而全的復雜模子運行「難」

相較于中心云辦事器，邊沿節點的資本設置裝備擺設有限，難以運行大而全的復雜模子。若是將云端訓練好的AI算法模子遷徙至資本、算力相對有限的邊沿節點，算法開發人員需要做大量模子量化、優化以及算子層面的調整工做，過程冗雜，優化效果高度依賴開發者經歷。

堅信服智能邊沿計算平臺撐持開發者按照營業需求，在云上擺設大模子，邊沿擺設小模子。邊沿側針對樣本數據停止難易判別，簡單樣本在邊沿側由小模子完成推理，難例樣本回傳至云端由大模子完成推理，并主動實現云邊推理成果匯總。如許，用戶在邊沿側推理可獲得更短的時延以及更高吞吐量，并兼顧了云側推理的精度。

以上就是本期關于堅信服智能邊沿計算平臺的分享，存眷“堅信服科技”存眷能夠獲取更多手藝內容。