Silicon Labs 和 Eta Compute 簡化邊緣 ML 開發

2024 年 11 月 11 日 | Mark Milligan | 閱讀本文需要 3 分鐘

人工智能 (AI) 是當今熱門的流行語。如果不至少提到一次 AI，任何與技術相關的對話都是不完整的。這就是它對我們生活各個方面的影響。再加上另一個相關的詞“機器學習”(ML)，它正在徹底改變一切，小到總結日常會議，大到揭秘復雜的蛋白質結構。這些功能需要付出相當大的代價，包括其消耗的巨大電力、為進行訓練而對數據的依賴，以及隨著網絡犯罪分子變得更加老練而產生的內在安全風險。這就是微型邊緣上的 AI/ML 發揮作用的地方。

微型邊緣是在最接近數據源的小型資源受限設備上對計算和數據處理功能的部署。這些設備，通常是處理能力和內存有限的傳感器或微控制器，在本地執行操作，而不是依賴云計算。微型邊緣支持在這些小型設備上運行 ML 模型，能夠直接進行實時決策和數據分析，從而降低與數據傳輸和云存儲相關的成本。這種方法對于需要低延遲、低能耗、增強隱私保護和低帶寬利用率的應用特別有用。

Eta Compute 支持微型邊緣上的 ML

Eta Compute 是一家硅谷初創公司，其使命是采用解決方案克服 AI 快速發展的格局與嵌入式系統的獨特挑戰之間的差距，從而實現微型邊緣上的機器學習和創新。在 ML、物聯網和系統設計專家團隊的推動下，Eta Compute 了解在資源受限的邊緣設備上部署 ML 模型的挑戰。

Eta Compute 的 Aptos 是一款革命性的無代碼軟件工具鏈，專為嵌入式推理而設計。Aptos 旨在簡化邊緣 ML 模型開發，可加快創建為低功耗邊緣處理器量身定制的高效模型。

Aptos 對 ML 工具采取了一種獨特的新方法——它本身就基于 ML 技術。這些內部 ML 模型使 Aptos 能夠自動學習嵌入式處理器的 ML 功能和性能特征。通過利用這些見解并提取硬件細節，Aptos 使產品開發人員能夠將其領域和用例專業知識專注于創建出色的邊緣 ML 產品，而不會糾結于數據科學、芯片優勢/劣勢、神經網絡編譯器和資源限制的細節。

Silicon Labs 和 Eta Compute 合作關系助力開發高級邊緣 ML 嵌入式產品

Silicon Labs 很高興地宣布與 Eta Compute 建立合作伙伴關系，這將支持產品開發人員將高級 ML 功能無縫集成到其邊緣 ML 嵌入式產品中。

Silicon Labs 長期以來一直以物聯網、汽車、醫療保健、工業和消費品的低功耗解決方案創新而聞名。我們的解決方案將高效的微控制器和無線連接與嵌入式推理的新功能相結合。如果開發人員希望為產品添加 ML 功能，這種技術領先地位將使我們成為其首選合作伙伴。然而，產品開發人員將最佳 ML 技術引入其邊緣 ML 嵌入式產品的過程面臨著困難。一個挑戰是資源——很難找到并留住既具有 ML 專業知識又了解低功耗硅嚴格要求的“獨角獸”工程師（與 ML 專家通常使用的云環境相比）。因此，針對受限嵌入式系統建立和優化 ML 模型就成為一個巨大的挑戰。

另一個挑戰是成功采用具有嵌入式 ML 功能的快速發展的新型硅。如果使用傳統方法，描述新推理芯片的特性將需要熟練的 ML/嵌入式專業人員投入大量的精力來詳細探索和理解每個新芯片的神經網絡能力，以便正確地利用其優勢并繞過不可避免的嵌入式限制，例如內存量或缺少對特定 ML 操作的支持。

傳統 ML 流程的這些挑戰將導致一個漫長的產品開發周期，充滿了迭代過程。許多產品仍然停留在概念驗證實驗中，無法實現批量生產。

與 Eta Compute 的合作使得 Aptos 可以在 Silicon Labs 解決方案（包括 EFR32xG24 和 EFR32xG26）上接受訓練。Aptos 對這些芯片的支持使其共同客戶能夠使用該平臺輕松創建高度優化的模型，這些模型在 Silicon Labs 解決方案上運行，用于圖像識別、分類、計數和人體姿態檢測等邊緣 ML 視覺任務。

Aptos 自動生成針對所選芯片的最佳 ML 模型并描述其特性。Aptos 支持的初始 Silicon Labs 芯片是 EFR32xG24 和 EFR32xG26。一旦通過指定目標和限制（例如模型準確性、延遲和功耗要求）并使用訓練和驗證數據集來定義 Aptos 要解決的 ML 問題，Aptos 就會應用其對各個 Silicon Labs SoC 和編譯器的知識來自動生成模型。Aptos 還根據實際硬件開發套件自動對這些模型描述特性，因此可以保證 Aptos 報告的指標確實能夠在您自己的 Silicon Labs 硬件上實現。