在現今互聯互通的世界中，數據正在以前所未有的速度發展，而傳統雲端運算在滿足即時應用需求方面也面臨挑戰。邊緣運算作為一種處理數據的新方式，有望大幅改善我們使用和處理資訊的方式。
Edge AI，即邊緣人工智慧，是一種使用和配置人工智慧技術的新方式。透過將運算和數據儲存移到更靠近數據產生的地方（例如物聯網設備、感測器和其他連接設備），邊緣人工智慧將改變許多產業。
在探索邊緣運算中「邊緣」的意義之前，讓我們先了解人工智慧和深度學習的基礎知識，並在本文中了解有關 Edge ML 的所有資訊，並了解行業領導者如何利用它來改變我們的生活和工作方式。
什麼是人工智慧？
人工智慧（AI）是指機器模擬人類智慧過程，並對其進行編程以模仿人類的學習、分析和預測等能力。
AI 管道/工作流包含三個階段，可確保 AI 有效運作。
1. 數據管理： 此階段是數據科學家處理大量數據，並發現其中的模式和見解的階段。數據整理是將原始數據轉換為易於使用的格式的過程，目的是使其對分析更有價值。它有時被稱為數據清理、修復或混合。
2. 模型訓練： 下一階段是訓練數據集，用於訓練模型執行特定任務。因此，當訓練完成時，人工智慧實際上就被創建了。此階段需要大量數據，並花費大量時間才能完成，因為必須擁有豐富的訓練經驗才能使模型有效率且有效。
3. 推理： 最後階段是配置人工智慧來解決其設計的問題。它可以配置到伺服器、電腦、雲端或邊緣設備。它處理從第二階段收集的數據，以了解新的數據輸入並根據設定的參數輸出結果。
機器學習
人工智慧的一個子集是機器學習 (ML)，它訓練機器解決特定的人工智慧問題。它是關於演算法的研究，使電腦能夠透過經驗自動改進。它使用大型數據集、經過充分研究的統計方法和演算法來訓練模型，以預測任何新資訊或傳入資訊的結果。
深度學習
深度學習是機器學習的另一個子集，它使用人工神經網路來解決人工智慧問題。它由許多從上到下一起改變的連續數據轉換所組成，並且它採用具有許多隱藏層、大數據和高電腦資源的ANN。與機器學習類似，它需要大量數據集才能有效。有了更多的數據，我們能夠訓練深度學習模型，使其更加強大，並且減少對假設的依賴。深度學習通常用於處理更複雜的輸入或非表格數據（例如圖像、文字、視訊和語音）。
什麼是邊緣人工智慧？
簡單來說，邊緣人工智慧是指在邊緣設備上以機器學習 (ML) 演算法部署和推理的形式使用人工智慧。
機器學習是一個快速發展的領域，它使電腦能夠透過從數據中學習，來自主性提高其任務性能，通常超越人類的能力。
邊緣人工智慧是邊緣運算和人工智慧的結合，可直接在連接的邊緣設備上執行機器學習任務。邊緣人工智慧可以執行各種任務，例如物件偵測、語音辨識、指紋偵測、詐欺偵測、自動駕駛等。
什麼是邊緣運算？
邊緣運算是指在邊緣設備中本機產生數據、處理和儲存數據時所發生的處理。邊緣設備無需將數據傳回雲端，而是可以在本地收集和處理數據，例如使用者的電腦、物聯網設備或邊緣伺服器。
邊緣運算旨在透過更靠近來源或端點設備處理數據來減少延遲、優化頻寬使用、提高可擴展性，並增強隱私和安全性。它對於需要即時數據分析和快速響應時間的應用特別有利，例如物聯網設備、自動駕駛汽車和工業自動化。
邊緣運算與雲端運算：
原質上，邊緣運算和雲端運算都是為了負責相同的工作——處理數據、運行演算法等。但是，邊緣運算和雲端運算的根本區別在於運算的實際地點。
邊緣運算是一種分散式運算架構，使運算和數據儲存更靠近數據來源。數據處理發生在網路邊緣，毗鄰產生數據的設備，而不是偏遠位置，例如數據中心等。
雲端運算是一種透過網際網路提供資訊科技服務的模式。用戶現在可以存取和使用可重構運算資源的共享池，包括伺服器、儲存、數據庫、作業系統和應用程式，而不必擔心維護底層基礎設施。
邊緣運算和雲端運算的區別
| 參數 | 邊緣運算 | 雲端運算 |
| 定義 | 邊緣運算是一種分散式運算架構，使運算和數據儲存更靠近數據來源 | 雲端運算是一種透過網際網路提供資訊科技服務的模式 |
| 處理地點 | 處理是在網路邊緣、靠近生成數據的設備 | 數據分析和處理在中心位置（例如數據中心） |
| 頻寬要求 | 由於數據在來源附近處理，因此只需要低頻寬 | 與邊緣運算相比，需要更高的頻寬，因為數據必須透過網路傳輸到中心位置進行處理 |
| 費用 | 邊緣運算更昂貴，因為邊緣可能需要專門的硬體和軟體 | 雲端運算成本較低，因為使用者只需為實際使用的資源付費 |
| 可擴展性 | 邊緣運算的可擴展性可能更具挑戰性，因為可能需要在邊緣添加額外的運算資源 | 更容易，因為使用者可以根據需要快速輕鬆地擴大或縮小運算資源 |
| 用例 | 需要低延遲和即時決策的應用，例如物聯網設備、自動駕駛和 AR/VR 系統 | 對延遲沒有嚴格要求的應用，例如 Web 應用程式、電子郵件和文件儲存 |
| 數據安全 | 由於數據在來源附近處理且不透過網路傳輸，因此可以提高數據安全性 | 數據安全更具挑戰性，因為數據透過網路傳輸到中心位置進行處理 |
邊緣人工智慧：將雲端引入邊緣以發展物聯網
借助邊緣人工智慧，物聯網設備變得更智慧、更強大。他們現在可以做出決策、預測結果、處理複雜數據，並管理解決方案。例如，邊緣物聯網設備可以預測機械故障，從而實現預測性維護和成本節約。
具有邊緣人工智慧的安全攝影機可以辨識人類、運算人流量，甚至人臉識辨。隨著機器學習的進步，這些功能正越來越多地從雲端轉移到邊緣，開啟了許多令人興奮的可能性。
邊緣人工智慧的優點：
1. 降低延遲： 透過在邊緣設備上處理本地數據，Edge AI 可最大限度地減少延遲，使其成為自動駕駛、機器人和智慧製造等實時應用的理想選擇。
2. 增強隱私和安全性： 在邊緣處理的數據保持在本地，從而降低數據外洩的風險，並確保敏感資訊的安全。
3. 即時決策： 邊緣人工智慧使設備能夠根據最新數據做出即時決策，這對於預測性維護、醫療保健監控和安全監控等應用至關重要。
4.可擴展性： 在邊緣部署人工智慧解決方案可實現跨眾多裝置和位置的可擴展操作，而無需廣泛的雲端基礎架構。
5. 降低頻寬使用率： 邊緣 AI 減少了透過網路發送大量數據的需要，從而節省了頻寬並降低了成本。
6.個人化的使用者體驗： 透過本地處理數據，邊緣設備可以提供更個人化和情境感知的體驗，即時適應個人偏好。
為什麼邊緣 AI 很重要？
雖然邊緣人工智慧的實際好處顯而易見，但其內在影響可能更難以捉摸。
-
邊緣人工智慧改變我們的生活方式
邊緣人工智慧正在使人工智慧成為我們日常生活的一部分。儘管人工智慧和機器學習已被研究多年，但我們現在才在真實的產品中看到它們。例如，自動駕駛是邊緣人工智慧進步的產物。邊緣人工智慧正在緩慢但堅定地改變我們與環境互動的方式。 -
邊緣人工智慧使人工智慧民主化
人工智慧不再是研究機構和富裕企業的專屬。 Edge AI 旨在在價格實惠的設備上運行，使個人能夠學習和開發 AI。這也使得教育工作者能夠將人工智慧和機器學習實際帶入課堂，讓學生親身體驗邊緣設備。 -
邊緣人工智慧挑戰我們的思維方式
人工智慧和機器學習的潛力僅受限於人類的創造力。隨著機器學習的進步，更多的任務將自動化，這將挑戰我們對生產力和目的的觀念。儘管未來充滿不確定性，但我樂觀地認為邊緣人工智慧將帶來更多創意和成就感的工作。
邊緣 AI 與邊緣 GPU：NVIDIA Jetson 嵌入式系統
使用 Jetson Nano/NX 建構的 reComputer：邊緣的真實世界 AI
NVIDIA® Jetson™ 以節能且小巧的外型為邊緣帶來加速的 AI 效能。 Jetson 系列模組皆使用相同的 NVIDIA CUDA-X™ 軟體，並支援容器化和編排等雲端原生技術，用於在邊緣建置、部署和管理 AI。
產品特點：
- Edge AI 盒子適合任何地方
- 嵌入式 Jetson Nano/NX 模組
- 預先安裝 Jetpack，方便配置
- 外形尺寸與 Jetson 開發套件幾乎相同，具有豐富的 I/O
- 可堆疊和可擴展
邊緣AI與TPU：Google Coral系列
Google 的 Coral 系列配備了張量處理單元 (Tensor Processing Units - TPU)，這是專為使用 TensorFlow Lite 進行神經網路機器學習而設計的專用 ASIC。 Coral Dev 板是一個配備 TPU 的一體化平台，可讓您輕鬆製作 TFLite 應用程式原型，甚至可以透過其靈活的 SoM 設計擴展到生產！
產品特點：
- NXP i.MX 8M SoC（四核心 Cortex-A53、Cortex-M4F）CPU
- 整合 GC7000 Lite 顯示卡
- Google Edge TPU 協處理器
- 1 GB LPDDR4，8GB eMMC
- 介面套件：HDMI、MicroSD、WiFi、千兆乙太網路等等！
或者，您可能對 Coral USB Accelerator 感興趣，它允許您透過 USB 將 Google 的 Edge TPU 與現有的開發板一起使用！對於需要更多功率的嵌入式應用，具有 Dual Edge TPU 的 Coral M.2 加速器可透過快速的 M.2 介面與任何系統一起使用，並配備兩個 Edge TPU 以實現一些重要的機器學習功能！
用於邊緣 AI 的 SBC
邊緣人工智慧正在快速發展，沒有人願意錯過。幸運的是，由於各種邊緣設備的出現，開始使用 Edge AI 比以往任何時候都更容易。在本節中，我想為那些想要嘗試 Edge AI 的人分享一些 SBC 建議！
Intel Celeron 的 ODYSSEY X86 系列
當談到通用運算時，你很難找到比 ODYSSEY x86 系列更好的產品。這款 SBC 運行在強大的 x86 CPU 架構上，足以滿足任何邊緣運算需求，甚至可以作為迷你電腦來取代您的桌上型電腦。
適合初學者：Raspberry Pi 4B
如果您是初學者，或者正在為您的孩子尋找適合初學者的選擇，那麼選擇 Raspberry Pi 4B 絕對不會有錯。雖然受歡迎的 Raspberry Pi 並不像我迄今為止分享的其他推薦那樣強大，但對於任何想要學習邊緣 AI 或通用運算的人來說，它仍然是一款非常強大的 SBC。
微控制器上可以實現邊緣人工智慧嗎？
現代處理器每秒可進行數兆次運算 (TOPS)，但對於機器學習來說並不重要。一些微控制器（其中一些帶有嵌入式 ML 加速器）現在可以在邊緣設備上支援 ML。本文探討了 Edge AI 如何將 AI 整合到體積更小、功能更弱的電腦中，包括具有最少 RAM 的微控制器。
- TinyML 是一個新概念，它透過在資源高度受限的環境中啟用 ML 來應對這些挑戰。
- TinyML 的目標是允許在小型、資源受限的低功耗設備（尤其是微控制器）上執行推理和最終的訓練，而不是在更大的平台或雲端執行。
- 這需要縮小神經網路模型的尺寸，以適應這些設備相對適中的處理、儲存和頻寬資源，同時又不會顯著降低功能和準確性。
邊緣人工智慧的最佳微控制器
GROVE VISION AI 模組 V2 - M55
Grove - Vision AI V2 是一款基於 MCU 的高效能智慧視覺模組，由 Himax WiseEye2 HX6538 處理器驅動，具有雙核心 Arm Cortex-M55 和整合 Arm Ethos-U55 神經網路組件。它整合了 Arm Helium 技術，該技術針對向量數據處理進行了精細優化，在不影響功耗的情況下顯著提升了 DSP 和 ML 功能，非常適合電池供電的應用。
Seeed Studio XIAO ESP32S3 Sense 和 Seeed Studio XIAO nRF52840 Sense：
Seeed Studio XIAO系列是小型開發板，具有類似的硬體結構，尺寸實際上只有拇指大小。這裡的代號「XIAO」代表了它的一半功能是「Tiny」，另一半將是「Puissant」。
Seeed Studio XIAO ESP32S3 Sense 整合了 OV2640 攝影機感測器、數位麥克風和 SD 卡支援。此開發板結合了嵌入式 ML 運算能力和攝影功能，可以成為您開始使用智慧語音和視覺 AI 的絕佳工具。
Seeed Studio XIAO nRF52840 Sense 搭載藍牙 5.0 無線功能，能夠低功耗運作。憑藉板載 IMU 和 PDM，它可以成為嵌入式機器學習專案的最佳工具。
Wio Terminal 是一個基於 ATSAMD51 的完整 Arduino 開發平台，具有由 Realtek RTL8720DN 提供支援的無線連接。作為一款一體式微控制器，它配備 2.4 吋 LCD 顯示器、IMU、麥克風、蜂鳴器、microSD 卡槽、光感應器和紅外線發射器。 Wio 終端已獲得 Edge Impulse 官方支持，這意味著您可以輕鬆地使用它來收集數據、訓練機器學習模型，並最終部署優化的 ML 應用程式！
結論：
在現今數據驅動的世界中，傳統雲端運算難以滿足即時需求。邊緣運算和邊緣人工智慧正在透過將人工智慧配置到更需要的地方來改變數據處理方式，從而徹底改變產業。這種轉變提高了效率，減少了延遲，並使物聯網設備能夠做出自主決策。隨著邊緣人工智慧的發展，它預示著未來邊緣智慧解決方案將推動創新、安全性和可擴展性，將人工智慧更深入地融入日常生活。擁抱邊緣人工智慧和運算的發展，為我們互聯的世界提供智慧解決方案。
適用的零件編號
| 製造商零件編號 | Digikey 零件編號 |
| 110061362 | 1597-110061362-ND |
| 110061361 | 1597-110061361-ND |
| 102110297 | 1597-102110297-ND |
| 113990660 | 1597-113990660-ND |
| 102110260 | 1597-102110260-ND |
| 114991790 | 1597-114991790-ND |
| 102110449 | 1597-102110449-ND |
| 102110539 | 1597-102110539-ND |
| 102110767 | 1597-102110767-ND |
| 102110301 | 1597-102110767-ND |
| 113991115 | 1597-113991115-ND |
| 102010469 | 1597-102010469-ND |
| 102991299 | 1597-102991299-ND |