AI sa masani ona ola i luga o sapalai tetele ma ao GPU. O lea ua fa'aiti'i'i ma fa'ase'e i tafatafa o masini. AI mo faiga fa'apipi'i e le'o se folafolaga mamao-ua mae'a ona hamu i totonu o pusaaisa, drones, mea fa'aofuofu... e o'o lava i masini e le foliga "atamai" uma.
O le mea lea e taua ai lenei suiga, o le a le mea e faigata ai, ma o fea filifiliga e aoga lou taimi.
Tala atonu e te mana'o e faitau pe a mae'a lenei:
🔗 Meafaigaluega sili tau pulega AI e fa'amautinoaina le fa'amalieina ma le manino AI faiga
Ta'iala ile mea faigaluega e fesoasoani ile fa'atumauina fa'amanino, fa'amalie, ma manino AI.
🔗 Teuga mea mo AI: filifiliga, filifiliga, filifiliga
Fa'atusatusaga o mea e teu ai mea e fa'atatau mo galuega a AI.
🔗 Manaoga mo le teuina o faʻamaumauga mo AI: mea e tatau ona e iloa
O mea taua e mafaufau i ai pe a fuafuaina le teuina o faʻamatalaga AI.
AI mo Faiga Fa'apipi'i🌱
O masini fa'apipi'i e la'ititi, e masani ona fa'aola le maa, ma fa'atapula'aina puna'oa. Ae ua tatalaina e AI manumalo tetele:
-
Fa'ai'uga taimi moni e aunoa ma le ao toe fo'i-malaga.
-
Fa'alilolilo e ala ile mamanu - e mafai ona tumau fa'amatalaga mata'utia ile masini.
-
Fa'aitiitia le fa'agaoioiga pe a taua le milliseconds.
-
Fa'ailoga e iloa ai le malosi e ala i fa'ata'ita'iga fa'aeteete + filifiliga meafaigaluega.
E le o ni fa'amanuiaga fa'ato'a lima: o le tuleia o le fa'atatau i le pito e fa'aitiitia ai le fa'alagolago i feso'otaiga ma fa'amalosia ai le le faalauaiteleina mo le tele o mataupu fa'aoga [1].
O le togafiti e le o se malosi fa'amalosi-ae o le poto ma le utiuti punaoa. Mafaufau e tamoe i se malafoni ma se ato faafafa… ma enisinia e aveese piliki.
Fuafuaga Fa'atusatusa vave o AI mo Faiga Fa'apipi'i 📝
| Meafaigaluega / Auivi | Fa'alogo lelei | Tau (pe tusa) | Aisea e aoga ai (faamatalaga uiga ese) |
|---|---|---|---|
| TensorFlow Lite | Atina'e, tagata fiafia | Sa'oloto | Pa'u, feavea'i, tele MCU → telefoni feavea'i |
| Fa'aoso Fa'apito | Amata & amataga | Tulaga freemium | Toso-ma-pa'u i lalo galuega - pei o le “AI LEGO” |
| Nvidia Jetson Platform | Inisinia e manaʻomia le malosi | $$$ (e le taugofie) | GPU + fa'avavevave mo va'aiga mamafa/galuega |
| TinyML (e ala i Arduino) | Faiaoga, fa'ata'ita'iga | Tau maualalo | Fa'alatalata iai; fa'a-nuu ❤️ |
| Qualcomm AI Inisinia | OEM, tagata fai feavea'i | Eseese | NPU-fa'atele i luga o Snapdragon - fa'avave vave |
| ExecuTorch (PyTorch) | Mobile & pito devs | Sa'oloto | I luga ole masini ole taimi ole PyTorch mo telefoni/mea e mafai ona ofuina/fa'aofi [5] |
(Ioe, le tutusa. E faapena foi le mea moni.)
Aisea e taua ai AI i luga o masini fa'apipi'i mo alamanuia 🏭
E le na'o le fa'atauva'a: i luga o laina falegaosimea, fa'ata'ita'iga fa'akomepiuta e maua ai fa'aletonu; i fa'ato'aga, o nodes maualalo e su'esu'e le palapala i totonu o le fanua; i totonu o taavale, e le mafai ona "telefoni i le fale" vaega saogalemu a'o le'i taofi. Afai e le mafai ona fa'atalanoaina le fa'agata ma le fa'alilolilo , o le fa'asolo atu o le fa'asologa i le pito o se fa'ata'ita'iga lelei [1].
TinyML: Le Toa Lemu o AI fa'apipi'i 🐜
TinyML fa'ata'ita'i fa'ata'ita'iga i microcontrollers ma kilobytes i ni nai megabytes o le RAM - ae o lo'o toso mai pea le va'aiga o upu, fa'ailoaina o taga, su'esu'ega fa'aletonu, ma isi mea. E pei o le matamata i se isumu o siiina se piliki. E ese le faamalieina.
O se faʻataʻitaʻiga faʻapitoa mafaufau:
-
Fa'amatalaga tulagavae : laiti, fa'aoso mea fa'aoga masini.
-
Fa'ata'ita'iga : CNNs/RNNs fa'atosina, ML masani, po'o upega fa'apitoa/fa'ata.
-
Tala o le tupe : milliwatts, ae le o watts; KB–MB, ae le o le GB.
Filifiliga Meafaigaluega: Tau vs. Fa'atinoga ⚔️
O le pikiina o meafaigaluega o loʻo faʻafefe ai le tele o poloketi:
-
Vasepi Pi vasega : faauo, PPU faʻamoemoe lautele; malo mo fa'ata'ita'iga.
-
NVIDIA Jetson : fa'amoemoega fau mata AI modules (fa'ata'ita'iga, Orin) tu'uina atu le sefulu i le fiaselau o TOPS mo va'aiga mata'utia po'o fa'aputu-fa'ata'ita'iga tele - lelei, ae sili atu le tau ma sili atu le malosi [4].
-
Google Coral (Edge TPU) : o le ASIC fa'avavevave e tu'uina atu ~ 4 TOPS i le tusa ma le 2W (~2 TOPS/W) mo fa'ata'ita'iga fa'atusatusa - fa'alelei lelei pe a fetaui lau fa'ata'ita'iga ma fa'alavelave [3].
-
Smartphone SoCs (Snapdragon) : vaʻa faʻatasi ma NPUs ma SDKs e faʻatautaia lelei faʻataʻitaʻiga i luga ole masini.
Tulafono o limamatua: tau paleni, vevela, ma faʻatusatusa. “Ua lelei, i soo se mea” e masani ona taia le “matau, leai se mea.”
Lu'i masani ile AI mo Faiga Fa'apipi'i 🤯
E masani ona tauivi inisinia ma:
-
Manatu malosi : e le mafai e masini laiti ona fa'afeiloa'i fa'ata'ita'iga tetele.
-
Tala o le ma'a : e taua uma miliamp.
-
Fa'ata'ita'iga sili:
-
Quantization → laʻititi, televave int8/float16 mamafa/faagaioiga.
-
Fufulu → aveese le mamafa e le taua mo le fa'aitiitia.
-
Tu'ufa'atasiga/fa'asoaga mamafa → fa'amama atili.
O auala masani ia mo le faʻaogaina o le masini [2].
-
-
Fa'aliga i luga : se potuaoga Arduino demo ≠ o se masini gaosi masini ma le saogalemu, saogalemu, ma le faʻalavelave o le olaga.
Debugging? Vaai faalemafaufau i le faitauina o se tusi i totonu o se pu ki… o lo o i ai ni miteni.
Talosaga Fa'ata'ita'i O Le'o E Va'aia Fa'aopoopo 🚀
-
O mea fa'aoga atamai e faia fa'amatalaga o le soifua maloloina i luga ole masini.
-
IoT mea pu'e fu'a mea e tutupu e aunoa ma le tafeina o ata mata.
-
Fesoasoani leo leo mo le pulea e leai ni lima - leai se ao faalagolago.
-
Drone tuto'atasi mo asiasiga, tu'uina atu, ma sa'o ag.
I se faapuupuuga: AI o loʻo faʻalatalata latalata - i luga o tatou tapulima, i totonu o tatou umukuka, ma i luga oa tatou atinaʻe.
Fa'afefea ona Amata Tagata Fa'atupu 🛠️
-
Amata ile TensorFlow Lite mo meafaigaluega lautele ma le MCU → feaveaʻi; fa'aaoga vave le quantization/teteina [2].
-
Su'esu'e le ExecuTorch pe afai e te nofo i PyTorch fanua ma e mana'omia se taimi fa'aoga i luga ole masini i luga ole telefoni feavea'i ma fa'apipi'i [5].
-
Taumafai Arduino + TinyML kits mo faʻataʻitaʻiga vave ma manaia.
-
Mana'o i paipa va'aia? Edge Impulse faʻaititia le pa faʻatasi ma faʻamaumauga puʻeina, aʻoaʻoga, ma le faʻapipiʻiina.
-
Fai meafaigaluega e pei o se tagatanuu muamua - faʻataʻitaʻiga i luga o PPU, ona faʻamaonia lea i luga o lau faʻavavevave (Edge TPU, Jetson, NPU) e faʻamaonia ai le taofiofia, vevela, ma le saʻo saʻo.
Mini-vignette: E lafo e se 'au se su'esu'ega o le vibration-anomaly i luga o se masini pu'upu'u tupe. O le fa'ata'ita'iga float32 ua misi le paketi o le eletise; int8 quantization e tipiina le malosi i le faʻamatalaga, tipi tipi manatua, ma tiute-tiʻetiʻe le MCU e maeʻa le galuega - leai se fesoʻotaʻiga manaʻomia [2,3].
Le Suiga filemu o AI mo Faiga Fa'apipi'i 🌍
O lo'o a'oa'oina e le aufaipisinisi laiti ma le taugofie le lagona → mafaufau → fa'atino - fa'alotoifale. O le ola maa o le a faʻalavelaveina i tatou i taimi uma, ae o le auala e manino: faʻataʻitaʻiga sili atu, sili atu le tuʻufaʻatasia, sili atu le atamai faʻavavevave. O le taunuuga? Tekinolosi e sili atu ona lagona le tagata lava ia ma tali mai aua e le naʻo le fesoʻotaʻi - ae faʻalogo lelei.
Fa'asinomaga
[1] ETSI (Multi-access Edge Computing) - Latency/privacy penefiti ma tulaga tau alamanuia.
ETSI MEC: Fa'amatalaga fou o Pepa Pa'epa'e
[2] Google TensorFlow Model Optimization Toolkit - Fa'avasegaga, teuteu, fa'aputuina mo le lelei i luga ole masini.
TensorFlow Model Optimization Guide
[3] Google Coral Edge TPU - Fa'ailoga Perf/W mo le fa'avavevave pito.
Edge TPU Fa'ailoga
[4] NVIDIA Jetson Orin (Alofia) - Edge AI modules ma teutusi faʻatinoga.
Jetson Orin Modules Va'aiga lautele
[5] PyTorch ExecuTorch (Fa'amaumauga Aloaia) - I luga ole masini ole taimi ole PyTorch mo le feavea'i ma le pito.
ExecuTorch Vaaiga Aoao