O le a le Software Framework mo AI?

O le a le Software Framework mo AI?

O se fa'avae malosi e liua ai le fa'alavelave i se faiga e mafai ona fa'aaogaina. I totonu o lenei ta'iala, o le a matou fa'amatalaina po'o le a le fa'avae o polokalama faakomepiuta mo le AI, pe aisea e taua ai, ma le auala e filifili ai se tasi e aunoa ma le toe mafaufau i minute ta'i lima. Ave se kofe; ia tatala pea lau 'upega tafa'ilagi. ☕️

O tala e te ono fia faitauina pe a uma lenei:

🔗 O le a le aʻoaʻoga masini vs AI
Malamalama i le eseesega autu i le va o masini aʻoaʻoga ma le atamai faʻapitoa.

🔗 O le a le mea e faʻamatalaina AI
A'oa'o pe fa'apefea ona fa'amalamalamaina e AI fa'ata'ita'iga lavelave ia manino ma malamalama.

🔗 O le a le humanoid robot AI
Su'esu'e fa'atekonolosi AI e fa'aola ai robots pei o tagata ma amio fegalegaleai.

🔗 Ole a le neural network ile AI
Su'esu'e pe fa'afefea ona fa'atusa e neural network le fai'ai o le tagata e fa'agasolo fa'amatalaga.

O le a le Software Framework mo AI? Le tali puupuu 🧩

O se fa'avae polokalame mo le AI o se fa'atulagaga fa'atulagaina o faletusi, vaega o le taimi e fa'agaoioia ai, meafaigaluega, ma fa'atulagaga e fesoasoani ia te oe e fausia, toleni, iloilo, ma fa'atino vave ma sili atu ona fa'atuatuaina le a'oa'oina o masini po'o fa'ata'ita'iga o le a'oa'oina loloto. E sili atu nai lo na'o se faletusi e tasi. Mafaufau i ai o se fa'avae fa'apitoa e avatu ia te oe:

  • Fa'amatalaga autu mo tensors, layers, estimators, po'o paipa

  • Otometi fa'avasegaga ma fa'amalieina fatu numera

  • Fa'amatalaga e tu'u i totonu o paipa ma mea faigaluega muamua

  • Fa'aa'oa'oga matasele, metric, ma siaki siaki

  • Fa'afeso'ota'i ma fa'avavevave pei o GPU ma meafaigaluega fa'apitoa

  • Fa'apipi'i, tautua, ma o nisi taimi e fa'ata'ita'i le su'ega

Afai o le faletusi o se mea faigaluega, o le fa'ava'a o se mafutaga faaleaoaoga-e iai moli, nofoa nofoa, ma se fai igoa e te faafoliga e te le mana'omia… se'ia e faia. 🔧

O le a e vaʻai mai ia te aʻu o toe taʻua le fuaitau tonu o le a le faʻavae o polokalama faakomepiuta mo le AI i ni nai taimi. O se mea e mafaufauina lena, aua o le fesili lea e masani ona taina e le toʻatele o tagata pe a latou leiloa i le lave o meafaigaluega.

 

Fa'avae o Polokalama Fa'a-AI

O le a le mea e fai ai se fa'avae polokalame lelei mo AI? ✅

O le lisi puupuu lenei ou te manaʻo ai pe a ou amata mai le sasa:

  • Ergonomics aoga - API mama, fa'aletonu lelei, fe'au sese fesoasoani

  • Fa'atinoga - fatu vave, fa'afefiloi sa'o, fa'apipi'i kalafi po'o le JIT e fesoasoani ai

  • Le loloto o le fa'anatura - fa'ata'ita'iga fa'ata'ita'iga, a'oa'oga, fua fa'aa'oa'oina muamua, tu'ufa'atasiga

  • Feavea'i - auala e auina atu i fafo e pei ole ONNX, telefoni feavea'i po'o fa'ata'ita'iga taimi, fa'afeiloa'i pusa

  • Mata'ituina - metrics, logging, profiling, su'ega su'ega

  • Scalability - tele-GPU, tufatufaina aʻoaʻoga, tautua elastic

  • Pulega - vaega o le saogalemu, lomiga, gafa, ma pepa e le fa'alavelaveina ai oe

  • Nu'u ma le umi o le ola - tagata e tausia lelei, fa'aaogaina i le lalolagi moni, fa'afanua fa'atuatuaina

A kiliki na fasi vaega, e te tusia le code kelu itiiti ma faia atili AI moni. O le fea le manatu. 🙂

Ituaiga auivi o le a e fetaui i ai 🗺️

E le o fa'avae uma e taumafai e fai mea uma. Mafaufau i vaega:

  • Auivi a'oa'oga loloto: tensor ops, autodiff, neural nets

    • PyTorch, TensorFlow, JAX

  • Fa'asologa masani ML: laina paipa, suiga o foliga, fua fa'atatau

    • scikit-aʻoaʻo, XGBoost

  • Nofoaga autu o fa'ata'ita'iga ma fa'aputuga NLP: fa'ata'ita'iga ua uma ona a'oa'oina, tokenizers, fa'aleleia atili

    • Suiga o Foliga o Tagata e Fe'alofani

  • Taimi fa'atino o le tautua ma le fa'ai'uga: fa'atulagaga fa'aleleia atili

    • ONNX Taimi Taimi, NVIDIA Triton Inference Server, Ray Serve

  • MLOps & ta'amilosaga o le olaga: siakiina, afifiina, paipa, CI mo ML

    • MLflow, Kubeflow, Apache Airflow, Pule, DVC

  • Pito & feaveaʻi: tulagavae laiti, faigofie ona faʻaogaina masini komepiuta

    • TensorFlow Lite, Core ML

  • Fa'avae o tulaga lamatia ma pulega: faiga ma pulega, ae le o tulafono fa'atonutonu

    • NIST AI Ta'iala Fa'afoega Tulaga lamatia

E leai se faaputuga tasi e fetaui ma au uma. E le afaina.

Laupapa fa'atusatusa: filifiliga ta'uta'ua i se tepa 📊

O nai mea laiti e aofia ai ona o le olaga moni e gaogao. E suia tau, ae o le tele o vaega autu o punaoa tatala.

Meafaigaluega / Fa'aputu Sili ona lelei mo Tau fa'atatau Aiseā e aoga ai
PyTorch Tagata suʻesuʻe, Pythonic devs Punaoa tatala O kalafi malosi e lagona le natura; nuu tele. 🙂
TensorFlow + Keras Gaosiga ile fua, fa'alava fa'asaga Punaoa tatala Faiga kalafi, TF Auauna, TF Lite, meafaigaluega malosi.
JAX Tagata fa'aoga eletise, suiga o galuega Punaoa tatala XLA tu'ufa'atasia, mama mama-muamua vibe.
scikit-learn ML masani, fa'amaumauga fa'asologa Punaoa tatala Pipelines, metrics, estimator API na'o le kiliki.
XGBoost Faʻamaumauga faʻatulagaina, manumalo i laina faʻavae Punaoa tatala Fa'ateleina fa'aola e masani ona na'o le manumalo.
Suiga o Foliga o Tagata e Fe'alofani NLP, va'aiga, fa'asalalauga fa'atasi ma le avanoa fa'aoga Tele matala Fa'ata'ita'iga ua uma ona a'oa'oina + tokenizers + docs, wow.
Taimi Fa'atino o le ONNX feaveai, fefiloi auivi Punaoa tatala Fa'atau atu tasi, tamo'e vave i le tele o pito i tua. [4]
MLflow Su'e fa'ata'ita'iga, afifiina Punaoa tatala Reproducibility, fa'ata'ita'iga resitala, faigofie APIs.
Ray + Ray Auauna Toleniga + tufaina atu Punaoa tatala Fua o galuega a le Python; tautua micro-batching.
NVIDIA Triton Fa'ailoga maualuga Punaoa tatala Tele-fa'avaa, fa'apipi'i malosi, GPU.
Kubeflow Kubernetes ML paipa Punaoa tatala Fa'ai'uga i le pito i luga ole K8s, o nisi taimi e fa'afefe ae malosi.
Ea tafe po'o le Fa'atonu Fa'asoa fa'ata'amilo i lau toleniga Punaoa tatala Fa'atulagaina, toe taumafai, va'aia. E lelei.

Afai e te manaʻo i tali e tasi le laina: PyTorch mo suʻesuʻega, TensorFlow mo le gaosiga umi, scikit-aʻoaʻo mo tabula, ONNX Taimi mo le feaveaʻi, MLflow mo le siakiina. O le a ou toe foʻi i tua pe a manaʻomia.

I lalo o le pulou: pe faʻafefea ona faʻaogaina e auivi lau numera ⚙️

O le tele o auivi a'oa'oga loloto e fa'afetaui mea tetele se tolu:

  1. Tensors - fa'asologa tele-dimensional ma tu'u masini ma tulafono fa'asalalauga.

  2. Autodiff - ese'esega fa'afeagai e fa'atatau le gradients.

  3. Fuafuaga Fa'atino - faiga naunauta'i vs ala fa'akalafa vs fa'aputuga JIT.

  • PyTorch ona fa'ataunu'uina ma e mafai ona tu'ufa'atasia kalafi fa'atasi ma le torch.compile e fa'afefiloi ai galuega ma fa'avavevave mea i nai suiga laiti. [1]

  • TensorFlow e tamoe ma le naunautai e ala i le faaletonu ma faʻaaoga tf.function e faʻatulagaina le Python i kalafi feʻaveaʻi dataflow, lea e manaʻomia mo le SavedModel auina atu i fafo ma masani ona faʻaleleia le faʻatinoga. [2]

  • O le JAX e faʻalagolago i suiga faʻapitoa e pei o jit, grad, vmap, ma pmap, faʻapipiʻi e ala i le XLA mo le saoasaoa ma le tutusa. [3]

O le mea lea e ola ai le faʻatinoga: fatu, fusi, faʻasologa o mafaufauga, faʻafefiloi saʻo. E le fa'amaneta - na'o le inisinia e foliga fa'ataulāitu. ✨

Toleniga vs fa'ai'uga: lua ta'aloga eseese 🏃♀️🏁

  • O a'oa'oga e fa'amamafa ai le fa'atinoina ma le mautu. E te manaʻo e faʻaoga lelei, faʻasolosolo faʻasolosolo, ma faʻasoa faʻasologa.

  • O le fa'ai'uga e tulituliloa ai le taofi, tau, ma le fa'atasi. E te manaʻo i le faʻapipiʻiina, faʻavasegaina, ma o nisi taimi o le faʻaogaina o le faʻaogaina.

E taua le felagolagoma'i iinei:

  • ONNX o loʻo galue o se faʻataʻitaʻiga masani o fefaʻatauaiga; Ole ONNX Runtime e fa'atautaia fa'ata'ita'iga mai le tele o fa'avae fa'apogai ile PPU, GPU, ma isi fa'avavevave fa'atasi ai ma fa'amauga gagana mo fa'aputuga masani o gaosiga. [4]

O le fa'avasegaina, teuteu, ma le fa'amama e masani ona maua ai ni manumalo tetele. O nisi taimi e fa'avalevalea tele - lea e lagona e pei o le kopi, e ui lava e leai. 😉

Le nu'u MLOps: i tua atu o le fa'avae autu 🏗️

E o'o lava ile kalafi sili ona lelei e le mafai ona lavea'iina se fa'asologa o le olaga. E te manaʻo mulimuli ane:

  • Siakiina o faʻataʻitaʻiga ma le resitalaina: amata i le MLflow e faʻamaumau ai parakalafa, fua faʻatatau, ma mea totino; faʻalauiloa e ala i se resitala

  • Fa'asologa o Paipa ma le fa'atulagaina o le faiga o galuega: Kubeflow i luga o Kubernetes, po'o ni tagata lautele e pei o le Airflow ma le Prefect

  • Fa'aliliuga o fa'amaumauga: O lo'o tausia e le DVC fa'amaumauga ma fa'ata'ita'iga fa'ata'ita'i fa'atasi ma le code

  • Koneteina & fa'atinoina: Ata Docker ma Kubernetes mo siosiomaga e mafai ona vavaloina ma fa'alauteleina

  • Fa'ata'ita'iga hubs: mua'i a'oa'o-ona-fa'alelei-tune pa'u lanu meamata masani nai lo le leai

  • Mata'itū: fa'agasolo, fe'avea'i, ma siaki lelei pe'ā pa'u fa'atusa i le gaosiga

O se tala puupuu i le fanua: o se 'au fa'atau'oloa i luga o le initaneti sa mana'o i se "toe fa'ata'ita'iga" i aso uma, ona le mafai lea ona manatua po'o fea le fa'atinoga na fa'aaogaina ai foliga. Na latou fa'aopoopoina le MLflow ma se tulafono faigofie "fa'alauiloa mai le resitala". Fa'afuase'i lava, o iloiloga fa'avaiaso e fa'atatau i fa'ai'uga, ae le o su'esu'ega o mea anamua. O le mamanu e aliali mai i soo se mea.

Felagolagomai & feavea'i: tatala pea au filifiliga 🔁

Loka-i fetolofi filemu. Aloese mai e ala i le fuafuaina mo:

  • Auala auina atu i fafo: ONNX, SavedModel, TorchScript

  • Taimi fetu'una'i: ONNX Taimi Taimi, TF Lite, Core ML mo le telefoni feavea'i po'o le pito

  • Containerization: va'aiga fau paipa ma ata Docker

  • Auauna le faaituau: talimalo PyTorch, TensorFlow, ma ONNX i autafa o le itu e te faʻamaoni

O le fesuia'iina o se laulau tautua po'o le tu'ufa'atasia o se fa'ata'ita'iga mo se masini la'ititi e tatau ona avea ma fa'alavelave, ae le o se toe tusi.

Fa'avavevave ma fua: fai vave e aunoa ma ni loimata ⚡️

  • O le GPU e pulea le tele o aʻoaʻoga mamafa faʻafetai i fatu sili ona lelei (mafaufau cuDNN).

  • aʻoaʻoga tufatufaina pe a le mafai e se GPU e tasi ona faʻaauau: faʻatusatusaga o faʻamaumauga, faʻatusatusaga o faʻataʻitaʻiga, faʻaleleia atili o sharded.

  • Fa'afefiloi sa'o e fa'asaoina le manatua ma le taimi e la'ititi le sa'o gau pe a fa'aoga sa'o.

O nisi taimi o le code sili ona vave o le code e te leʻi tusia: faʻaoga faʻataʻitaʻiga muaʻi aʻoaʻoina ma faʻalogo lelei. Mata'utia. 🧠

Pulea, saogalemu, ma tulaga lamatia: e le na o pepa 🛡️

O le lafoina o AI i faʻalapotopotoga moni o lona uiga o le mafaufau i:

  • Lineage: o fea na maua mai ai faʻamatalaga, faʻafefea ona faʻagasolo, ma o fea faʻataʻitaʻiga o loʻo ola

  • Reproducibility: fau fa'amautu, fa'alagolago fa'amau, fale fa'atau

  • Manino ma fa'amaumauga: kata fa'ata'ita'i ma fa'amatalaga fa'amaumauga

  • Puleaina o tulaga lamatia: o le NIST AI Risk Management Framework o loʻo tuʻuina atu ai se faʻafanua faʻatatau mo le faʻafanua, fuaina, ma le faʻatonutonuina o faiga faʻatuatuaina AI i le olaga atoa. [5]

O nei mea e le'o filifili i vaega fa'atulafonoina. E oo lava i fafo atu o latou, latou te taofia le fenumiai o tapuni ma fonotaga le lelei.

Auala e filifili ai: se lisi o filifiliga vave 🧭

Afai o loʻo e vaʻavaʻai pea i laupepa e lima, taumafai le mea lenei:

  1. Gagana muamua ma le talaaga o le au

    • Python-muamua au suʻesuʻe: amata ile PyTorch poʻo le JAX

    • Su'esu'ega fefiloi ma gaosiga: TensorFlow ma Keras ose peti saogalemu

    • Iloiloga masani poʻo faʻasologa faʻasologa: scikit-learn plus XGBoost

  2. Fa'atonuga fa'atatau

    • Fa'ailoga ao ile fua: ONNX Runtime po'o le Triton, fa'apipi'i

    • Fe'avea'i pe fa'apipi'i: TF Lite po'o le Core ML

  3. Fua mana'omia

    • GPU tasi po'o le fale faigaluega: so'o se fa'avae DL tele e galue

    • Tufatufaina a'oa'oga: fa'amaonia ta'iala ua fausia pe fa'aaoga Ray Train

  4. MLOps matua

    • Aso amata: MLflow mo le siakiina, ata Docker mo le afifiina

    • Au tuputupu a'e: fa'aopoopo le Kubeflow po'o le Airflow/Prefect mo paipa

  5. Manaoga feavea'i

    • Fuafua mo ONNX auina atu i fafo ma se vaega e le tutusa

  6. Tulaga lamatia

    • Fa'atasi ma ta'iala a le NIST, fa'asologa o pepa, fa'amalosia iloiloga [5]

Afai o le fesili i lou mafaufau o loo tumau pea po o le a se faʻavae polokalama faakomepiuta mo le AI, o le seti lea o filifiliga e mafua ai ona le fiafia na mea o loo i totonu o le lisi siaki. E lelei le le fiafia.

Gocha masani & talatuu māmā 😬

  • Tala Fatufatua'i: e tasi le fa'avae e pulea ai mea uma. O le mea moni: e te fa'afefiloi ma fa'afetaui mea uma. E lelei tele lenā.

  • Talatuu: toleniga saoasaoa o mea uma lava. O le tau ma le fa'amaoni e masani ona sili atu ona taua.

  • Gotcha: fa'agalo laina fa'amaumauga. Le lelei fa'aoga e goto ai fa'ata'ita'iga lelei. Fa'aaoga loaders talafeagai ma fa'amaonia.

  • Gotcha: fa'ase'e le su'ega su'ega. O le a galo ia te oe le tamo'e sili. I le lumanaʻi-o le a e ita.

  • Talatuu: E otometi le feaveai. O nisi taimi e malepe ai oloa auina atu i fafo i faiga masani. Su'e vave.

  • Gotcha: MLOps fa'ainisinia ua vave tele. Fa'afaigofie, ona fa'aopoopo lea o le fa'asologa pe a aliali mai le tiga.

  • O se tala fa'atusa e fai si sese: mafaufau i lau fa'avaa e pei o se pulou uila mo lau fa'ata'ita'iga. E le matagofie? Atonu. Ae o le a e misia pe a fa'afeiloa'i mai e le auala savali.

Mini FAQ e uiga i auivi ❓

F: E ese se auivi mai se faletusi po'o se fa'avae?

  • Faletusi: galuega faʻapitoa poʻo faʻataʻitaʻiga e te valaʻau.

  • Auivi: fa'amalamalama le fausaga ma le taamilosaga o le olaga, faʻapipiʻi i faletusi.

  • Platform: o le siʻosiʻomaga lautele ma infra, UX, pili, ma faʻatautaia auaunaga.

Q: E mafai ona ou fausia AI e aunoa ma se faʻavae?

Fa'atekinisi ioe. Fa'ata'ita'i, e pei o le tusiaina o lau oe fa'aputu mo se fa'ailoga blog. E mafai, ae aisea.

F: Ou te manaʻomia uma aʻoaʻoga ma auʻaunaga tautua?

E masani lava ioe. Toleni i le PyTorch poʻo le TensorFlow, auina atu i ONNX, tautua ma Triton poʻo ONNX Runtime. O su'iga o lo'o i ai ma le fa'amoemoe. [4]

F: O fea e nonofo ai fa'atonuga sili ona lelei?

NIST's AI RMF mo faiga fa'alavelave; pepa fa'atau mo le fausaga; O ta'iala ML a 'au'aunaga ao o ni su'esu'ega fesoasoani. [5]

Ose fa'amatalaga vave o le fuaitau autu mo le manino 📌

E masani ona suʻesuʻe e tagata po o le a le faʻavae o polokalama faakomepiuta mo le AI aua o loʻo latou taumafai e faʻafesoʻotaʻi vaega i le va o le code suʻesuʻe ma se mea e mafai ona faʻaaogaina. O le a la le faʻavae o polokalama faakomepiuta mo le AI i le faʻatinoina? O le faʻaputuga faʻapitoa o le faʻatusatusaga, faʻamatalaga, ma faʻatulagaga e mafai ai ona e aʻoaʻoina, iloilo, ma faʻaaogaina faʻataʻitaʻiga ma ni mea e leʻi mafaufauina, aʻo taʻalo lelei ma paipa faʻamaumauga, masini komepiuta, ma le pulega. O iina, ua ou fai atu faatolu. 😅

Saunoaga Fa'ai'u - Ua Umia Ou te Le'i Faitauina 🧠➡️🚀

  • Ose polokalame fa'akomepiuta mo AI e tu'uina atu ai ia te oe fa'ailoga manatu: tensors, autodiff, toleniga, fa'aogaina, ma meafaigaluega.

  • Filifili e ala ile gagana, fa'atulagaina fa'atatau, fua, ma le loloto o le fa'anatura.

  • Faamoemoe e faʻafefiloi faʻaputu: PyTorch poʻo TensorFlow e toleni ai, ONNX Runtime poʻo Triton e tautua, MLflow e siaki, Airflow poʻo le Prefect e faʻapipiʻi. [1][2][4]

  • Tao i le feaveai, mata'ituina, ma faiga lamatia vave. [5]

  • Ma ioe, talia vaega le manaia. O le boring e mautu, ma mautu vaa.

O auivi lelei e le aveesea le lavelave. Latou te fa'amauina ina ia mafai ai e lau 'au ona gaioi vave ma fa'aitiitia taimi oops. 🚢

Fa'asinomaga

[1] PyTorch - Folasaga ile torch.compile (pepa aloaia): faitau atili

[2] TensorFlow - Fa'atino lelei ma tf.function (ta'iala aloa'ia): faitau atili

[3] JAX - Amata vave: Faʻafefea ona mafaufau i le JAX (pepa aloaia): faitau atili

[4] ONNX Taimi Fa'agasolo - ONNX Taimi Fa'agasolo mo Fa'ailoga (pepa aloaia): faitau atili

[5] NIST - AI Risk Management Framework (AI RMF 1.0): faitau atili

Saili le AI Fou i le Faleoloa Aloaia o Fesoasoani AI

Faatatau ia tatou

Toe foʻi i le blog