O le a le Software Framework mo AI?

O le a le Software Framework mo AI?

O se auivi mautu e liua lena vevesi i se galuega fa'aoga aoga. I totonu o lenei taʻiala, o le a matou faʻailoaina poʻo le a le polokalama faakomepiuta mo AI , aisea e taua ai, ma pe faʻafefea ona filifili se tasi e aunoa ma le faʻaluaina o oe lava i le lima minute. Uu se kofe; tatala pea fa'amau. ☕️

Tala atonu e te mana'o e faitau pe a mae'a lenei:

🔗 O le a le aʻoaʻoga masini vs AI
Malamalama i le eseesega autu i le va o masini aʻoaʻoga ma le atamai faʻapitoa.

🔗 O le a le mea e faʻamatalaina AI
A'oa'o pe fa'apefea ona fa'amalamalamaina e AI fa'ata'ita'iga lavelave ia manino ma malamalama.

🔗 O le a le humanoid robot AI
Su'esu'e fa'atekonolosi AI e fa'aola ai robots pei o tagata ma amio fegalegaleai.

🔗 Ole a le neural network ile AI
Su'esu'e pe fa'afefea ona fa'atusa e neural network le fai'ai o le tagata e fa'agasolo fa'amatalaga.

O le a le Software Framework mo AI? Le tali puupuu 🧩

O se faiga fa'akomepiuta mo AI o se fusi fa'atulagaina o faletusi, vaega ta'avale, meafaigaluega, ma fa'asalalauga e fesoasoani ia te oe e fau, toleni, iloilo, ma fa'aogaina masini a'oa'oga po'o fa'ata'ita'iga loloto a'oa'oga ia vave ma sili atu ona fa'atuatuaina. E sili atu nai lo se faletusi e tasi. Mafaufau i ai e pei o le fatafata manatu e te maua ai:

  • Fa'amatalaga autu mo tensors, layers, estimators, po'o paipa

  • Otometi fa'avasegaga ma fa'amalieina fatu numera

  • Fa'amatalaga e tu'u i totonu o paipa ma mea faigaluega muamua

  • Fa'aa'oa'oga matasele, metric, ma siaki siaki

  • Fa'afeso'ota'i ma fa'avavevave pei o GPU ma meafaigaluega fa'apitoa

  • Fa'apipi'i, tautua, ma o nisi taimi e fa'ata'ita'i le su'ega

Afai o le faletusi o se mea faigaluega, o le fa'ava'a o se mafutaga faaleaoaoga-e iai moli, nofoa nofoa, ma se fai igoa e te faafoliga e te le mana'omia… se'ia e faia. 🔧

E te vaʻai mai ia te aʻu e toe fai le fuaitau saʻo o le a le polokalama faakomepiuta mo AI i ni nai taimi. E fa'amoemoe lava lena, aua o le fesili lea e ta'i mo'i e le to'atele o tagata pe a leiloa i le paso meafaigaluega.

O le a le mea e fai ai se fa'avae polokalame lelei mo AI? ✅

O le lisi puupuu lenei ou te manaʻo ai pe a ou amata mai le sasa:

  • Ergonomics aoga - API mama, fa'aletonu lelei, fe'au sese fesoasoani

  • Fa'atinoga - fatu vave, fa'afefiloi sa'o, fa'apipi'i kalafi po'o le JIT e fesoasoani ai

  • Le loloto o le fa'anatura - fa'ata'ita'iga fa'ata'ita'iga, a'oa'oga, fua fa'aa'oa'oina muamua, tu'ufa'atasiga

  • Feavea'i - auala e auina atu i fafo e pei ole ONNX, telefoni feavea'i po'o fa'ata'ita'iga taimi, fa'afeiloa'i pusa

  • Mata'ituina - metrics, logging, profiling, su'ega su'ega

  • Scalability - tele-GPU, tufatufaina aʻoaʻoga, tautua elastic

  • Pulea - tulaga saogalemu, fa'aliliuga, gafa, ma fa'amaumauga e le fa'aagaga oe

  • Nu'u & ola umi - fa'atumauina fa'amalosi, vaetamaina o le lalolagi moni, fa'afanua auala fa'atuatuaina

A kiliki na fasi vaega, e te tusia le code kelu itiiti ma faia atili AI moni. O le fea le manatu. 🙂

Ituaiga auivi o le a e fetaui i ai 🗺️

E le o fa'avae uma e taumafai e fai mea uma. Mafaufau i vaega:

  • Auivi a'oa'oga loloto : tensor ops, autodiff, neural nets

    • PyTorch, TensorFlow, JAX

  • Fa'asologa masani ML : laina paipa, suiga o foliga, fua fa'atatau

    • scikit-aʻoaʻo, XGBoost

  • Fa'ata'ita'iga hubs & fa'aputuga NLP : fa'ata'ita'iga fa'aa'oa'oina muamua, fa'ailoga, fa'alogo lelei

    • Fufulu Mata Transformers

  • Taimi o le tautua & fa'ai'uga : fa'atonuina le fa'atinoina

    • ONNX Taimi Taimi, NVIDIA Triton Inference Server, Ray Serve

  • MLOps & olaola : siaki, afifiina, paipa, CI mo ML

    • MLflow, Kubeflow, Apache Airflow, Pule, DVC

  • Tu'u & feavea'i : tama'i tulagavae, fa'aoga-megana

    • TensorFlow Lite, Core ML

  • Tulaga lamatia & pulega auivi : faʻagasologa ma faʻatonuga, ae le o le tulafono

    • NIST AI Ta'iala Fa'afoega Tulaga lamatia

E leai se faaputuga tasi e fetaui ma au uma. E le afaina.

Laupapa fa'atusatusa: filifiliga ta'uta'ua i se tepa 📊

O nai mea laiti e aofia ai ona o le olaga moni e gaogao. E suia tau, ae o le tele o vaega autu o punaoa tatala.

Meafaigaluega / Fa'aputu Sili mo Tau-ish Aisea e aoga ai
PyTorch Tagata suʻesuʻe, Pythonic devs Punavai tatala O kalafi malosi e lagona le natura; nuu tele. 🙂
TensorFlow + Keras Gaosiga ile fua, fa'alava fa'asaga Punavai tatala Faiga kalafi, TF Auauna, TF Lite, meafaigaluega malosi.
JAX Tagata fa'aoga eletise, suiga o galuega Punavai tatala XLA tu'ufa'atasia, mama mama-muamua vibe.
scikit-aoao ML masani, fa'amaumauga fa'asologa Punavai tatala Pipelines, metrics, estimator API na'o le kiliki.
XGBoost Faʻamaumauga faʻatulagaina, manumalo i laina faʻavae Punavai tatala Fa'ateleina fa'aola e masani ona na'o le manumalo.
Fufulu Mata Transformers NLP, va'aiga, fa'asalalauga fa'atasi ma le avanoa fa'aoga Tele matala Fa'ata'ita'iga ua uma ona a'oa'oina + tokenizers + docs, wow.
ONNX Taimi Taimi feaveai, fefiloi auivi Punavai tatala Fa'atau atu tasi, tamo'e vave i le tele o pito i tua. [4]
MLflow Su'e fa'ata'ita'iga, afifiina Punavai tatala Reproducibility, fa'ata'ita'iga resitala, faigofie APIs.
Ray + Ray Auauna Toleniga + tufaina atu Punavai tatala Fua o galuega a le Python; tautua micro-batching.
NVIDIA Triton Fa'ailoga maualuga Punavai tatala Tele-fa'avaa, fa'apipi'i malosi, GPU.
Kubeflow Kubernetes ML paipa Punavai tatala Fa'ai'uga i le pito i luga ole K8s, o nisi taimi e fa'afefe ae malosi.
Ea tafe po'o le Fa'atonu Fa'asoa fa'ata'amilo i lau toleniga Punavai tatala Fa'atulagaina, toe taumafai, va'aia. E lelei.

Afai e te manaʻo i tali e tasi le laina: PyTorch mo suʻesuʻega, TensorFlow mo le gaosiga umi, scikit-aʻoaʻo mo tabula, ONNX Taimi mo le feaveaʻi, MLflow mo le siakiina. O le a ou toe foʻi i tua pe a manaʻomia.

I lalo o le pulou: pe faʻafefea ona faʻaogaina e auivi lau numera ⚙️

O le tele o auivi a'oa'oga loloto e fa'afetaui mea tetele se tolu:

  1. Tensors - fa'asologa tele-dimensional ma tu'u masini ma tulafono fa'asalalauga.

  2. Autodiff - ese'esega fa'afeagai e fa'atatau le gradients.

  3. Fuafuaga Fa'atino - faiga naunauta'i vs ala fa'akalafa vs fa'aputuga JIT.

  • PyTorch ona fa'ataunu'uina ma e mafai ona tu'ufa'atasia kalafi fa'atasi ma le torch.compile e fa'afefiloi ai galuega ma fa'avavevave mea i nai suiga laiti. [1]

  • TensorFlow e tamoe ma le naunautai e ala i le faaletonu ma faʻaaoga tf.function e faʻatulagaina le Python i kalafi feʻaveaʻi dataflow, lea e manaʻomia mo le SavedModel auina atu i fafo ma masani ona faʻaleleia le faʻatinoga. [2]

  • O le JAX e faʻalagolago i suiga faʻapitoa e pei o jit , grad , vmap , ma pmap , faʻapipiʻi e ala i le XLA mo le saoasaoa ma le tutusa. [3]

O le mea lea e ola ai le faʻatinoga: fatu, fusi, faʻasologa o mafaufauga, faʻafefiloi saʻo. E le fa'amaneta - na'o le inisinia e foliga fa'ataulāitu. ✨

Toleniga vs fa'ai'uga: lua ta'aloga eseese 🏃♀️🏁

  • O a'oa'oga e fa'amamafa ai le fa'atinoina ma le mautu. E te manaʻo e faʻaoga lelei, faʻasolosolo faʻasolosolo, ma faʻasoa faʻasologa.

  • O le fa'ai'uga e tulituliloa ai le taofi, tau, ma le fa'atasi. E te manaʻo i le faʻapipiʻiina, faʻavasegaina, ma o nisi taimi o le faʻaogaina o le faʻaogaina.

E taua le felagolagoma'i iinei:

  • ONNX o loʻo galue o se faʻataʻitaʻiga masani o fefaʻatauaiga; Ole ONNX Runtime e fa'atautaia fa'ata'ita'iga mai le tele o fa'avae fa'apogai ile PPU, GPU, ma isi fa'avavevave fa'atasi ai ma fa'amauga gagana mo fa'aputuga masani o gaosiga. [4]

O le fa'avasegaina, teuteu, ma le fa'amama e masani ona maua ai ni manumalo tetele. O nisi taimi e fa'avalevalea tele - lea e lagona e pei o le kopi, e ui lava e leai. 😉

Le nu'u MLOps: i tua atu o le fa'avae autu 🏗️

E o'o lava ile kalafi sili ona lelei e le mafai ona lavea'iina se fa'asologa o le olaga. E te manaʻo mulimuli ane:

  • Su'esu'ega fa'ata'ita'iga & resitala : amata i le MLflow e fa'amau ai params, metrics, ma meafaitino; fa'alauiloa e ala ile resitala

  • Pipeline & fa'asologa o galuega : Kubeflow i Kubernetes, po'o fa'ata'ita'i e pei o le Airflow ma le Prefect

  • Fa'aliliuga o fa'amaumauga : O lo'o tausia e le DVC fa'amaumauga ma fa'ata'ita'iga fa'ata'ita'i fa'atasi ma le code

  • Container & deployment : Docker images ma Kubernetes mo si'osi'omaga va'ai, fa'alautele

  • Fa'ata'ita'iga hubs : mua'i a'oa'o-ona-fa'alelei-tune pa'u lanu meamata masani nai lo le leai

  • Mata'itū : fa'agasolo, fe'avea'i, ma siaki lelei pe'ā pa'u fa'atusa i le gaosiga

Ose tala fa'anatura vave: o se vaega e-pisinisi e mana'omia le "toe tasi fa'ata'ita'iga" i aso uma, ona le manatua lea po'o fea le ta'avale na fa'aogaina ai foliga. Na latou faʻaopoopoina le MLflow ma se tulafono faigofie "faʻalauiloa mai le resitala". Na faafuasei lava, o iloiloga faalevaiaso sa faatatau i faaiuga, ae le o suʻesuʻega. O le mamanu e faʻaalia i soo se mea.

Felagolagomai & feavea'i: tatala pea au filifiliga 🔁

Loka-i fetolofi filemu. Aloese mai e ala i le fuafuaina mo:

  • Auala auina atu i fafo : ONNX, SavedModel, TorchScript

  • Taimi fetu'una'i : ONNX Taimi Taimi, TF Lite, Core ML mo le telefoni feavea'i po'o le pito

  • Containerization : va'aiga fau paipa ma ata Docker

  • Auauna le faaituau : talimalo PyTorch, TensorFlow, ma ONNX i autafa o le itu e te faʻamaoni

O le fesuia'iina o se laulau tautua po'o le tu'ufa'atasia o se fa'ata'ita'iga mo se masini la'ititi e tatau ona avea ma fa'alavelave, ae le o se toe tusi.

Fa'avavevave ma fua: fai vave e aunoa ma ni loimata ⚡️

  • O le GPU e pulea le tele o aʻoaʻoga mamafa faʻafetai i fatu sili ona lelei (mafaufau cuDNN).

  • O a'oa'oga fa'asoa e fa'aalia pe a le mafai e se GPU e tasi ona fa'aauau: fa'atusa fa'amaumauga, fa'ata'ita'iga fa'ata'ita'i, fa'ata'ita'iga fa'amamafa.

  • Fa'afefiloi sa'o e fa'asaoina le manatua ma le taimi e la'ititi le sa'o gau pe a fa'aoga sa'o.

O nisi taimi o le code sili ona vave o le code e te leʻi tusia: faʻaoga faʻataʻitaʻiga muaʻi aʻoaʻoina ma faʻalogo lelei. Mata'utia. 🧠

Pulea, saogalemu, ma tulaga lamatia: e le na o pepa 🛡️

O le lafoina o AI i faʻalapotopotoga moni o lona uiga o le mafaufau i:

  • Lineage : o fea na maua mai ai faʻamatalaga, faʻafefea ona faʻagasolo, ma o fea faʻataʻitaʻiga o loʻo ola

  • Reproducibility : fau fa'amautu, fa'alagolago fa'amau, fale fa'atau

  • Malamalama ma fa'amaumauga : kata fa'atusa ma fa'amatalaga fa'amaumauga

  • Puleaina o tulaga lamatia : o le NIST AI Risk Management Framework o loʻo tuʻuina atu ai se faʻafanua faʻatatau mo le faʻafanua, fuaina, ma le faʻatonutonuina o faiga faʻatuatuaina AI i le olaga atoa. [5]

O nei mea e le'o filifili i vaega fa'atulafonoina. E oo lava i fafo atu o latou, latou te taofia le fenumiai o tapuni ma fonotaga le lelei.

Auala e filifili ai: se lisi o filifiliga vave 🧭

Afai o loʻo e vaʻavaʻai pea i laupepa e lima, taumafai le mea lenei:

  1. Gagana muamua ma le talaaga o le au

    • Python-muamua au suʻesuʻe: amata ile PyTorch poʻo le JAX

    • Su'esu'ega fefiloi ma gaosiga: TensorFlow ma Keras ose peti saogalemu

    • Iloiloga masani poʻo faʻasologa faʻasologa: scikit-learn plus XGBoost

  2. Fa'atonuga fa'atatau

    • Fa'ailoga ao ile fua: ONNX Runtime po'o le Triton, fa'apipi'i

    • Fe'avea'i pe fa'apipi'i: TF Lite po'o le Core ML

  3. Fua mana'omia

    • GPU tasi po'o le fale faigaluega: so'o se fa'avae DL tele e galue

    • Tufatufaina a'oa'oga: fa'amaonia ta'iala ua fausia pe fa'aaoga Ray Train

  4. MLOps matua

    • Aso amata: MLflow mo le siakiina, ata Docker mo le afifiina

    • Au tuputupu a'e: fa'aopoopo le Kubeflow po'o le Airflow/Prefect mo paipa

  5. Manaoga feavea'i

    • Fuafua mo ONNX auina atu i fafo ma se vaega e le tutusa

  6. Tulaga lamatia

    • Fa'atasi ma ta'iala a le NIST, fa'asologa o pepa, fa'amalosia iloiloga [5]

Afai o le fesili i lou ulu e tumau pe o le a le polokalama faakomepiuta mo AI , o le seti o filifiliga e faʻafefe ai na mea lisi siaki. E lelei le fiu.

Gocha masani & talatuu māmā 😬

  • Talafatu: e tasi le auivi e pulea uma ai. Mea moni: e te fa'afefiloi ma fetaui. O le soifua maloloina lena.

  • Talatuu: toleniga saoasaoa o mea uma lava. O le tau ma le fa'amaoni e masani ona sili atu ona taua.

  • Gotcha: fa'agalo laina fa'amaumauga. Le lelei fa'aoga e goto ai fa'ata'ita'iga lelei. Fa'aaoga loaders talafeagai ma fa'amaonia.

  • Gotcha: fa'ase'e le su'ega su'ega. O le a galo ia te oe le tamo'e sili. I le lumanaʻi-o le a e ita.

  • Talatuu: E otometi le feaveai. O nisi taimi e malepe ai oloa auina atu i fafo i faiga masani. Su'e vave.

  • Gotcha: MLOps fa'ainisinia ua vave tele. Fa'afaigofie, ona fa'aopoopo lea o le fa'asologa pe a aliali mai le tiga.

  • Fa'ata'ita'iga sese laititi : mafaufau i lou auivi pei o se pulou uila mo lau fa'ata'ita'iga. Le fa'alelei? Masalo. Ae o le a e misia pe a fa'afeiloa'i le auala.

Mini FAQ e uiga i auivi ❓

F: E ese se auivi mai se faletusi po'o se fa'avae?

  • Faletusi : galuega faʻapitoa poʻo faʻataʻitaʻiga e te valaʻau.

  • Auivi : fa'amalamalama le fausaga ma le taamilosaga o le olaga, faʻapipiʻi i faletusi.

  • Platform : o le siʻosiʻomaga lautele ma infra, UX, pili, ma faʻatautaia auaunaga.

Q: E mafai ona ou fausia AI e aunoa ma se faʻavae?

Fa'atekinisi ioe. Fa'ata'ita'i, e pei o le tusiaina o lau oe fa'aputu mo se fa'ailoga blog. E mafai, ae aisea.

F: Ou te manaʻomia uma aʻoaʻoga ma auʻaunaga tautua?

E masani lava ioe. Toleni i le PyTorch poʻo le TensorFlow, auina atu i ONNX, tautua ma Triton poʻo ONNX Runtime. O su'iga o lo'o i ai ma le fa'amoemoe. [4]

F: O fea e nonofo ai fa'atonuga sili ona lelei?

NIST's AI RMF mo faiga fa'alavelave; pepa fa'atau mo le fausaga; O ta'iala ML a 'au'aunaga ao o ni su'esu'ega fesoasoani. [5]

Ose fa'amatalaga vave o le fuaitau autu mo le manino 📌

E masani ona suʻesuʻe e tagata poʻo le a le polokalama faakomepiuta mo AI ona o loʻo latou taumafai e faʻafesoʻotaʻi togitogi i le va o suʻesuʻega code ma se mea e mafai ona faʻaaogaina. O lea la, o le a le polokalama faakomepiuta mo AI i le faʻatinoga? O le fa'aputuga fa'aputuga o fa'amatalaga, fa'amatalaga, ma fa'asalalauga e fa'ataga ai oe e toleni, iloilo, ma fa'apipi'i fa'ata'ita'iga e itiiti ni fa'ate'ia, a'o ta'alo lelei i laina paipa fa'amaumauga, meafaigaluega, ma pulega. O iina, fai mai faatolu. 😅

Saunoaga Fa'ai'u - Ua Umia Ou te Le'i Faitauina 🧠➡️🚀

  • Ose polokalame fa'akomepiuta mo AI e tu'uina atu ai ia te oe fa'ailoga manatu: tensors, autodiff, toleniga, fa'aogaina, ma meafaigaluega.

  • Filifili e ala ile gagana, fa'atulagaina fa'atatau, fua, ma le loloto o le fa'anatura.

  • Faamoemoe e faʻafefiloi faʻaputu: PyTorch poʻo TensorFlow e toleni ai, ONNX Runtime poʻo Triton e tautua, MLflow e siaki, Airflow poʻo le Prefect e faʻapipiʻi. [1][2][4]

  • Tao i le feaveai, mata'ituina, ma faiga lamatia vave. [5]

  • Ma ioe, talia vaega le manaia. O le boring e mautu, ma mautu vaa.

O auivi lelei e le aveesea le lavelave. Latou te fa'amauina ina ia mafai ai e lau 'au ona gaioi vave ma fa'aitiitia taimi oops. 🚢

Fa'asinomaga

[1] PyTorch - Folasaga ile torch.compile (pepa aloaia): faitau atili

[2] TensorFlow - Fa'atino lelei ma tf.function (ta'iala aloa'ia): faitau atili

[3] JAX - Amata vave: Faʻafefea ona mafaufau i le JAX (pepa aloaia): faitau atili

[4] ONNX Taimi Fa'agasolo - ONNX Taimi Fa'agasolo mo Fa'ailoga (pepa aloaia): faitau atili

[5] NIST - AI Risk Management Framework (AI RMF 1.0) : faitau atili

Su'e le AI Fou i le Faleoloa Fesoasoani Lagolago AI

Faatatau ia tatou

Toe fo'i ile blog