O le ā le AI i le Cloud Computing?

O le ā le AI i le Cloud Computing?

Tali puupuu: O le AI i le cloud computing e faʻatatau i le faʻaaogaina o faʻavae ao e teu ai faʻamatalaga, faʻafaigaluegaina o komepiuta, aʻoaʻoina faʻataʻitaʻiga, faʻapipiʻiina o ni tautua, ma mataʻituina i le gaosiga. E taua tele aua o le tele o faʻaletonu e faʻapotopoto i faʻamatalaga, faʻapipiʻiina, ma faʻagaioiga, ae le o le matematika. Afai e te manaʻomia le faʻateleina vave poʻo le toe faʻaleleia, o le cloud + MLOps o le auala aoga lea.

Manatu autū:

Taamilosaga o le Olaga : Fa'amaumauga o le laueleele, foliga o le fausiaina, a'oa'o, fa'atulaga, ona mata'ituina lea o le fesuia'iga, le latency, ma le tau.

Pulega : Fausia ni pulega o avanoa, ogalaau su'esu'e, ma le vavae'eseina o siosiomaga mai le amataga.

Toe gaosia : Fa'amaumau fa'aliliuga o fa'amaumauga, code, parameters, ma siosiomaga ina ia tumau ai le mafai ona toe faia o fa'atinoga.

Puleaina o tau : Faaaoga le batching, caching, autoscaling caps, ma aoaoga vave/preemptible e aloese ai mai pili tete'e.

Fa'ata'ita'iga o le fa'atinoina : Filifili fa'avae pulea, ala o galuega a le lakehouse, Kubernetes, po'o le RAG e fa'atatau i le tulaga moni o le 'au.

O le ā le AI i le Cloud Computing? Infographic

O tala e te ono fia faitauina pe a uma lenei:

🔗 Meafaigaluega sili ona lelei mo le pulega o pisinisi i le ao AI
Fa'atusatusa fa'avae ao ta'imua e fa'afaigofie ai galuega, tupe, ma 'au.

🔗 Tekinolosi e manaʻomia mo le tele o le AI gaosia
E manaʻomia atinaʻe autū, faʻamaumauga, ma le pulega e faʻatino ai le GenAI.

🔗 Meafaigaluega AI e leai se totogi mo le au'ili'iliga o fa'amaumauga
O fofo sili ona lelei fa'a-AI e leai se totogi e fa'amamā ai, fa'ata'ita'i ai, ma va'ai fa'atasi ai ma fa'amaumauga.

🔗 O le ā le AI o se tautua?
Fa'amatalaina le AIaaS, fa'amanuiaga, fa'ata'ita'iga o tau, ma fa'aoga masani a pisinisi.

AI i le Cloud Computing: O le Faʻamatalaga Faigofie 🧠☁️

I lona fatu, o le AI i le cloud computing o lona uiga o le faʻaaogaina o faʻavae ao e maua ai:

Nai lo le fa'atauina o au lava masini taugata, e te totogia mea e te mana'omia, pe a e mana'omia NIST SP 800-145 . E pei o le totogia o se faleta'alo mo se tasi fa'amalositino malosi nai lo le fausiaina o se faleta'alo i lau faleta'avale ona e le toe fa'aaogaina lea o le treadmill. E tupu lava lea i tagata sili ona lelei 😬

I se faaupuga faigofie: o le AI e faʻalauteleina, lafoina, faʻafouina, ma faʻagaoioia e ala i atinaʻe ao NIST SP 800-145 .

Aiseā e Taua Tele ai le AI + Ao 🚀

Ia tatou fa'amaoni - o le tele o poloketi fa'a-AI e lē toilalo ona e faigata le matematika. E toilalo ona o le "mea e siomia ai le fa'ata'ita'iga" e fenumia'i:

  • ua salalau fa'amaumauga

  • e lē fetaui siosiomaga

  • e galue le faʻataʻitaʻiga i luga o le komepiuta feaveaʻi a se tasi ae leai se isi mea

  • o le faʻatinoina e taulimaina e pei o se mea na tupu mulimuli ane

  • e tuai ona taunuu le saogalemu ma le tausisia o tulafono e pei o se tausoga e leʻi valaʻaulia 😵

E fesoasoani fa'avae ao aua latou te ofoina atu:

1) Fua fa'atatau elastic 📈

Aoao se faʻataʻitaʻiga i luga o se vaega tele mo sina taimi puupuu, ona tapuni lea NIST SP 800-145 .

2) Fa'ata'ita'iga vave ⚡

Fa'ata'amilo vave ni api tusitusi ua pulea, ni paipa ua uma ona fausia, ma ni fa'ata'ita'iga GPU Google Cloud: GPUs mo le AI .

3) Fa'alautelega faigofie 🌍

Fa'atino fa'ata'ita'iga o ni API, galuega fa'aputu, po'o ni tautua fa'apipi'i Red Hat: O le a le REST API? SageMaker Batch Transform .

4) Fa'atulagaga fa'amaumauga tu'ufa'atasi 🧺

O au paipa fa'amaumauga, faleteuoloa, ma auiliiliga e masani ona iai i totonu o le ao AWS: Faleteuoloa fa'amaumauga vs vaituloto fa'amaumauga .

5) Galulue fa'atasi ma le pulega 🧩

O fa'atagaga, ogalaau su'esu'e, fa'asologa o lomiga, ma meafaigaluega fa'asoa o lo'o fa'apipi'iina i totonu (o nisi taimi e faigata, ae o lo'o iai pea) Azure ML registries (MLOps) .

E Faapefea Ona Galue AI i le Cloud Computing i le Faatinoga (Le Tafe Moni) 🔁

O le olaga masani lea. E lē o le ata atoatoa... o le ata e pei ona masani ai.

Laasaga 1: E tulaueleele faʻamaumauga i le teuina o ao 🪣

Fa'ata'ita'iga: pakete teuina o mea faitino, vaituloto fa'amaumauga, fa'amaumauga ao Amazon S3 (teuina o mea faitino) AWS: O le a le vaituloto fa'amaumauga? Aotelega o le Google Cloud Storage .

Laasaga 2: Fa'agasologa o fa'amaumauga + fausiaina o foliga 🍳

E te fa'amamāina, suia, fatuina ni foliga, atonu e te fa'asalalauina.

Laasaga 3: A'oa'oga fa'ata'ita'i 🏋️

E te fa'aogaina le cloud compute (e masani lava o GPU) e toleni ai le Google Cloud: GPUs mo le AI :

Laasaga 4: Fa'atulagaina 🚢

E afifiina ma tuʻuina atu faʻataʻitaʻiga e ala i:

Laasaga 5: Mata'ituina + fa'afouga 👀

Ala:

O le afi lea. O le AI lea i le Cloud Computing o loʻo gaoioi, e le naʻo se faʻamatalaga.

O le ā e Fai ai se Fa'aliliuga Lelei o le AI i le Cloud Computing? ✅☁️🤖

Afai e te manaʻo i se faʻatinoga "lelei" (e le naʻo se faʻataʻitaʻiga mataʻina), taulaʻi i mea nei:

A) Vaeluaina manino o popolega 🧱

  • vaega o faʻamaumauga (teuina, pulega)

  • vaega o aʻoaʻoga (faʻataʻitaʻiga, paipa)

  • vaega tautua (APIs, fa'ateleina)

  • vaega mata'ituina (fuainumera, ogalaau, lapataiga) SageMaker Model Monitor

A fa'afefiloi mea uma, e avea le fa'aleleia atili o mea sese ma fa'aleagaina fa'alagona.

B) Toe gaosia e ala i le faaletonu 🧪

O se faiga lelei e mafai ai ona e fai atu, e aunoa ma le tau fa'alilolilo:

  • o faʻamaumauga na aʻoaʻoina ai lenei faʻataʻitaʻiga

  • le lomiga fa'akomepiuta

  • o hyperparameters

  • le siosiomaga

Afai o le tali o le “uhh, ou te manatu o le tamoega i le Aso Lua…” ua uma ona e i ai i le faafitauli 😅

C) Fuafuaga taugofie 💸

E mamana le Cloud AI, ae o le auala sili foi lea ona faigofie e faia ai se pili e te fesiligia ai au filifiliga i le olaga.

O faʻatulagaga lelei e aofia ai:

D) Puipuiga ma le tausisia o tulafono ua taoina i totonu o le 🔐

E le toe fa'amauina mulimuli ane e pei o le lipine i se paipa ua tafe.

E) O se ala moni mai le faʻataʻitaʻiga i le gaosiga 🛣️

O le mea tele lea. O se "fa'aliliuga" lelei o le AI i le ao e aofia ai MLOps, mamanu o le fa'atinoina, ma le mata'ituina mai le amataga Google Cloud: O le a le MLOps? . A leai o se galuega fa'asaienisi fa'atasi ai ma se pili matagofie.

Siata Fa'atusatusaga: Filifiliga Lauiloa o le AI-i-le-Ao (Ma Po'o Ai Latou te Fa'amoemoe i ai) 🧰📊

O lo'o i lalo se siata pu'upu'u, e fai si fa'apitoa o manatu. O tau e fa'alauteleina ma le fa'amoemoe aua o le tau i luga o le ao e pei o le fa'atonuina o le kofe - o le tau fa'avae e le o le tau masani 😵💫

Meafaigaluega / Tulaga Le aofia Tau fa'atatau Aiseā e aogā ai (e aofia ai faʻamatalaga uiga ese)
AWS SageMaker 'Au ML, pisinisi Totogi-a-o-e-fa'aaoga Fa'avae ML atoa - a'oa'oga, fa'ai'uga, paipa. Malosi, ae o lisi i soo se mea.
Google Vertex AI 'Au ML, fa'alapotopotoga fa'asaienisi fa'amaumauga Totogi-a-o-e-fa'aaoga A'oa'oga malosi fa'atonutonuina + resitala o fa'ata'ita'iga + feso'ota'iga. E lagona lelei pe a kiliki.
Azure Machine Learning Pisinisi, faʻalapotopotoga e taulaʻi i le MS Totogi-a-o-e-fa'aaoga E fetaui lelei ma le Azure ecosystem. Filifiliga lelei tau pulega, tele fa'amau.
Databricks (ML + Lakehouse) 'Au faigaluega mamafa i le inisinia o fa'amaumauga Lesitala + fa'aaogaina Lelei tele mo le fa'afefiloi o paipa fa'amaumauga ma ML i le nofoaga e tasi. E masani ona fiafia i ai 'au fa'atino.
Fa'aaliga o le Snowflake AI Fa'alapotopotoga e fa'amuamua le au'ili'iliga Fa'avae i le fa'aaogaina E lelei pe a ua i ai lou lalolagi i totonu o se faleteuoloa. E itiiti ifo le "ML lab," ae sili atu le "AI i le SQL-ish."
IBM watsonx Alamanuia fa'atonutonuina Tau o pisinisi O le pulega ma le puleaina o pisinisi o se taulaʻiga tele lea. E masani ona filifilia mo faʻatulagaga e mamafa i tulafono faʻavae.
Kubernetes Pulea (DIY ML) Inisinia o fausaga fa'avae Fesuia'i Fetuutuunai ma fa'apitoa. E le gata i lea… o oe e ana le tiga pe a malepe 🙃
Fa'ai'uga e aunoa ma le 'au'aunaga (galuega + fa'ai'uga) Vaega o oloa Fa'avae i le fa'aaogaina Lelei tele mo feoaiga ma'ai. Mata'ituina le amataga malulu ma le tuai e pei o se aeto.

E lē o le filifilia lea o le “sili ona lelei” - ae o le fa’afetaui lea o le tulaga moni o lau ‘au. O le mealilo faalilolilo lea.

Fa'aaogāga Masani mo le AI i le Cloud Computing (Fa'atasi ai ma Fa'ata'ita'iga) 🧩✨

O le mea lea e sili ona lelei ai faʻatulagaga AI-i-le-ao:

1) Fa'aautomatika le lagolago a tagata fa'atau 💬

2) Faiga fautuaina 🛒

  • fautuaga oloa

  • fafaga o anotusi

  • “na faʻatau foʻi e tagata”
    E masani ona manaʻomia e nei mea se faʻaiuga e mafai ona faʻalauteleina ma faʻafouga e toetoe lava o le taimi moni.

3) Iloa o faiga taufaasese ma le fuaina o tulaga lamatia 🕵️

E faigofie ai i le ao ona taulimaina ni fa'asologa o fa'asalalauga (bursts), fa'asalalau ni mea tutupu, ma fa'atautaia ni fa'apotopotoga.

4) Atamai i pepa aloaia 📄

5) Vavalo ma le faʻaleleia atili o le tomai 📦

Vavalo i le manaʻoga, fuafuaina o oloa, faʻaleleia atili o auala. E fesoasoani le ao ona e tele faʻamaumauga ma e masani ona toe faia aʻoaʻoga.

6) Polokalama fa'a-AI e gaosia 🪄

  • tusiaina o anotusi

  • fesoasoani i tulafono faakomepiuta

  • bots malamalama i totonu (RAG)

  • gaosiga o faʻamaumauga faʻapitoa Pepa o le Toe Mauaina-Faʻateleina o le Tupulaga (RAG)
    O le taimi masani lea e iu ai ina fai mai kamupani: "E manaʻomia ona tatou iloa po o fea o iai a tatou tulafono o le mauaina o faʻamaumauga." 😬

O mamanu faufale e te vaʻaia i soo se mea 🏗️

Fa'ata'ita'iga 1: Fa'avae ML Pulea (o le auala "matou te mana'o e fa'aitiitia le tiga o le ulu") 😌

E aoga lelei pe a taua le saoasaoa ma e te lē manaʻo e fausia ni meafaigaluega i totonu mai le amataga.

Mamanu 2: Lakehouse + ML (le auala "fa'amuamua fa'amaumauga") 🏞️

  • fa'atasia le fa'ainisinia fa'amaumauga + galuega fa'atino ML

  • fa'atino ni api tusitusi, ni paipa, ma ni fa'ainisinia o foliga e lata ane i fa'amaumauga

  • malosi mo faʻalapotopotoga ua uma ona nonofo i totonu o faiga faʻataʻitaʻi tetele Databricks Lakehouse

Fa'ata'ita'iga 3: ML fa'aputu i luga o Kubernetes (le auala "matou te mana'o i le pulea") 🎛️

  • faʻataʻitaʻiga afifi i totonu o koneteina

  • fa'atatauina ma faiga fa'avae fa'a-autoscaling Kubernetes: Horizontal Pod Autoscaling

  • tu'ufa'atasia le upega tautua, mata'ituina, pulega o mea lilo

Ua lauiloa foi o le: "Matou te mautinoa, ma matou te fiafia foi e faaleleia mea sese i taimi eseese."

Fa'ata'ita'iga 4: RAG (Tupulaga Toe Mauaina-Fa'ateleina) (o le auala "fa'aaoga lou malamalama") 📚🤝

O se vaega tāua tele lea o talanoaga faʻaonaponei e uiga i le AI-i-le-ao auā o le auala lea e faʻaogaina ai e le tele o pisinisi moni le AI faʻatupuina ma le saogalemu.

MLOps: O le Vaega e Fa'atauva'a i ai Tagata Uma 🧯

Afai e te manaʻo i le AI i le ao e galue i le gaosiga, e te manaʻomia MLOps. E le ona o se mea faʻaonaponei - ona o le fesuiaʻiga o faʻataʻitaʻiga, suiga o faʻamaumauga, ma le fatufatuaʻi o tagata faʻaoga i le auala sili ona leaga Google Cloud: O le a le MLOps? .

Vaega autū:

Afai e te lē amanaʻiaina lenei mea, o le a e iʻu lava ina avea ma se “faʻataʻitaʻiga o le fale manu” 🦓 lea e ola mea uma, e leai se mea e faʻailogaina, ma e te fefe e tatala le faitotoʻa.

Saogalemu, Tulaga Faalilolilo, ma le Tausisia o Tulafono (E le o se Vaega Fiafia, Ae… Ioe) 🔐😅

O le AI i le cloud computing e laga ai ni nai fesili faigata:

Puleaina o le mauaina o faʻamatalaga 🧾

O ai e mafai ona maua faʻamatalaga o aʻoaʻoga? Faʻamaumauga o faʻamatalaga? Faʻatonuga? Taunuʻuga?

Fa'ailoga faalilolilo ma mea lilo 🗝️

E manaʻomia e ki, faʻailoga, ma faʻamaoniga ona taulimaina lelei. O le "I totonu o se faila faʻatulagaina" e le o le taulimaina.

Tuueseeseina ma le nofo mautotogi 🧱

O nisi fa'alapotopotoga e mana'omia ni siosiomaga eseese mo le atina'eina, fa'atulagaina, ma le gaosiga. E fesoasoani le ao - pe afai e te fa'atulaga lelei.

Su'esu'ega 📋

E masani ona manaʻomia e faʻalapotopotoga faʻatonutonu ona faʻaalia:

  • o a faʻamaumauga na faʻaaogaina

  • le auala na faia ai faaiuga

  • o ai na fa'atinoina le a

  • ina ua suia le IBM watsonx.governance

Pulega o tulaga lamatia faʻataʻitaʻiga ⚠️

E aofia ai:

  • siaki fa'aitu'au

  • tofotofoga fa'afeagai

  • puipuiga vave o tui (mo le AI gaosia)

  • fa'amama saogalemu o le fa'aulufalega

O nei mea uma e toe foʻi i le manatu autū: e lē na o le “AI e talimaloina i luga ole initaneti.” Ae o le AI e faʻagaoioia i lalo o ni tapulaʻa moni.

Fautuaga mo Tau ma le Fa'atinoga (Ina ia 'Aua Ne'i Tagi Mulimuli Ane) 💸😵💫

O ni nai fautuaga ua uma ona tofotofoina:

  • Faaaoga le faʻataʻitaʻiga aupito laʻititi e fetaui ma le manaʻoga
    . E lē o taimi uma e sili atu le telē. O nisi taimi e naʻo le… telē.

  • Fa'ai'uga fa'aputuga pe a mafai
    SageMaker Batch Transform taugofie ma sili atu ona lelei .

  • Fa'aaoga ma le malosi le teuina o fa'amaumauga
    aemaise lava mo fesili ma mea e fa'apipi'i soo.

  • Fa'afuafua otometi, ae fa'atapula'a.
    O le fa'afuafuaina e le fa'atapula'aina e mafai ona fa'auigaina ai le fa'aaluina e le fa'atapula'aina. Kubernetes: Horizontal Pod Autoscaling . Fesili mai pe fa'apefea ona ou iloa… o le mea moni, aua 😬

  • Siaki le tau o vaega taʻitasi ma vaega taʻitasi.
    A leai o le a e faʻaleleia atili le mea sese.

  • Faaaoga le spot-preemptible compute mo aoaoga.
    E tele ni sefega pe afai e mafai e au galuega aoaoga ona taulimaina ni faalavelave. Amazon EC2 Spot Instances Google Cloud Preemptible VMs .

Mea Sese e Fai e Tagata (E oo lava i 'Au Atamai) 🤦♂️

  • O le taulimaina o le cloud AI e pei o le "na'o le fa'apipi'iina o se fa'ata'ita'iga"

  • Le amana'iaina o le lelei o fa'amaumauga se'ia o'o i le minute mulimuli

  • Lafoina atu o se faʻataʻitaʻiga e aunoa ma le mataʻituina o le SageMaker Model Monitor

  • E le o fuafua e toe a'oa'oina le cadence Google Cloud: O le a le MLOps?

  • Galo ai o loo iai pea 'au puipuiga se'ia oo i le vaiaso o le fa'alauiloaina 😬

  • Soona fa'ainisinia mai le aso muamua (o nisi taimi e manumalo ai se fa'avae faigofie)

E le gata i lea, o se mea e matuā sauā lava: e lē o ta’uleleia e 'au le tele o le 'ino'ino o tagata fa'aoga i le fa'atuai. O se fa'ata'ita'iga e fai si itiiti le sa'o ae vave e masani ona manumalo. E lē onosa'i tagata i vavega laiti.

Manatu Autū 🧾✅

O le AI i le Cloud Computing o le fa'atinoga atoa lea o le fausiaina ma le fa'agaoioia o le AI e fa'aaoga ai le atina'e o le ao - fa'ateleina o a'oa'oga, fa'afaigofieina o le fa'atinoina, tu'ufa'atasia o paipa fa'amaumauga, ma le fa'atinoina o fa'ata'ita'iga ma MLOps, saogalemu, ma le pulega Google Cloud: O le a le MLOps? NIST SP 800-145 .

Aotelega puupuu:

  • E tu'uina atu e le ao i le AI le atina'e e fa'alautele ma lafo 🚀 NIST SP 800-145

  • E tu'uina atu e le AI i galuega fa'atino i le ao ni "mafaufau" e fa'aautomatika ai fa'ai'uga 🤖

  • O le togafiti fa'ataulāitu e lē na'o le a'oa'oga - ae o le fa'atinoina, mata'ituina, ma le pulega 🧠🔐 SageMaker Model Monitor

  • Filifili ni fa'avae e fa'atatau i mana'oga o le 'au, ae le o le puao o maketi 📌

  • Matamata i tau ma galuega e pei o se aeto o loʻo ofuina ni mata tioata 🦅👓 (o se faʻataʻitaʻiga leaga, ae ua e malamalama i ai)

Afai na e sau iinei ma mafaufau “O le AI i le cloud computing ua na o se faʻataʻitaʻiga API,” leai - o se faiga atoa lava. O nisi taimi e matagofie, o nisi taimi e fenumiai, o nisi taimi e lua i le aoauli e tasi 😅☁️

Fesili e Masani Ona Fesiligia

O le uiga o le "AI i le cloud computing" i faaupuga masani

O le AI i le cloud computing o lona uiga e te faʻaaogaina faʻavae ao e teu ai faʻamatalaga, faʻaleleia le compute (CPUs/GPUs/TPUs), toleni faʻataʻitaʻiga, faʻapipiʻi, ma mataʻituina - e aunoa ma le umiaina o masini komepiuta. I le faʻatinoina, e avea le ao ma nofoaga e faʻatino ai lau taʻamilosaga atoa o le AI. E te totogia mea e te manaʻomia pe a e manaʻomia, ona faʻaitiitia lea pe a maeʻa.

Aiseā e lē manuia ai galuega faatino a le AI e aunoa ma ni atina'e fa'a-ao ma MLOps

O le tele o fa'aletonu e tutupu i totonu o le fa'ata'ita'iga, ae le o totonu: fa'amaumauga e le tutusa, siosiomaga e le fetaui, fa'aogaina vaivai, ma leai se mata'ituina. E fesoasoani meafaigaluega ao e fa'atulaga lelei le teuina, fa'akomepiuta, ma mamanu fa'aogaina ina ia le pipii ai fa'ata'ita'iga i le "na aoga i la'u komepiuta feavea'i." E fa'aopoopo e le MLOps le mea e misi: siaki, resitala, paipa, ma le toe fa'afo'i ina ia tumau le toe gaosia ma le tausia o le polokalama.

O le faiga masani o galuega mo le AI i le cloud computing, mai faʻamaumauga i le gaosiga

O se tafega masani o le: e tulaueleele fa'amaumauga i le teuina o ao, fa'agasoloina i ni vaega, ona toleni lea o fa'ata'ita'iga i luga o le komepiuta e mafai ona fa'ateleina. Sosoo ai, e te fa'apipi'i e ala i se API endpoint, galuega fa'aputu, seti e leai se 'au'aunaga, po'o se tautua Kubernetes. Mulimuli ane, e te mata'ituina le latency, drift, ma le tau, ona toe fa'ata'ita'i lea i le toe toleniina ma fa'apipi'i saogalemu. O le tele o paipa moni e fa'asolosolo pea nai lo le lafoina fa'atasi.

Filifiliga i le va o SageMaker, Vertex AI, Azure ML, Databricks, ma Kubernetes

Filifili e faʻatatau i le tulaga moni o lau 'au, ae le o le pisa o maketiga "sili ona lelei". O faʻavae ML pulea (SageMaker/Vertex AI/Azure ML) e faʻaitiitia ai le faʻalavelave faʻatino i galuega faʻaaʻoaʻoga, faʻaiʻuga, resitala, ma le mataʻituina. E masani ona fetaui Databricks ma 'au e tele faʻainisinia faʻamaumauga e mananaʻo i le ML e latalata i paipa ma auʻiliʻiliga. E tuʻuina atu e Kubernetes le pulea sili ma le faʻapitoa, ae e te umia foʻi le faʻatuatuaina, faiga faʻavae faʻateleina, ma le faʻaleleia o mea pe a faʻaletonu mea.

O mamanu fausaga e sili ona aliali mai i faʻatulagaga ao AI i aso nei

O le a e vaʻaia pea lava pea ni mamanu e fa: o faʻavae ML pulea mo le saoasaoa, lakehouse + ML mo faʻalapotopotoga faʻamuamua faʻamaumauga, ML faʻapipiʻiina i luga o Kubernetes mo le pulea, ma le RAG (toe maua mai-faʻateleina le gaosiga) mo le "faʻaaoga o tatou malamalama i totonu ma le saogalemu." E masani ona aofia ai e le RAG pepa i le teuina o ao, faʻapipiʻiga + se faleoloa vector, se vaega toe maua mai, ma pulega avanoa faʻatasi ai ma le faʻamauina. O le mamanu e te filifilia e tatau ona fetaui ma lau pulega ma le matua o galuega.

Auala e fa'atino ai e 'au ni fa'ata'ita'iga o le cloud AI: REST APIs, batch jobs, serverless, po'o Kubernetes

E masani ona fa'aaogaina REST API mo vavalo i le taimi moni pe a taua le fa'atuai o oloa. E sili ona lelei le fa'ai'uga o le vaega mo le fa'atulagaina o togi ma le fa'aleleia o tau, aemaise lava pe a le mana'omia ona vave ona maua ni taunu'uga. E mafai ona aoga lelei serverless endpoints mo feoa'iga fa'afuase'i, ae e mana'omia le gauai atu i amataga malulu ma le fa'atuai. E fetaui lelei Kubernetes pe a e mana'omia le fa'atulagaina lelei ma le tu'ufa'atasia ma meafaigaluega fa'avae, ae e fa'aopoopoina ai le faigata o le fa'agaioiga.

Mea e mata'ituina i le gaosiga ina ia maloloina lelei ai polokalama fa'a-AI

I le itiiti ifo, siaki le latency, fua faatatau o mea sese, ma le tau i le valo'aga ina ia mautinoa le mautinoa ma le paketi. I le itu ML, mata'ituina le fesuia'iga o fa'amaumauga ma le fesuia'iga o le fa'atinoga e iloa ai pe a suia le mea moni i lalo o le fa'ata'ita'iga. E taua fo'i mataupu o pito i tua o le logging ma taunuuga leaga, aemaise lava mo mataupu fa'aoga generative lea e mafai ai e tagata fa'aoga ona fete'ena'i ma le fatufatua'i. O le mata'ituina lelei e lagolagoina ai fo'i fa'ai'uga e toe fa'afo'i ai pe a toe fo'i i tua fa'ata'ita'iga.

Fa'aitiitia o tau o le cloud AI e aunoa ma le fa'aitiitia o le fa'atinoga

O se auala masani o le faʻaaogaina lea o le faʻataʻitaʻiga aupito laʻititi e fetaui ma le manaʻoga, ona faʻaleleia lea o le faʻaiʻuga i le faʻapipiʻiina ma le teuina o mea. E fesoasoani le faʻatulagaina otometi, ae e manaʻomia ni tapulaʻa ina ia aua neʻi avea le "elastic" ma "tupe faʻaalu e le faʻatapulaʻaina." Mo aʻoaʻoga, e mafai e le faʻatusatusaga vave/preemptible ona sefe tele pe afai e onosaʻi au galuega i faʻalavelave. O le siakiina o tau i le endpoint ma le feature e taofia ai oe mai le faʻaleleia atili o le vaega sese o le polokalama.

O lamatiaga sili ona tetele i le saogalemu ma le tausisia o tulafono ma le AI i le ao

O tulaga lamatia tetele o le le pulea o faʻamaumauga, le vaivai o le puleaina o mea lilo, ma le leiloa o auala suʻesuʻe mo i latou na aʻoaʻoina ma faʻaaogaina. O le Generative AI e faʻaopoopoina ai ni faʻafitauli faʻaopoopo e pei o le vave tuiina, le le saogalemu o galuega faatino, ma faʻamatalaga taua o loʻo aliali mai i totonu o ogalaau. E tele paipa e manaʻomia le vavaeʻeseina o le siosiomaga (dev/staging/prod) ma ni faiga faʻavae manino mo faʻamatalaga, galuega faatino, ma le faʻamauina o faʻamatalaga. O faʻatulagaga sili ona saogalemu e taulimaina le pulega o se manaʻoga autu o le polokalama, ae le o se faʻapipiʻiga i le vaiaso o le faʻalauiloaina.

Fa'asinomaga

  1. Inisetiute Fa'aleatunuu o Tulaga Fa'atonuina ma Tekonolosi (NIST) - SP 800-145 (Fa'ai'uga) - csrc.nist.gov

  2. Google Cloud - GPU mo le AI - cloud.google.com

  3. Google Cloud - Pepa fa'amaumau o le Cloud TPU - docs.cloud.google.com

  4. Auaunaga Upega Tafaʻilagi a le Amazon (AWS) - Amazon S3 (teuina o meafaitino) - aws.amazon.com

  5. Auaunaga Upega Tafaʻilagi a le Amazon (AWS) - O le ā le vaituloto o faʻamaumauga? - aws.amazon.com

  6. Amazon Web Services (AWS) - O le ā le faleteuoloa o faʻamaumauga? - aws.amazon.com

  7. Auaunaga Upega Tafaʻilagi a le Amazon (AWS) - Auaunaga AWS AI - aws.amazon.com

  8. Google Cloud - Google Cloud AI APIs - cloud.google.com

  9. Google Cloud - O le ā le MLOps? - cloud.google.com

  10. Google Cloud - Vertex AI Model Registry (Fa'atomuaga) - docs.cloud.google.com

  11. Red Hat - O le ā le REST API? - redhat.com

  12. Pepa Fa'amaumau o Auaunaga Upega Tafa'ilagi a le Amazon (AWS) - SageMaker Batch Transform - docs.aws.amazon.com

  13. Auaunaga Upega Tafaʻilagi a le Amazon (AWS) - Faleteuoloa Faʻamaumauga vs. Data Lake vs. Data Mart - aws.amazon.com

  14. Microsoft Learn - resitala Azure ML (MLOps) - learn.microsoft.com

  15. Google Cloud - Aotelega o le Google Cloud Storage - docs.cloud.google.com

  16. arXiv - Pepa o le Toe Fa'aleleia-Fa'ateleina o le Tupulaga (RAG) - arxiv.org

  17. Pepa Fa'amaumau o Auaunaga Upega Tafa'ilagi a le Amazon (AWS) - SageMaker Serverless Inference - docs.aws.amazon.com

  18. Kubernetes - Fa'atulagaina Aunoa o le Horizontal Pod - kubernetes.io

  19. Google Cloud - Vertex AI vaʻaiga faʻapitoa - docs.cloud.google.com

  20. Pepa Fa'amaumau o Auaunaga Upega Tafa'ilagi a le Amazon (AWS) - SageMaker Model Monitor - docs.aws.amazon.com

  21. Google Cloud - Vertex AI Model Monitoring (Fa'aaogaina o le mata'ituina o le fa'ata'ita'iga) - docs.cloud.google.com

  22. Auaunaga Upega Tafa'ilagi a le Amazon (AWS) - Fa'ata'ita'iga o le Amazon EC2 Spot - aws.amazon.com

  23. Google Cloud - VM e le mafai ona taofia - docs.cloud.google.com

  24. Pepa Fa'amaumau o Auaunaga Upega Tafa'ilagi a le Amazon (AWS) - AWS SageMaker: Fa'afefea ona galue (A'oa'oga) - docs.aws.amazon.com

  25. Google Ao - Google Vertex AI - cloud.google.com

  26. Microsoft Azure - Azure Machine Learning - azure.microsoft.com

  27. Databricks - Databricks Lakehouse - databricks.com

  28. Pepa Fa'amaumau o le Snowflake - Vaega o le Snowflake AI (Ta'iala Aotelega) - docs.snowflake.com

  29. IBM - IBM watsonx - ibm.com

  30. Google Cloud - Pepa fa'amaumau o le Cloud Natural Language API - docs.cloud.google.com

  31. Pepa Fa'amaumau o le Snowflake - Snowflake Cortex AI Functions (AI SQL) - docs.snowflake.com

  32. MLflow - Siakiina o le MLflow - mlflow.org

  33. MLflow - Resitala Fa'ata'ita'iga MLflow - mlflow.org

  34. Google Cloud - MLOps: Fa'aauau pea ona tu'uina atu ma fa'agasologa otometi i le a'oa'oina o masini - cloud.google.com

  35. Auaunaga Upega Tafa'ilagi a le Amazon (AWS) - Faleoloa o Mea Taua a le SageMaker - aws.amazon.com

  36. IBM - IBM watsonx.governance - ibm.com

Saili le AI Fou i le Faleoloa Aloaia o Fesoasoani AI

Faatatau ia tatou

Toe foʻi i le blog