Tali puupuu: O le AI i le cloud computing e faʻatatau i le faʻaaogaina o faʻavae ao e teu ai faʻamatalaga, faʻafaigaluegaina o komepiuta, aʻoaʻoina faʻataʻitaʻiga, faʻapipiʻiina o ni tautua, ma mataʻituina i le gaosiga. E taua tele aua o le tele o faʻaletonu e faʻapotopoto i faʻamatalaga, faʻapipiʻiina, ma faʻagaioiga, ae le o le matematika. Afai e te manaʻomia le faʻateleina vave poʻo le toe faʻaleleia, o le cloud + MLOps o le auala aoga lea.
Manatu autū:
Taamilosaga o le Olaga: Fa'amaumauga o le laueleele, foliga o le fausiaina, a'oa'o, fa'atulaga, ona mata'ituina lea o le fesuia'iga, le latency, ma le tau.
Pulega: Fausia ni pulega o avanoa, ogalaau su'esu'e, ma le vavae'eseina o siosiomaga mai le amataga.
Toe gaosia: Fa'amaumau fa'aliliuga o fa'amaumauga, code, parameters, ma siosiomaga ina ia tumau ai le mafai ona toe faia o fa'atinoga.
Puleaina o tau: Faaaoga le batching, caching, autoscaling caps, ma aoaoga vave/preemptible e aloese ai mai pili tete'e.
Fa'ata'ita'iga o le fa'atinoina: Filifili fa'avae pulea, ala o galuega a le lakehouse, Kubernetes, po'o le RAG e fa'atatau i le tulaga moni o le 'au.
O tala e te ono fia faitauina pe a uma lenei:
🔗 Meafaigaluega sili ona lelei mo le pulega o pisinisi i le ao AI
Fa'atusatusa fa'avae ao ta'imua e fa'afaigofie ai galuega, tupe, ma 'au.
🔗 Tekinolosi e manaʻomia mo le tele o le AI gaosia
E manaʻomia atinaʻe autū, faʻamaumauga, ma le pulega e faʻatino ai le GenAI.
🔗 Meafaigaluega AI e leai se totogi mo le au'ili'iliga o fa'amaumauga
O fofo sili ona lelei fa'a-AI e leai se totogi e fa'amamā ai, fa'ata'ita'i ai, ma va'ai fa'atasi ai ma fa'amaumauga.
🔗 O le ā le AI o se tautua?
Fa'amatalaina le AIaaS, fa'amanuiaga, fa'ata'ita'iga o tau, ma fa'aoga masani a pisinisi.
AI i le Cloud Computing: O le Faʻamatalaga Faigofie 🧠☁️
I lona fatu, o le AI i le cloud computing o lona uiga o le faʻaaogaina o faʻavae ao e maua ai:
-
Malosiaga fa'akomepiuta (CPU, GPU, TPU) Google Cloud: GPU mo pepa fa'amaumau AI Cloud TPU
-
Teuina (vaituloto o faʻamaumauga, faleteuoloa, teuina o meafaitino) AWS: O le a le vaituloto o faʻamaumauga? AWS: O le a le faleteuoloa o faʻamaumauga? Amazon S3 (teuina o meafaitino)
-
Auaunaga AI (a'oa'oga fa'ata'ita'i, fa'atinoina, API mo le va'ai, tautala, NLP) Auaunaga AWS AI Google Cloud AI APIs
-
Meafaigaluega MLOps (paipa, mata'ituina, resitala fa'ata'ita'iga, CI-CD mo ML) Google Cloud: O le ā le MLOps? Vertex AI Model Registry
Nai lo le fa'atauina o au lava masini taugata, e te totogia mea e te mana'omia, pe a e mana'omia NIST SP 800-145. E pei o le totogia o se faleta'alo mo se tasi fa'amalositino malosi nai lo le fausiaina o se faleta'alo i lau faleta'avale ona e le toe fa'aaogaina lea o le treadmill. E tupu lava lea i tagata sili ona lelei 😬
I se faaupuga faigofie: o le AI e faʻalauteleina, lafoina, faʻafouina, ma faʻagaoioia e ala i atinaʻe ao NIST SP 800-145.
Aiseā e Taua Tele ai le AI + Ao 🚀
Ia tatou fa'amaoni - o le tele o poloketi fa'a-AI e lē toilalo ona e faigata le matematika. E toilalo ona o le "mea e siomia ai le fa'ata'ita'iga" e fenumia'i:
-
ua salalau fa'amaumauga
-
e lē fetaui siosiomaga
-
e galue le faʻataʻitaʻiga i luga o le komepiuta feaveaʻi a se tasi ae leai se isi mea
-
o le faʻatinoina e taulimaina e pei o se mea na tupu mulimuli ane
-
e tuai ona taunuu le saogalemu ma le tausisia o tulafono e pei o se tausoga e leʻi valaʻaulia 😵
E fesoasoani fa'avae ao aua latou te ofoina atu:
1) Fua fa'atatau elastic 📈
Aoao se faʻataʻitaʻiga i luga o se vaega tele mo sina taimi puupuu, ona tapuni lea NIST SP 800-145.
2) Fa'ata'ita'iga vave ⚡
Fa'ata'amilo vave ni api tusitusi ua pulea, ni paipa ua uma ona fausia, ma ni fa'ata'ita'iga GPU Google Cloud: GPUs mo le AI.
3) Fa'alautelega faigofie 🌍
Fa'atino fa'ata'ita'iga o ni API, galuega fa'aputu, po'o ni tautua fa'apipi'i Red Hat: O le a le REST API? SageMaker Batch Transform.
4) Fa'atulagaga fa'amaumauga tu'ufa'atasi 🧺
O au paipa fa'amaumauga, faleteuoloa, ma auiliiliga e masani ona iai i totonu o le ao AWS: Faleteuoloa fa'amaumauga vs vaituloto fa'amaumauga.
5) Galulue fa'atasi ma le pulega 🧩
O fa'atagaga, ogalaau su'esu'e, fa'asologa o lomiga, ma meafaigaluega fa'asoa o lo'o fa'apipi'iina i totonu (o nisi taimi e faigata, ae o lo'o iai pea) Azure ML registries (MLOps).
E Faapefea Ona Galue AI i le Cloud Computing i le Faatinoga (Le Tafe Moni) 🔁
O le olaga masani lea. E lē o le ata atoatoa... o le ata e pei ona masani ai.
Laasaga 1: E tulaueleele faʻamaumauga i le teuina o ao 🪣
Fa'ata'ita'iga: pakete teuina o mea faitino, vaituloto fa'amaumauga, fa'amaumauga ao Amazon S3 (teuina o mea faitino) AWS: O le a le vaituloto fa'amaumauga? Aotelega o le Google Cloud Storage.
Laasaga 2: Fa'agasologa o fa'amaumauga + fausiaina o foliga 🍳
E te fa'amamāina, suia, fatuina ni foliga, atonu e te fa'asalalauina.
Laasaga 3: A'oa'oga fa'ata'ita'i 🏋️
E te fa'aogaina le cloud compute (e masani lava o GPU) e toleni ai le Google Cloud: GPUs mo le AI:
-
faʻataʻitaʻiga ML masani
-
faʻataʻitaʻiga o le aʻoaʻoina loloto
-
fa'aleleia atili o le fa'ata'ita'iga fa'avae
-
faiga e toe maua mai ai (fa'atulagaga fa'a-RAG) Pepa o le Toe Mauaina-Fa'ateleina o le Tupulaga (RAG)
Laasaga 4: Fa'atulagaina 🚢
E afifiina ma tuʻuina atu faʻataʻitaʻiga e ala i:
-
REST APIs Red Hat: O le ā le REST API?
-
Fa'ai'uga e aunoa ma se 'au'aunaga SageMaker Fa'ai'uga e aunoa ma se 'au'aunaga
-
Koneteina Kubernetes Kubernetes: Fa'atulagaina Aunoa o Pod Fa'alava
-
paipa fa'atusatusaga fa'aputuga SageMaker Batch Transform Vertex AI valo'aga fa'aputuga
Laasaga 5: Mata'ituina + fa'afouga 👀
Ala:
-
fa'atuai
-
sa'o le fe'avea'i o le SageMaker Model Monitor
-
le fesuia'iga o fa'amaumauga Vertex AI Model Monitoring
-
tau i le valo'aga
-
o ni mataupu pito i tua e te musumusu ai "e le tatau ona mafai lenei mea..." 😭
O le afi lea. O le AI lea i le Cloud Computing o loʻo gaoioi, e le naʻo se faʻamatalaga.
O le ā e Fai ai se Fa'aliliuga Lelei o le AI i le Cloud Computing? ✅☁️🤖
Afai e te manaʻo i se faʻatinoga "lelei" (e le naʻo se faʻataʻitaʻiga mataʻina), taulaʻi i mea nei:
A) Vaeluaina manino o popolega 🧱
-
vaega o faʻamaumauga (teuina, pulega)
-
vaega o aʻoaʻoga (faʻataʻitaʻiga, paipa)
-
vaega tautua (APIs, fa'ateleina)
-
vaega mata'ituina (fuainumera, ogalaau, lapataiga) SageMaker Model Monitor
A fa'afefiloi mea uma, e avea le fa'aleleia atili o mea sese ma fa'aleagaina fa'alagona.
B) Toe gaosia e ala i le faaletonu 🧪
O se faiga lelei e mafai ai ona e fai atu, e aunoa ma le tau fa'alilolilo:
-
o faʻamaumauga na aʻoaʻoina ai lenei faʻataʻitaʻiga
-
le lomiga fa'akomepiuta
-
o hyperparameters
-
le siosiomaga
Afai o le tali o le “uhh, ou te manatu o le tamoega i le Aso Lua…” ua uma ona e i ai i le faafitauli 😅
C) Fuafuaga taugofie 💸
E mamana le Cloud AI, ae o le auala sili foi lea ona faigofie e faia ai se pili e te fesiligia ai au filifiliga i le olaga.
O faʻatulagaga lelei e aofia ai:
-
fa'ateleina otometi Kubernetes: Fa'ateleina otometi o le Horizontal Pod
-
fa'atulagaina o fa'ata'ita'iga
-
filifiliga e mafai ona fa'atulaga muamua pe a mafai Amazon EC2 Spot Instances Google Cloud Preemptible VMs
-
fa'amatalaga o le teuina ma le fa'aputuina o le SageMaker Batch Transform
D) Puipuiga ma le tausisia o tulafono ua taoina i totonu o le 🔐
E le toe fa'amauina mulimuli ane e pei o le lipine i se paipa ua tafe.
E) O se ala moni mai le faʻataʻitaʻiga i le gaosiga 🛣️
O le mea tele lea. O se "fa'aliliuga" lelei o le AI i le ao e aofia ai MLOps, mamanu o le fa'atinoina, ma le mata'ituina mai le amataga Google Cloud: O le a le MLOps?. A leai o se galuega fa'asaienisi fa'atasi ai ma se pili matagofie.
Siata Fa'atusatusaga: Filifiliga Lauiloa o le AI-i-le-Ao (Ma Po'o Ai Latou te Fa'amoemoe i ai) 🧰📊
O lo'o i lalo se siata pu'upu'u, e fai si fa'apitoa o manatu. O tau e fa'alauteleina ma le fa'amoemoe aua o le tau i luga o le ao e pei o le fa'atonuina o le kofe - o le tau fa'avae e le o le tau masani 😵💫
| Meafaigaluega / Tulaga | Le aofia | Tau fa'atatau | Aiseā e aogā ai (e aofia ai faʻamatalaga uiga ese) |
|---|---|---|---|
| AWS SageMaker | 'Au ML, pisinisi | Totogi-a-o-e-fa'aaoga | Fa'avae ML atoa - a'oa'oga, fa'ai'uga, paipa. Malosi, ae o lisi i soo se mea. |
| Google Vertex AI | 'Au ML, fa'alapotopotoga fa'asaienisi fa'amaumauga | Totogi-a-o-e-fa'aaoga | A'oa'oga malosi fa'atonutonuina + resitala o fa'ata'ita'iga + feso'ota'iga. E lagona lelei pe a kiliki. |
| Azure Machine Learning | Pisinisi, faʻalapotopotoga e taulaʻi i le MS | Totogi-a-o-e-fa'aaoga | E fetaui lelei ma le Azure ecosystem. Filifiliga lelei tau pulega, tele fa'amau. |
| Databricks (ML + Lakehouse) | 'Au faigaluega mamafa i le inisinia o fa'amaumauga | Lesitala + fa'aaogaina | Lelei tele mo le fa'afefiloi o paipa fa'amaumauga ma ML i le nofoaga e tasi. E masani ona fiafia i ai 'au fa'atino. |
| Fa'aaliga o le Snowflake AI | Fa'alapotopotoga e fa'amuamua le au'ili'iliga | Fa'avae i le fa'aaogaina | E lelei pe a ua i ai lou lalolagi i totonu o se faleteuoloa. E itiiti ifo le "ML lab," ae sili atu le "AI i le SQL-ish." |
| IBM watsonx | Alamanuia fa'atonutonuina | Tau o pisinisi | O le pulega ma le puleaina o pisinisi o se taulaʻiga tele lea. E masani ona filifilia mo faʻatulagaga e mamafa i tulafono faʻavae. |
| Kubernetes Pulea (DIY ML) | Inisinia o fausaga fa'avae | Fesuia'i | Fetuutuunai ma fa'apitoa. E le gata i lea… o oe e ana le tiga pe a malepe 🙃 |
| Fa'ai'uga e aunoa ma le 'au'aunaga (galuega + fa'ai'uga) | Vaega o oloa | Fa'avae i le fa'aaogaina | Lelei tele mo feoaiga ma'ai. Mata'ituina le amataga malulu ma le tuai e pei o se aeto. |
E lē o le filifilia lea o le “sili ona lelei” - ae o le fa’afetaui lea o le tulaga moni o lau ‘au. O le mealilo faalilolilo lea.
Fa'aaogāga Masani mo le AI i le Cloud Computing (Fa'atasi ai ma Fa'ata'ita'iga) 🧩✨
O le mea lea e sili ona lelei ai faʻatulagaga AI-i-le-ao:
1) Fa'aautomatika le lagolago a tagata fa'atau 💬
-
fesoasoani talatalanoaga
-
fa'asologa o tiketi
-
aotelega
-
le iloa o lagona ma le fa'amoemoega o le Cloud Natural Language API
2) Faiga fautuaina 🛒
-
fautuaga oloa
-
fafaga o anotusi
-
“na faʻatau foʻi e tagata”
E masani ona manaʻomia e nei mea se faʻaiuga e mafai ona faʻalauteleina ma faʻafouga e toetoe lava o le taimi moni.
3) Iloa o faiga taufaasese ma le fuaina o tulaga lamatia 🕵️
E faigofie ai i le ao ona taulimaina ni fa'asologa o fa'asalalauga (bursts), fa'asalalau ni mea tutupu, ma fa'atautaia ni fa'apotopotoga.
4) Atamai i pepa aloaia 📄
-
Paipa OCR
-
aveeseina o le vaega
-
auiliiliga o konekarate
-
iloiloga o pili Galuega Faatino a le Snowflake Cortex AI
I le tele o faalapotopotoga, o le mea lea e toe faafoi filemu mai ai le taimi.
5) Vavalo ma le faʻaleleia atili o le tomai 📦
Vavalo i le manaʻoga, fuafuaina o oloa, faʻaleleia atili o auala. E fesoasoani le ao ona e tele faʻamaumauga ma e masani ona toe faia aʻoaʻoga.
6) Polokalama fa'a-AI e gaosia 🪄
-
tusiaina o anotusi
-
fesoasoani i tulafono faakomepiuta
-
bots malamalama i totonu (RAG)
-
gaosiga o faʻamaumauga faʻapitoa Pepa o le Toe Mauaina-Faʻateleina o le Tupulaga (RAG)
O le taimi masani lea e iu ai ina fai mai kamupani: "E manaʻomia ona tatou iloa po o fea o iai a tatou tulafono o le mauaina o faʻamaumauga." 😬
O mamanu faufale e te vaʻaia i soo se mea 🏗️
Fa'ata'ita'iga 1: Fa'avae ML Pulea (o le auala "matou te mana'o e fa'aitiitia le tiga o le ulu") 😌
-
la'uina i luga fa'amatalaga
-
a'oa'o i galuega fa'atautaia
-
fa'atino i nofoaga e pulea
-
mata'ituina i totonu o dashboards fa'avae SageMaker Model Monitor Vertex AI Model Monitoring
E aoga lelei pe a taua le saoasaoa ma e te lē manaʻo e fausia ni meafaigaluega i totonu mai le amataga.
Mamanu 2: Lakehouse + ML (le auala "fa'amuamua fa'amaumauga") 🏞️
-
fa'atasia le fa'ainisinia fa'amaumauga + galuega fa'atino ML
-
fa'atino ni api tusitusi, ni paipa, ma ni fa'ainisinia o foliga e lata ane i fa'amaumauga
-
malosi mo faʻalapotopotoga ua uma ona nonofo i totonu o faiga faʻataʻitaʻi tetele Databricks Lakehouse
Fa'ata'ita'iga 3: ML fa'aputu i luga o Kubernetes (le auala "matou te mana'o i le pulea") 🎛️
-
faʻataʻitaʻiga afifi i totonu o koneteina
-
fa'atatauina ma faiga fa'avae fa'a-autoscaling Kubernetes: Horizontal Pod Autoscaling
-
tu'ufa'atasia le upega tautua, mata'ituina, pulega o mea lilo
Ua lauiloa foi o le: "Matou te mautinoa, ma matou te fiafia foi e faaleleia mea sese i taimi eseese."
Fa'ata'ita'iga 4: RAG (Tupulaga Toe Mauaina-Fa'ateleina) (o le auala "fa'aaoga lou malamalama") 📚🤝
-
pepa i le teuina o ao
-
fa'apipi'iga + faleoloa vector
-
vaega toe maua e fa'asusuina le anotusi i se fa'ata'ita'iga
-
pa puipui + pulea o avanoa + fa'amaumauga Pepa Toe Mauaina-Fa'ateleina o le Tupulaga (RAG)
O se vaega tāua tele lea o talanoaga faʻaonaponei e uiga i le AI-i-le-ao auā o le auala lea e faʻaogaina ai e le tele o pisinisi moni le AI faʻatupuina ma le saogalemu.
MLOps: O le Vaega e Fa'atauva'a i ai Tagata Uma 🧯
Afai e te manaʻo i le AI i le ao e galue i le gaosiga, e te manaʻomia MLOps. E le ona o se mea faʻaonaponei - ona o le fesuiaʻiga o faʻataʻitaʻiga, suiga o faʻamaumauga, ma le fatufatuaʻi o tagata faʻaoga i le auala sili ona leaga Google Cloud: O le a le MLOps?.
Vaega autū:
-
Siakiina o fa'ata'ita'iga: o a mea na aoga, o a mea na le'i aoga MLflow Tracking
-
Resitala o faʻataʻitaʻiga: faʻataʻitaʻiga ua faʻamaonia, lomiga, metadata Resitala o Faʻataʻitaʻiga MLflow Vertex AI Model Registry
-
CI-CD mo le ML: su'ega + fa'aogaina otometi o le fa'atinoina o Google Cloud MLOps (CD & otometi)
-
Faleoloa o foliga vaaia: foliga tutusa i a'oa'oga ma fa'ai'uga Faleoloa o foliga vaaia a le SageMaker
-
Mata'ituina: fesuia'iga o le fa'atinoga, fa'ailo fa'aitu'au, latency, tau SageMaker Model Monitor Vertex AI Model Monitoring
-
Fuafuaga toe fa'afo'i: ioe, e pei o polokalama masani
Afai e te lē amanaʻiaina lenei mea, o le a e iʻu lava ina avea ma se “faʻataʻitaʻiga o le fale manu” 🦓 lea e ola mea uma, e leai se mea e faʻailogaina, ma e te fefe e tatala le faitotoʻa.
Saogalemu, Tulaga Faalilolilo, ma le Tausisia o Tulafono (E le o se Vaega Fiafia, Ae… Ioe) 🔐😅
O le AI i le cloud computing e laga ai ni nai fesili faigata:
Puleaina o le mauaina o faʻamatalaga 🧾
O ai e mafai ona maua faʻamatalaga o aʻoaʻoga? Faʻamaumauga o faʻamatalaga? Faʻatonuga? Taunuʻuga?
Fa'ailoga faalilolilo ma mea lilo 🗝️
E manaʻomia e ki, faʻailoga, ma faʻamaoniga ona taulimaina lelei. O le "I totonu o se faila faʻatulagaina" e le o le taulimaina.
Tuueseeseina ma le nofo mautotogi 🧱
O nisi fa'alapotopotoga e mana'omia ni siosiomaga eseese mo le atina'eina, fa'atulagaina, ma le gaosiga. E fesoasoani le ao - pe afai e te fa'atulaga lelei.
Su'esu'ega 📋
E masani ona manaʻomia e faʻalapotopotoga faʻatonutonu ona faʻaalia:
-
o a faʻamaumauga na faʻaaogaina
-
le auala na faia ai faaiuga
-
o ai na fa'atinoina le a
-
ina ua suia le IBM watsonx.governance
Pulega o tulaga lamatia faʻataʻitaʻiga ⚠️
E aofia ai:
-
siaki fa'aitu'au
-
tofotofoga fa'afeagai
-
puipuiga vave o tui (mo le AI gaosia)
-
fa'amama saogalemu o le fa'aulufalega
O nei mea uma e toe foʻi i le manatu autū: e lē na o le “AI e talimaloina i luga ole initaneti.” Ae o le AI e faʻagaoioia i lalo o ni tapulaʻa moni.
Fautuaga mo Tau ma le Fa'atinoga (Ina ia 'Aua Ne'i Tagi Mulimuli Ane) 💸😵💫
O ni nai fautuaga ua uma ona tofotofoina:
-
Faaaoga le faʻataʻitaʻiga aupito laʻititi e fetaui ma le manaʻoga
. E lē o taimi uma e sili atu le telē. O nisi taimi e naʻo le… telē. -
Fa'ai'uga fa'aputuga pe a mafai SageMaker Batch Transform taugofie ma sili atu ona lelei .
-
Fa'aaoga ma le malosi le teuina o fa'amaumauga
aemaise lava mo fesili ma mea e fa'apipi'i soo. -
Fa'afuafua otometi, ae fa'atapula'a.
O le fa'afuafuaina e le fa'atapula'aina e mafai ona fa'auigaina ai le fa'aaluina e le fa'atapula'aina. Kubernetes: Horizontal Pod Autoscaling. Fesili mai pe fa'apefea ona ou iloa… o le mea moni, aua 😬 -
Siaki le tau o vaega taʻitasi ma vaega taʻitasi.
A leai o le a e faʻaleleia atili le mea sese. -
Faaaoga le spot-preemptible compute mo aoaoga.
E tele ni sefega pe afai e mafai e au galuega aoaoga ona taulimaina ni faalavelave. Amazon EC2 Spot Instances Google Cloud Preemptible VMs.
Mea Sese e Fai e Tagata (E oo lava i 'Au Atamai) 🤦♂️
-
O le taulimaina o le cloud AI e pei o le "na'o le fa'apipi'iina o se fa'ata'ita'iga"
-
Le amana'iaina o le lelei o fa'amaumauga se'ia o'o i le minute mulimuli
-
Lafoina atu o se faʻataʻitaʻiga e aunoa ma le mataʻituina o le SageMaker Model Monitor
-
E le o fuafua e toe a'oa'oina le cadence Google Cloud: O le a le MLOps?
-
Galo ai o loo iai pea 'au puipuiga se'ia oo i le vaiaso o le fa'alauiloaina 😬
-
Soona fa'ainisinia mai le aso muamua (o nisi taimi e manumalo ai se fa'avae faigofie)
E le gata i lea, o se mea e matuā sauā lava: e lē o ta’uleleia e 'au le tele o le 'ino'ino o tagata fa'aoga i le fa'atuai. O se fa'ata'ita'iga e fai si itiiti le sa'o ae vave e masani ona manumalo. E lē onosa'i tagata i vavega laiti.
Manatu Autū 🧾✅
O le AI i le Cloud Computing o le fa'atinoga atoa lea o le fausiaina ma le fa'agaoioia o le AI e fa'aaoga ai le atina'e o le ao - fa'ateleina o a'oa'oga, fa'afaigofieina o le fa'atinoina, tu'ufa'atasia o paipa fa'amaumauga, ma le fa'atinoina o fa'ata'ita'iga ma MLOps, saogalemu, ma le pulega Google Cloud: O le a le MLOps? NIST SP 800-145.
Aotelega puupuu:
-
E tu'uina atu e le ao i le AI le atina'e e fa'alautele ma lafo 🚀 NIST SP 800-145
-
E tu'uina atu e le AI i galuega fa'atino i le ao ni "mafaufau" e fa'aautomatika ai fa'ai'uga 🤖
-
O le togafiti e lē na'o le a'oa'oga - ae o le fa'atinoina, mata'ituina, ma le pulega 🧠🔐 SageMaker Model Monitor
-
Filifili ni fa'avae e fa'atatau i mana'oga o le 'au, ae le o le puao o maketi 📌
-
Matamata i tau ma galuega e pei o se aeto o loʻo ofuina ni mata tioata 🦅👓 (o se faʻataʻitaʻiga leaga, ae ua e malamalama i ai)
Afai na e sau iinei ma mafaufau “o le AI i le cloud computing ua na o se faʻataʻitaʻiga API,” leai - o se faiga atoa lava. O nisi taimi e matagofie, o nisi taimi e le mautonu, o nisi taimi e lua i le aoauli e tasi.
Faʻataʻitaʻiga moni: Fausiaina o se fesoasoani faʻataʻitaʻi tiketi lagolago AI i le ao 🎫☁️
Tulaga
Se'i mafaufau i se kamupani SaaS e 40 tagata o lo'o mauaina pe tusa ma le 180 pepa lagolago mo tagata fa'atau i le vaiaso. E fa'aogaina e le 'au lagolago se meafaigaluega fesoasoani, ae o taeao uma o Aso Gafua e tatau lava i se tasi ona faitau pepa fou, filifili le vaega, fa'atulaga le faanatinati, siaki pe o lo'o i ai le tagata fa'atau i se fuafuaga totogi, ma fa'aliliu le fa'afitauli i pili, oloa, inisinia, po'o le lagolago lautele.
E le manaʻomia e le kamupani se faiga tele o le AI. E manaʻomia se faiga laʻititi o le ao AI e mafai ona faʻavasegaina pepa ulufale, aoteleina le faʻafitauli, fautuaina le isi gaioiga, ma faʻailoa mataupu lamatia mo le iloiloga a tagata.
O se faʻatulagaga aoga e mafai ona foliga faʻapenei:
e auina atu pepa ulufale i le teuina o ao i itula uma
O se galuega e aunoa ma se 'au'aunaga e fa'amamā ai le tusitusiga o le tiketi ma aveese fa'amatalaga patino e le mana'omia
o se faʻataʻitaʻiga faʻavasegaga poʻo se faʻataʻitaʻiga gagana talimalo e faʻailogaina ai le tiketi
ua toe tusia iʻuga i le faiga o fesoasoani
o se dashboard e siaki ai le latency, confidence scores, sa'o o le routing, ma le tau o le tiketi ta'itasi
O le manatu autū: e le o suitulaga le AI i le 'au lagolago. O lo'o fa'aitiitia ai le galuega fa'avasega faifai pea ina ia tele atu le taimi e fa'aalu e tagata e fo'ia ai le fa'afitauli moni.
O mea e manaʻomia e le fesoasoani
Ina ia lelei lenei galuega, e tatau i le 'au ona saunia:
o se lisi o vaega o tiketi, e pei o le Pili, Ulufale, Fa'aletonu, Talosaga mo Vaega, Fa'aleaogaina, Puipuiga, ma le Lautele
faʻataʻitaʻiga o tiketi moni e 20-50 i le vaega taʻitasi
tulafono o le fa'atautaia o auala mo matagaluega ta'itasi
tulafono fa'amuamua, e pei o le "fa'afitauli tau saogalemu = fa'anatinati" po'o le "leai o se tagata fa'atau a le kamupani = fa'anatinati"
o se lisi puupuu o mea e le tatau ona faia e le fesoasoani, e pei o le folafola atu o tupe toe faafoi, taʻutino atu o le sese faaletulafono, poʻo le suia o faʻatulagaga o teugatupe
pulega o avanoa ina ia na'o le va'aia e le faiga o galuega a le AI o fanua tiketi e mana'omia moni lava
o se tulafono fa'aopoopo mo mataupu e le o mautinoa
O se tulafono faigofie e mafai ona fa'apea:
Afai e i lalo ifo o le 80% le mautinoa, pe o loʻo taʻua i le tiketi tulafono, saogalemu, toe faʻafoʻi tupe, faʻaleaogaina, solia o faʻamaumauga, poʻo faʻaleagaina faʻafomaʻi/tau tupe, lafo i se tagata suʻesuʻe nai lo le faʻatonutonuina otometi.
Fa'atonuga fa'ata'ita'i
O oe o se fesoasoani lagolago i le faʻavasegaina o tiketi mo se kamupani B2B SaaS.
Faitau le savali a le tagata faʻatau ma toe faafoi mai:
-
O se aotelega e tasi le fuaiupu o le mataupu
-
Tasi le vaega mai lenei lisi: Pili, Ulufale, Mea Sese, Talosaga mo Vaega, Fa'aleaogaina, Puipuiga, Lautele
-
Faamuamua: Maualalo, Feololo, Maualuga, pe Faanatinati
-
O le 'au sili e taulimaina: Lagolago, Pili, Oloa, Inisinia, Puipuiga, po'o le Manuia o Tagata Fa'atau
-
Pe manaʻomia se iloiloga a tagata: Ioe pe Leai
-
Se mafuaʻaga puʻupuʻu mo lau faʻaiuga
Tulafono:
Aua le folafola atu ni toe fa'afo'i tupe.
Aua le su'esu'eina le matafaioi fa'aletulafono po'o le saogalemu.
Aua le fatuina ni fa'amatalaga tau tupe.
Afai e le manino le fe'au, filifili le Lautele ma mana'omia se iloiloga a tagata.
Afai e ta'ua e le tagata fa'atau le fa'aalia o fa'amatalaga, le pulea o le teugatupe, le le manuia o le totogiina, po'o le motusia o le tautua, mana'omia se iloiloga a tagata.
Auala e fa'ata'ita'i ai
A'o le'i fa'atinoina lenei mea, fa'ata'ita'i i se seti la'ititi o pepa ulufale fa'asolopito moni po'o pepa ulufale e le o iloa ai tagata.
Faaaoga tiketi ua mavae e 100 ma faatusatusa le auala na faia ai e le fesoasoani ma le faaiuga muamua a le au.
Siaki:
e fia vaega e fetaui ma le fa'ailoga tagata
e fia tiketi fa'anatinati na fa'ateleina sa'o
E fia tiketi e maualalo le faamuamua na faailogaina sese o se faanatinati
pe na auina atu pepa ulufale maaleale i le iloiloga a tagata
taimi fa'agasologa averesi mo tiketi ta'itasi
tau mo le 100 tiketi
Ona fa'atino lea o se suega lona lua i ni fa'ata'ita'iga le mama:
e tusi e se tagata faʻatau i mataʻitusi tetele uma
o lo'o i ai i totonu o se tiketi ni lomiga se tolu i le taimi e tasi
e na'o le lua upu le umi o le savali, e pei o le "e le mafai ona e ulufale"
ua talosaga se tagata faʻaoga mo se toe faʻafoʻi tupe ma ua faʻamataʻu e faia se gaioiga faʻaletulafono
ua lipotia mai e se tagata faʻatau se faʻalavelave tau saogalemu e ono tupu
E tāua nei suega auā e faigofie ona faigofie pepa fa'ata'ita'i mama. E tusitusi tagata fa'aoga moni ma le lē mautonu, leai se anotusi, ma fa'ailoga e lē mafai ona vavaloina.
I'uga
Fa'ata'ita'iga o le i'uga: e fa'avae i luga o le taimi o se fa'ata'ita'iga o le fa'avasegaina o galuega e lima a'o le'i fa'aogaina ma ina ua mae'a ona fa'aogaina lenei faiga o galuega.
Faiga fa'atino:
180 tiketi i le vaiaso
Taimi fa'atatau o le fa'avasegaina o tino: 2 minute 30 sekone i le tiketi
Taimi fa'atatau o le fa'avasegaina o tino: 450 minute i le vaiaso, pe 7.5 itula
Fa'agasologa e fesoasoani i le Ao AI:
Taimi fa'agasologa fa'ale-AI: i lalo ifo o le 10 sekone i le tiketi
Taimi fa'ale-tagata e iloilo ai tiketi ua fa'ailogaina: 1 minute 30 sekone
Fuainumera o iloiloga a tagata: 25% o tiketi
Taimi fa'atatau o le fa'avasegaina o tiketi i vaiaso ta'itasi: 67.5 minute
O lena mea e maua ai se sefega e tusa ma le 6.4 itula i le vaiaso.
E tatau ona fuaina eseese le sa'o. I se suega moni, e ono faatulaga e le 'au se tulafono fa'alauiloa e pei o le:
e le itiiti ifo i le 90% le tutusa o le vasega ma fa'ailoga a tagata
100% o tiketi e fesoʻotaʻi ma le saogalemu ua auina atu i le iloiloga a tagata
e itiiti ifo i le 5% o tiketi ua fa'asolo atu i le matagaluega sese
tau averesi i lalo ifo o le £0.05 i le tiketi
Afai e lē ausia e le fesoasoani na fuainumera i le seti o suega, e tatau ona tumau i le faiga o le iloiloga nai lo le otometi lava ona fa'atonutonuina o tiketi ola.
O a mea e ono sese
O le faaletonu e masani ona tupu o vaega e le o mautinoa. Afai o le "Bug", "Technical Issue", ma le "Product Problem" o uiga uma ia e toetoe lava tutusa, o le a le tutusa le fa'avasegaina e le fesoasoani.
O le isi lamatiaga o le soona fa'aogaina o masini komepiuta. O se pepa ulufale e uiga i le "na ulufale i ai se isi tagata i la'u teugatupe" e le tatau ona fa'asalavei fa'afuase'i e pei o se fa'afitauli masani i le ulufale. E mana'omia le fa'alauteleina, fa'amaumau, ma atonu o se faiga fa'atino mo le saogalemu.
E mafai fo'i e le fa'amaumauga leaga ona mafua ai fa'afitauli tau le le fa'alaua'iteleina. O fa'amatalaga fa'apitoa a tagata fa'atau e ono aofia ai fa'amatalaga taua a tagata fa'atau i fa'amatalaga, tusitusiga o pepa ulufale, fa'amatalaga o fa'ata'ita'iga, ma fa'ailoga o mea sese. Teu na'o mea e mana'omia, fa'atapula'a le avanoa, ma fa'atulaga tulafono o le teuina.
E mafai fo'i ona fa'atupula'ia le tau. Afai e auina atu tiketi uma i se fa'ata'ita'iga tele ae aoga se fa'avasega la'ititi, e taugata tele ai le faiga. Amata i le filifiliga fa'atuatuaina e sili ona la'ititi, ona fa'aleleia lea pe a fa'aleleia moni le sa'o.
Mea'ai aogā e 'ai fua
O se fa'atulagaga lelei o le ao AI e amata i se mea itiiti: tasi le faiga o galuega, tulafono manino, fa'amaumauga o su'ega, iloiloga a tagata, ma sini e mafai ona fuaina. Mo le fa'avasegaina o le lagolago, o le manumalo e le o le "taulimaina e le AI mea uma". O le manumalo o le vave o le fa'avasegaina, itiiti ifo o tiketi fa'anatinati ua misia, sili atu le mama o le tu'uina atu, ma se faiga e mafai e le 'au ona mata'ituina nai lo le fa'atuatuaina tauaso.
Fesili e Masani Ona Fesiligia
O le uiga o le "AI i le cloud computing" i faaupuga masani
O le AI i le cloud computing o lona uiga e te faʻaaogaina faʻavae ao e teu ai faʻamatalaga, faʻaleleia le compute (CPUs/GPUs/TPUs), toleni faʻataʻitaʻiga, faʻapipiʻi, ma mataʻituina - e aunoa ma le umiaina o masini komepiuta. I le faʻatinoina, e avea le ao ma nofoaga e faʻatino ai lau taʻamilosaga atoa o le AI. E te totogia mea e te manaʻomia pe a e manaʻomia, ona faʻaitiitia lea pe a maeʻa.
Aiseā e lē manuia ai galuega faatino a le AI e aunoa ma ni atina'e fa'a-ao ma MLOps
O le tele o fa'aletonu e tutupu i totonu o le fa'ata'ita'iga, ae le o totonu: fa'amaumauga e le tutusa, siosiomaga e le fetaui, fa'aogaina vaivai, ma leai se mata'ituina. E fesoasoani meafaigaluega ao e fa'atulaga lelei le teuina, fa'akomepiuta, ma mamanu fa'aogaina ina ia le pipii ai fa'ata'ita'iga i le "na aoga i la'u komepiuta feavea'i." E fa'aopoopo e le MLOps le mea e misi: siaki, resitala, paipa, ma le toe fa'afo'i ina ia tumau le toe gaosia ma le tausia o le polokalama.
O le faiga masani o galuega mo le AI i le cloud computing, mai faʻamaumauga i le gaosiga
O se tafega masani o le: e tulaueleele fa'amaumauga i le teuina o ao, fa'agasoloina i ni vaega, ona toleni lea o fa'ata'ita'iga i luga o le komepiuta e mafai ona fa'ateleina. Sosoo ai, e te fa'apipi'i e ala i se API endpoint, galuega fa'aputu, seti e leai se 'au'aunaga, po'o se tautua Kubernetes. Mulimuli ane, e te mata'ituina le latency, drift, ma le tau, ona toe fa'ata'ita'i lea i le toe toleniina ma fa'apipi'i saogalemu. O le tele o paipa moni e fa'asolosolo pea nai lo le lafoina fa'atasi.
Filifiliga i le va o SageMaker, Vertex AI, Azure ML, Databricks, ma Kubernetes
Filifili e faʻatatau i le tulaga moni o lau 'au, ae le o le pisa o maketiga "sili ona lelei". O faʻavae ML pulea (SageMaker/Vertex AI/Azure ML) e faʻaitiitia ai le faʻalavelave faʻatino i galuega faʻaaʻoaʻoga, faʻaiʻuga, resitala, ma le mataʻituina. E masani ona fetaui Databricks ma 'au e tele faʻainisinia faʻamaumauga e mananaʻo i le ML e latalata i paipa ma auʻiliʻiliga. E tuʻuina atu e Kubernetes le pulea sili ma le faʻapitoa, ae e te umia foʻi le faʻatuatuaina, faiga faʻavae faʻateleina, ma le faʻaleleia o mea pe a faʻaletonu mea.
O mamanu fausaga e sili ona aliali mai i faʻatulagaga ao AI i aso nei
O le a e vaʻaia pea lava pea ni mamanu e fa: o faʻavae ML pulea mo le saoasaoa, lakehouse + ML mo faʻalapotopotoga faʻamuamua faʻamaumauga, ML faʻapipiʻiina i luga o Kubernetes mo le pulea, ma le RAG (toe maua mai-faʻateleina le gaosiga) mo le "faʻaaoga o tatou malamalama i totonu ma le saogalemu." E masani ona aofia ai e le RAG pepa i le teuina o ao, faʻapipiʻiga + se faleoloa vector, se vaega toe maua mai, ma pulega avanoa faʻatasi ai ma le faʻamauina. O le mamanu e te filifilia e tatau ona fetaui ma lau pulega ma le matua o galuega.
Auala e fa'atino ai e 'au ni fa'ata'ita'iga o le cloud AI: REST APIs, batch jobs, serverless, po'o Kubernetes
E masani ona fa'aaogaina REST API mo vavalo i le taimi moni pe a taua le fa'atuai o oloa. E sili ona lelei le fa'ai'uga o le vaega mo le fa'atulagaina o togi ma le fa'aleleia o tau, aemaise lava pe a le mana'omia ona vave ona maua ni taunu'uga. E mafai ona aoga lelei serverless endpoints mo feoa'iga fa'afuase'i, ae e mana'omia le gauai atu i amataga malulu ma le fa'atuai. E fetaui lelei Kubernetes pe a e mana'omia le fa'atulagaina lelei ma le tu'ufa'atasia ma meafaigaluega fa'avae, ae e fa'aopoopoina ai le faigata o le fa'agaioiga.
Mea e mata'ituina i le gaosiga ina ia maloloina lelei ai polokalama fa'a-AI
I le itiiti ifo, siaki le latency, fua faatatau o mea sese, ma le tau i le valo'aga ina ia mautinoa le mautinoa ma le paketi. I le itu ML, mata'ituina le fesuia'iga o fa'amaumauga ma le fesuia'iga o le fa'atinoga e iloa ai pe a suia le mea moni i lalo o le fa'ata'ita'iga. E taua fo'i mataupu o pito i tua o le logging ma taunuuga leaga, aemaise lava mo mataupu fa'aoga generative lea e mafai ai e tagata fa'aoga ona fete'ena'i ma le fatufatua'i. O le mata'ituina lelei e lagolagoina ai fo'i fa'ai'uga e toe fa'afo'i ai pe a toe fo'i i tua fa'ata'ita'iga.
Fa'aitiitia o tau o le cloud AI e aunoa ma le fa'aitiitia o le fa'atinoga
O se auala masani o le faʻaaogaina lea o le faʻataʻitaʻiga aupito laʻititi e fetaui ma le manaʻoga, ona faʻaleleia lea o le faʻaiʻuga i le faʻapipiʻiina ma le teuina o mea. E fesoasoani le faʻatulagaina otometi, ae e manaʻomia ni tapulaʻa ina ia aua neʻi avea le "elastic" ma "tupe faʻaalu e le faʻatapulaʻaina." Mo aʻoaʻoga, e mafai e le faʻatusatusaga vave/preemptible ona sefe tele pe afai e onosaʻi au galuega i faʻalavelave. O le siakiina o tau i le endpoint ma le feature e taofia ai oe mai le faʻaleleia atili o le vaega sese o le polokalama.
O lamatiaga sili ona tetele i le saogalemu ma le tausisia o tulafono ma le AI i le ao
O tulaga lamatia tetele o le le pulea o faʻamaumauga, le vaivai o le puleaina o mea lilo, ma le leiloa o auala suʻesuʻe mo i latou na aʻoaʻoina ma faʻaaogaina. O le Generative AI e faʻaopoopoina ai ni faʻafitauli faʻaopoopo e pei o le vave tuiina, le le saogalemu o galuega faatino, ma faʻamatalaga taua o loʻo aliali mai i totonu o ogalaau. E tele paipa e manaʻomia le vavaeʻeseina o le siosiomaga (dev/staging/prod) ma ni faiga faʻavae manino mo faʻamatalaga, galuega faatino, ma le faʻamauina o faʻamatalaga. O faʻatulagaga sili ona saogalemu e taulimaina le pulega o se manaʻoga autu o le polokalama, ae le o se faʻapipiʻiga i le vaiaso o le faʻalauiloaina.
Fa'asinomaga
-
Inisetiute Fa'aleatunuu o Tulaga Fa'atonuina ma Tekonolosi (NIST) - SP 800-145 (Fa'ai'uga) - csrc.nist.gov
-
Google Cloud - GPU mo le AI - cloud.google.com
-
Google Cloud - Pepa fa'amaumau o le Cloud TPU - docs.cloud.google.com
-
Auaunaga Upega Tafaʻilagi a le Amazon (AWS) - Amazon S3 (teuina o meafaitino) - aws.amazon.com
-
Auaunaga Upega Tafaʻilagi a le Amazon (AWS) - O le ā le vaituloto o faʻamaumauga? - aws.amazon.com
-
Amazon Web Services (AWS) - O le ā le faleteuoloa o faʻamaumauga? - aws.amazon.com
-
Auaunaga Upega Tafaʻilagi a le Amazon (AWS) - Auaunaga AWS AI - aws.amazon.com
-
Google Cloud - Google Cloud AI APIs - cloud.google.com
-
Google Cloud - O le ā le MLOps? - cloud.google.com
-
Google Cloud - Vertex AI Model Registry (Fa'atomuaga) - docs.cloud.google.com
-
Red Hat - O le ā le REST API? - redhat.com
-
Pepa Fa'amaumau o Auaunaga Upega Tafa'ilagi a le Amazon (AWS) - SageMaker Batch Transform - docs.aws.amazon.com
-
Auaunaga Upega Tafaʻilagi a le Amazon (AWS) - Faleteuoloa Faʻamaumauga vs. Data Lake vs. Data Mart - aws.amazon.com
-
Microsoft Learn - resitala Azure ML (MLOps) - learn.microsoft.com
-
Google Cloud - Aotelega o le Google Cloud Storage - docs.cloud.google.com
-
arXiv - Pepa o le Toe Fa'aleleia-Fa'ateleina o le Tupulaga (RAG) - arxiv.org
-
Pepa Fa'amaumau o Auaunaga Upega Tafa'ilagi a le Amazon (AWS) - SageMaker Serverless Inference - docs.aws.amazon.com
-
Kubernetes - Fa'atulagaina Aunoa o le Horizontal Pod - kubernetes.io
-
Google Cloud - Vertex AI vaʻaiga faʻapitoa - docs.cloud.google.com
-
Pepa Fa'amaumau o Auaunaga Upega Tafa'ilagi a le Amazon (AWS) - SageMaker Model Monitor - docs.aws.amazon.com
-
Google Cloud - Vertex AI Model Monitoring (Fa'aaogaina o le mata'ituina o le fa'ata'ita'iga) - docs.cloud.google.com
-
Auaunaga Upega Tafa'ilagi a le Amazon (AWS) - Fa'ata'ita'iga o le Amazon EC2 Spot - aws.amazon.com
-
Google Cloud - VM e le mafai ona taofia - docs.cloud.google.com
-
Pepa Fa'amaumau o Auaunaga Upega Tafa'ilagi a le Amazon (AWS) - AWS SageMaker: Fa'afefea ona galue (A'oa'oga) - docs.aws.amazon.com
-
Google Ao - Google Vertex AI - cloud.google.com
-
Microsoft Azure - Azure Machine Learning - azure.microsoft.com
-
Databricks - Databricks Lakehouse - databricks.com
-
Pepa Fa'amaumau o le Snowflake - Vaega o le Snowflake AI (Ta'iala Aotelega) - docs.snowflake.com
-
IBM - IBM watsonx - ibm.com
-
Google Cloud - Pepa fa'amaumau o le Cloud Natural Language API - docs.cloud.google.com
-
Pepa Fa'amaumau o le Snowflake - Snowflake Cortex AI Functions (AI SQL) - docs.snowflake.com
-
MLflow - Siakiina o le MLflow - mlflow.org
-
MLflow - Resitala Fa'ata'ita'iga MLflow - mlflow.org
-
Google Cloud - MLOps: Fa'aauau pea ona tu'uina atu ma fa'agasologa otometi i le a'oa'oina o masini - cloud.google.com
-
Auaunaga Upega Tafa'ilagi a le Amazon (AWS) - Faleoloa o Mea Taua a le SageMaker - aws.amazon.com
-
IBM - IBM watsonx.governance - ibm.com