Mana'oga mo le Teuina o Fa'amaumauga mo le AI: Mea e Mana'omia Moni Ona E Iloa

E lē na o ni faʻataʻitaʻiga mataʻina poʻo ni fesoasoani tautala e faʻataʻitaʻi tagata le AI. I tua atu o na mea uma, o loʻo i ai se mauga - o nisi taimi o se vasa - o faʻamatalaga. Ma le mea moni, o le teuina o na faʻamatalaga? O iinā e masani ona faʻalavelave ai mea. Pe o e talanoa e uiga i paipa e iloa ai ata poʻo le aʻoaʻoina o faʻataʻitaʻiga gagana tetele, o manaʻoga mo le teuina o faʻamatalaga mo le AI e mafai ona vave le pulea pe afai e te le mafaufau lelei i ai. Seʻi o tatou faʻamatalaina pe aisea e faigata ai le teuina o faʻamatalaga, o a filifiliga o loʻo i luga o le laulau, ma pe faʻapefea ona e faʻafetaui le tau, saoasaoa, ma le tele e aunoa ma le mu.

O tala e te ono fia faitauina pe a uma lenei:

🔗 Saienisi fa'amaumauga ma le atamai fa'apitoa: Le lumana'i o le fa'afouga
Su'esu'eina pe fa'apefea ona fa'aleleia e le AI ma le saienisi o fa'amaumauga ia atina'e fa'aonaponei.

🔗 Atamai vai fa'apitoa: Le lumana'i o le AI ma fa'amaumauga fa'apitoa
O se suʻesuʻega i faʻamaumauga a le AI e le faʻatekinolosia ma mea fou fou o loʻo tulaʻi mai.

🔗 Pulega o faʻamaumauga mo meafaigaluega AI e tatau ona e tilotilo i ai
Fuafuaga autū e fa'aleleia atili ai le teuina ma le lelei o fa'amatalaga a le AI.

🔗 Meafaigaluega sili ona lelei a le AI mo tagata su'esu'e fa'amaumauga: Fa'aleleia le faia o fa'ai'uga i le su'esu'ega
Meafaigaluega sili ona lelei a le AI e fa'aleleia atili ai le au'ili'iliga o fa'amaumauga ma le faia o fa'ai'uga.

O lea la… O le ā le mea e aogā ai le teuina o faʻamatalaga faʻapitoa (AI)? ✅

E lē na'o le "tele atu o terabytes." O le teuina moni e faigofie i le AI e fa'atatau i le fa'aaogaina, fa'atuatuaina, ma vave mo fa'atinoga o a'oa'oga ma avega o fa'ai'uga.

O nisi o faʻailoga taua e tatau ona matauina:

• Fa'alauteleina : Oso mai GBs i PBs e aunoa ma le toe tusia o lau fausaga.

• Fa'atinoga : O le maualuga o le latency o le a matelaina ai GPU; latou te le fa'amagaloina fa'alavelave.

• Fa'aopoopoina : Ata pu'upu'u, toe faia, fa'asologa o lomiga - auā e lē manuia fa'ata'ita'iga, ma e faapena fo'i tagata.

• Fa'asaoina o tupe : Tulaga sa'o, taimi sa'o; a leai, e fa'afuase'i ona alia'e mai le pili e pei o se su'ega lafoga.

• Latalata i le komepiuta : Tuu le teuina o mea i tafatafa o GPU/TPU pe matamata i le choke o le tu'uina atu o fa'amaumauga.

A leai, e pei lava o le taumafai e fa'agaoioi se Ferrari i le penisini o le masini tipi vao - e masani lava ona gaoioi, ae e le umi se taimi.

Siata Faatusatusaga: Filifiliga Masani o le Teuina mo le AI

Aiseā ua Faʻateleina ai le Manaʻomia o Faʻamaumauga AI 🚀

E lē na'o le fa'aputuina o ata selfie e le AI. E matuā fia 'ai lava.

• Seti a'oa'oga : O le ILSVRC a le ImageNet e na'o le ~1.2M ata ua fa'ailogaina, ma o vaega fa'apitoa e sili atu nai lo lena [1].

• Fa'aliliuga : O fa'asa'oga uma - fa'ailoga, vaevaega, fa'aopoopoga - e fatuina ai se isi "upu moni."

• Fa'asalalauga e tafe mai : Va'aiga tuusa'o, telemetry, fafaga o le masini fa'alogo… o se fa'alavelave faifai pea.

• Faatulagaga e le'i fa'atulagaina : Tusitusiga, vitio, leo, ogalaau - e sili atu le mafiafia nai lo laulau SQL mama.

O se taumafataga e te 'ai ai i taimi uma, ma e masani ona sau le fa'ata'ita'i mo mea'ai suamalie.

Ao vs I totonu o le Nofoaga: O le Finauga e Le Uma 🌩️🏢

E foliga manaia le ao: e toetoe lava a leai se gataaga, e fa'alelalolagi, totogi a'o e fa'aogaina. Se'ia o'o ina fa'aalia e lau pili totogi e alu ese ai - ma fa'afuase'i ona fa'atusatusa le tau o au teuina "taugofie" i tupe fa'aalu a le komepiuta [2].

Ae o le on-prem, i le isi itu, e maua ai le pulea lelei ma le faʻatinoga malosi, ae e te totogia foʻi mo meafaigaluega, eletise, faʻamālūlūina, ma tagata e tausi tamaiti.

O le tele o 'au e nonofo i le ogatotonu fenumiai: fa'afefiloi . Tausia fa'amaumauga vevela, maaleale, ma maualuga le throughput e latalata i GPU, ma teuina isi mea i vaega o le ao.

Tau o le Teuina e Fa'ateleina 💸

O le gafatia e na'o le vaega pito i luga. E fa'aputuina tau o mea lilo:

• Fesiitaiga o faʻamaumauga : Kopi i le va o itulagi, fesiitaiga i luga o ao, e oʻo lava i le alu ese o tagata faʻaoga [2].

• Fa'aopoopoina : O le mulimuli i le 3-2-1 (kopi e tolu, fa'asalalauga e lua, tasi e le o i le nofoaga) e fa'aumatia ai le avanoa ae fa'asaoina ai le aso [3].

• Malosiaga & fa'amālūlūina : Afai o lau fata lea, o lau fa'afitauli lea i le vevela.

• Fefa'ataua'iga o le Fa'atuai : O vaega taugofie e masani ona fa'aalia ai le saoasaoa o le toe fa'aleleia o le aisa.

Puipuiga ma le Tausisia o Tulafono: Tagata e Leiloa Fefaatauaiga 🔒

E mafai e tulafono faatonutonu ona fa'atonutonuina moni lava le mea e nonofo ai bytes. I lalo o le UK GDPR , o le si'itia o fa'amatalaga patino mai fafo o le UK e mana'omia ai auala fa'aletulafono e fesiita'i ai (SCCs, IDTAs, po'o tulafono talafeagai). Fa'aliliuga: e tatau i lau mamanu teuina ona "iloa" le laufanua [5].

O mea taua e tao ai meaʻai mai le aso muamua:

• Fa'ailoga fa'alilolilo - i taimi uma e malolo ai ma femalagaa'i ai.

• Avanoa e itiiti sona avanoa + auala e siaki ai.

• Tape'ese puipuiga e pei o le tumau pe loka mea.

Fa'alavelave Fa'atino: O le Fa'atuai o le Fasioti Tagata Leoa ⚡

E lē fiafia GPU i le fa'atali. Afai e tuai le teuina o fa'amaumauga, o ni mea fa'avevela ia. O meafaigaluega e pei o le NVIDIA GPUDirect Storage e tipi ese ai le tagata e fa'aogaina le CPU, ma fa'aliliu sa'o fa'amaumauga mai le NVMe i le manatua o le GPU - o le mea tonu lava lea e mana'omia e a'oa'oga tetele [4].

Fa'aleleia masani:

• NVMe all-flash mo fasi a'oa'oga vevela.

• Faiga faila tutusa (Lustre, Spectrum Scale) mo le tele-node throughput.

• Async loaders ma le sharding + prefetch e taofia ai GPU mai le le gaoioi.

Laasaga Aogā mo le Puleaina o le Teuina o Mea Fa'aoga a le AI 🛠️

• Tiering : Vevela o vaega i luga o le NVMe/SSD; teuina seti tuai i totonu o mea faitino po'o vaega malulu.

• Dedup + delta : Teu fa'atasi fa'amaumauga fa'avae, taofi na'o diffs + manifests.

• Tulafono o le olaga atoa : Fa'avasegaga otometi ma fa'agata galuega tuai [2].

• 3-2-1 le onosa'i : Ia teuina pea ni kopi se tele, i ala o faasalalauga eseese, ma ia tuueseeseina le tasi [3].

• Meafaigaluega : Su'ega o le saoasaoa o galuega, fa'atuai o le p95/p99, faitauga le manuia, alu ese e ala i le avega o galuega.

O se Mataupu Vave (Fa'afoliga ae Masani) 📚

Ua amatalia e se 'au va'ai mamao le ~20 TB i le teuina o mea i le ao. Mulimuli ane, ua amata ona latou kopiina fa'amaumauga i vaega eseese mo fa'ata'ita'iga. Ua fa'ateleina a latou tau - e le mai le teuina lava ia, ae mai le feoa'iga e alu ese ai . Latou te suia ni fasipepa vevela i le NVMe e latalata i le GPU cluster, tausia se kopi masani i le teuina o mea (fa'atasi ai ma tulafono o le olaga atoa), ma fa'apipi'i na'o fa'ata'ita'iga latou te mana'omia. I'uga: Ua pisi tele GPU, ua fa'aitiitia pili, ma ua fa'aleleia le tumama o fa'amaumauga.

Fuafuaga o le Malosiaga o le Tua o le Teutusi 🧮

O se fua fa'atatau mo le fa'atatauina:

Malosiaga ≈ (Seti Fa'amaumauga Mata) × (Fa'asologa o le Toe Fa'aluaina) + (Fa'amaumauga ua Fa'agasoloina / Fa'ateleina) + (Nofoaga Siaki + Fa'amaumauga) + (Tulaga Saogalemu ~15–30%)

Ona siaki lea o le tulaga lelei e faʻatusatusa i le throughput. Afai e manaʻomia e loaders taʻitasi le ~2–4 GB/s e faʻaauau, o loʻo e vaʻavaʻai i le NVMe poʻo le parallel FS mo auala vevela, faʻatasi ai ma le teuina o mea faitino o le mea moni.

E lē na'o le Vateatea e Fa'atatau i ai 📊

A fai mai tagata e manaʻomia le teuina o faʻamaumauga a le AI , latou te mafaufau i terabytes poʻo petabytes. Ae o le togafiti moni lava o le paleni: tau vs. faʻatinoga, fetuutuunaʻi vs. tausisia o tulafono, fou vs. mautu. O faʻamaumauga a le AI e le o faʻaitiitia i se taimi vave. O 'au e faʻapipiʻi vave le teuina o faʻamaumauga i le mamanu o faʻataʻitaʻiga e 'alofia ai le lofia i le tele o faʻamaumauga - ma e vave foʻi ona latou aʻoaʻoina.

Fa'asinomaga

[1] Russakovsky ma isi. ImageNet Large Scale Visual Recognition Challenge (IJCV) — fua fa'atatau ma lu'itau o fa'amaumauga. So'otaga
[2] AWS — Amazon S3 Tau ma tau (fesiitaiga o fa'amaumauga, alu ese, tulaga o le olaga atoa). So'otaga
[3] CISA — fautuaga mo tulafono fa'aleoleo 3-2-1. So'otaga
[4] NVIDIA Docs — GPUDirect Storage overview. So'otaga
[5] ICO — Tulafono a le UK GDPR i fesiitaiga fa'avaomalo o fa'amaumauga. So'otaga

Saili le AI Fou i le Faleoloa Aloaia o Fesoasoani AI

Faatatau ia tatou