O le a le tele o le vai e faʻaaogaina e le AI?

Ou te mate ua e faʻalogo i mea uma mai le "E inu e le AI se fagu vai i nai fesili uma lava" i le "e na o ni nai mataua lava." O le mea moni e sili atu ona auiliili. E fesuisuiaʻi lautele le tulagavae vai o le AI e faʻavae i luga o le mea e faʻagaoioia ai, le umi o lau faʻamatalaga, ma le auala e faʻamālūlū ai e se nofoaga autu o faʻamaumauga ana 'auʻaunaga. O lea la, ioe, o loʻo iai le numera autū, ae o loʻo i totonu o se vaomago o lapataʻiga.

O loʻo i lalo o le a ou faʻamatalaina ai fuainumera manino ma sauni mo faʻaiuga, faʻamatala pe aisea e lē tutusa ai faʻatatauga, ma faʻaali atu ai le auala e mafai ai e fau fale ma tagata faʻaoga i aso uma ona faʻaitiitia le tapu vai e aunoa ma le liua e pei o ni monike faʻasao.

O tala e te ono fia faitauina pe a uma lenei:

🔗 O le ā le fa'amaumauga a le AI
Fa'amatalaina pe fa'apefea ona mafai e fa'amaumauga ta'itasi ona fa'atino a'oa'oga fa'a-masini ma le atina'eina o fa'ata'ita'iga.

🔗 Auala e valoia ai e le AI ia aga masani
O loʻo faʻaalia ai le auala e iloilo ai e le AI ia mamanu e vaʻai ai i suiga ma taunuuga i le lumanaʻi.

🔗 Auala e fuaina ai le faatinoga o AI
Fa'avasega auiliili fua fa'atatau taua mo le iloiloina o le sa'o, saoasaoa, ma le fa'atuatuaina.

🔗 Faʻafefea ona talanoa ma AI
Taiala i ni fuafuaga fa'aosofia lelei e fa'aleleia atili ai le manino, taunuuga, ma le tumau.

E fia le vai e faʻaaogaina e le AI? Fuainumera vave e mafai ona e faʻaaogaina moni 📏

• I le fa'atonuga, o le tele masani i aso nei: mai le sub-milliliter mo se fa'atonuga tusitusia ogatotonu i luga o le tasi faiga autu, e o'o atu i le sefulu milliliters mo se tali umi ma maualuga le fa'aogaina i luga o le isi. Mo se fa'ata'ita'iga, o le fa'amaumauga o gaosiga a Google e lipotia mai ai se fa'atonuga tusitusia ogatotonu ~0.26 mL (fa'atasi ai ma le tau atoa o le tautua e aofia ai) [1]. O le iloiloga o le olaga atoa a Mistral e fa'atatauina ai se tali fesoasoani 400-token i le ~45 mL (fa'ai'uga pito i tua) [2]. E taua tele le anotusi ma le fa'ata'ita'iga.

• O le a'oa'oina o se fa'ata'ita'iga fa'atapula'a: e mafai ona o'o atu i le miliona lita , o le tele lava mai le fa'amālūlūina ma le vai o lo'o fa'apipi'iina i le gaosiga o le eletise. O se su'esu'ega fa'alea'oa'oga ua ta'ua lautele na fuafua e ma le 5.4 miliona lita e a'oa'o ai se fa'ata'ita'iga vasega GPT, e aofia ai le tusa ma le 700,000 lita na fa'aaogaina i luga o le nofoaga mo le fa'amālūlūina - ma finau mo le fa'atulagaina atamai e fa'aitiitia ai le malosi o le vai [3].

• O nofoaga autu o faʻamaumauga i se tulaga lautele: o nofoaga tetele e aofia ai le selau afe kalone i le aso i le averesi i kamupani tetele, faatasi ai ma tumutumuga maualuluga i nisi o lotoa e fuafua i le tau ma le mamanu [5].

Ia tatou faamaoni: o na fuainumera e foliga mai e le ogatasi i le taimi muamua. E moni lava. Ma e iai mafuaaga lelei.

Fua fa'atatau o le fa'aaogaina o le vai e ala i le AI ✅

O se tali lelei i le fesili E fia le vai e faʻaaogaina e le AI? e tatau ona siaki ni nai pusa:

1. Manino o le tuaoi
   E aofia ai ea na'o fa'amālūlū i totonu o le nofoaga , pe o le vai fo'i i fafo atu o le nofoaga e fa'aaogaina e la'au eletise e gaosia ai le eletise? O le faiga sili ona lelei e fa'avasega ai le fa'a'ese'esega o le fa'a'ese'esega o le vai ma le fa'aaogaina o le vai ma vaega 1-2-3, e tutusa ma le fa'amaumauga o le kaponi [3].

2. Ma'ale'ale i le nofoaga
   le vai i le kWh e fa'atatau i le itulagi ma le fa'afefiloi o le upega, o lea e mafai ai e le fa'atonuga lava e tasi ona i ai ni a'afiaga eseese i le vai e fa'atatau i le mea o lo'o tu'uina atu ai - o se mafua'aga autu lea e fautuaina ai e tusitusiga le fa'atulagaina e tusa ai ma le taimi ma le nofoaga [3].

3. Fa'atinoina o le galuega moni
   Pe o atagia mai ea i le numera ni fa'atonuga o le gaosiga i le ogatotonu , e aofia ai le gafatia e le galue ai ma le overhead o le nofoaga autu o fa'amaumauga, pe na'o le accelerator i le tumutumuga? E fa'amamafa e Google le fa'amaumauga atoa o le faiga (le galue ai, CPUs/DRAM, ma le overhead o le nofoaga autu o fa'amaumauga) mo le fa'ai'uga, ae le na'o le matematika o le TPU [1].

4. Tekinolosi Fa'amālūlū
   O le fa'amālūlūina o le evaporative cooling, closed-loop liquid cooling, air cooling, ma auala fou o lo'o fa'atupuina mai o le direct-to-chip e suia tele ai le malosi o le vai. O lo'o fa'alauiloa e Microsoft ni mamanu e fa'amoemoe e fa'aumatia ai le fa'aaogaina o le vai fa'amālūlūina mo nisi o nofoaga o le isi tupulaga [4].

5. Taimi o le aso ma le vaitau
   O le vevela, le susū, ma tulaga o le upega e suia ai le aoga o le faʻaaogaina o le vai i le olaga moni; o se suʻesuʻega tāua e fautuaina ai le faʻatulagaina o galuega tetele pe a ma pe a maualalo le malosi o le vai [3].

Fa'amatalaga e uiga i le fa'aitiitia o le vai vs le fa'aaogaina o le vai 💡

• Aveesea = vai e aumai mai vaitafe, vaituloto, po'o vaipuna (o nisi na toe fo'i mai).

• Fa'aaogaina = vai e le toe faafoi mai ona ua liu suavai pe ua fa'afefiloi i totonu o faiga/oloa.

fa'aaogāina e 'olo fa'amālūlū le vai e ala i le fa'a'asu'u. E mafai e le gaosiga o le eletise ona aveese ni aofa'iga tetele (o nisi taimi e fa'aaogāina ai se vaega), e fuafua i le la'au ma le auala e fa'amālūlū ai. O se fa'ailoga fa'atuatuaina o le AI-water o lo'o lipotia mai [3].

O fea e alu i ai le vai i le AI: o pakete e tolu 🪣

1. Va'aiga 1 - fa'amālūlūina i le nofoaga
   O le vaega va'aia: o le vai na fa'a'asu i le nofoaga autu o fa'amaumauga lava ia. O filifiliga o mamanu e pei o le fa'a'asu pe fa'atusatusa i le ea po'o le vai tapuni na fa'atulaga ai le fa'avae [5].

2. Va'aiga 2 - gaosiga o le eletise
   E mafai e kWh uma ona i ai se pine vai natia; o le paluga ma le nofoaga e fuafua ai le faailoilo lita-i-le-kWh e mautofi i lau galuega [3].

3. Va'aiga 3 - sapalai o le sapalai
   O le gaosiga o chip e fa'alagolago i le vai mama tele i le gaosiga. E te le va'aia i se fua fa'atatau "i le taimi atofaina" se'i vagana ua aofia manino i le tuaoi ni a'afiaga fa'aletino (e pei o se LCA atoa) [2][3].

O tautua e fa'atatau i fuainumera, fa'atasi ai ma ni fa'amatalaga auiliili 🧮

• O le Google Gemini prompts o
  le Full-stack serving method (e aofia ai le idle ma le facility overhead). O le median text prompt ~0.26 mL o le vai fa'atasi ai ma le ~0.24 Wh energy; o fuainumera o lo'o atagia ai le feoa'iga o gaosiga ma tapula'a lautele [1].

• O le olaga atoa o le Mistral Large 2
  O se LCA tutoatasi e seasea maua (faatasi ai ma le ADEME/Carbone 4) e faailoa mai ai le ~281,000 m³ mo aoaoga + faaaogaina vave ma se inference margin ~45 mL mo se 400-token assistant response [2].

• O le fa'amoemoega a Microsoft mo le fa'amālūlūina e aunoa ma le vai
  O nofoaga autu o fa'amaumauga o le tupulaga fou ua mamanuina e leai se vai e fa'aaogā mo le fa'amālūlūina , e fa'alagolago i auala e tu'usa'o mai i le chip; o fa'aaogāga a le pulega e mana'omia pea sina vai [4].

• Fuainumera lautele o nofoaga autu o faʻamaumauga
  O kamupani tetele e lipotia mai le faitau selau afe kalone i le aso i le averesi i nofoaga taʻitasi; o le tau ma le mamanu e tuleia i luga pe i lalo fuainumera [5].

• O le fa'avae fa'alea'oa'oga muamua
  O le su'esu'ega autū o le "thirsty AI" na fuafua ai le faitau miliona lita e toleni ai fa'ata'ita'iga vasega GPT, ma o tali feololo e 10–50 e mafai ona tutusa ma se e 500 mL - e fa'alagolago tele i le taimi/o fea e fa'aoga ai [3].

Aiseā e tele ai le lē tutusa o fuafuaga 🤷

• Eseesega o tapula'a
  O nisi fuainumera e na'o le fa'amālūlūina i totonu o le nofoaga e ; o isi e fa'aopoopo i ai le vai o le eletise ; e ono fa'aopoopo i ai e le LCA le gaosiga o chips . Apala, moli, ma salati fuala'au [2][3].

• Eseesega o galuega
  O se fa'amatalaga tusitusia pu'upu'u e lē o se fa'agasologa umi o le tele o vaega/code; o le fa'atulagaina o vaega, fa'atasi, ma le latency e suia ai le fa'aaogaina [1][2].

• Tau ma upega eseese
  Fa'amālūlūina o le ea i se eria vevela ma mago ≠ fa'amālūlūina o le ea/vai i se eria malūlū ma susū. E matuā eseese lava le malosi o le vai i upega [3].

• Auala na fa'alauiloa ai e le au fa'atau oloa
  Na lolomiina e Google se auala e fa'atino ai le tautua i le faiga atoa; Na lolomiina e Mistral se LCA aloaia. O isi e ofoina atu ni fa'atatauga o togi ma ni auala e seasea. O se tagi lauiloa "tasi vaesefululima o le sipuni ti" i taimi ta'itasi na faia ai ulutala - ae a aunoa ma ni fa'amatalaga fa'atapula'a, e le tutusa [1][3].

• O se sini o loʻo faʻagasolo pea
  le faʻamālūlūina o loʻo vave ona suia. O loʻo faʻataʻitaʻiina e Microsoft le faʻamālūlūina e aunoa ma le vai i nisi o nofoaga; o le faʻalauiloaina o nei mea o le a faʻaitiitia ai le vai i totonu o le nofoaga e tusa lava pe o loʻo i ai pea se faʻailoga vai i le eletise i luga [4].

O le a se mea e mafai ona e faia i le asō e faʻaitiitia ai le faʻaaogaina o le AI i le vai 🌱

1. Fa'asa'o le tele o le fa'ata'ita'iga O
   fa'ata'ita'iga laiti ma fa'atulagaina mo galuega e masani ona fetaui ma le sa'o a'o fa'aitiitia le fa'aogaina o komepiuta. O le iloiloga a Mistral e fa'amamafaina ai feso'ota'iga malolosi i le va o le tele ma le tulagavae - ma fa'asalalauina numera fa'ai'uga i autafa ina ia mafai ona e mafaufau i fefa'ataua'iga [2].

2. Filifili vaega e fa'atatau i le vai.
   E sili atu le fiafia i vaega e malulu le tau, lelei le fa'amālūlūina, ma upega eletise e maualalo le malosi o le vai i le kWh; o le galuega "thirsty AI" e fa'aalia ai taimi ma nofoaga [3].

3. Fesuia'i galuega i le taimi atofaina
   Fa'atulaga a'oa'oga/fa'ai'uga tele mo itula e fa'asaoina ai le vai (po malūlū, tulaga lelei o le upega tafa'ilagi) [3].

4. Fesili i lau fa'atau'oloa mo ni fua fa'atatau manino.
   Mana'omia le vai i le taimi lava e tasi , fa'amatalaga o tuaoi, ma pe aofia ai i fuainumera le gafatia e le'i fa'aaogaina ma le tau o le fale. O lo'o tuleia e vaega fa'avae le fa'alauiloaina fa'amalosia ina ia mafai ai ona fa'atusatusa mea uma [3].

5. E tāua le tekinolosi fa'amālūlūina
   Afai e te fa'aogaina masini komepiuta, iloilo le fa'amālūlūina e fa'aaoga ai le tapuni/tu'usa'o i le chip ; afai o lo'o e i luga o le ao, e sili atu i itulagi/fa'alapotopotoga o lo'o fa'atupeina le fa'atauina atu o mamanu e fa'aaoga ai le malamalama vai [4][5].

6. Fa'aaoga le vai efuefu ma filifiliga mo le toe fa'aaogaina
   E mafai e le tele o lotoa ona sui i punaoa e le mafai ona inuina pe toe fa'aaogaina i totonu o ni taamilosaga; o lo'o fa'amatalaina e kamupani tetele le paleniina o punaoa o le vai ma filifiliga mo le fa'amālūlūina e fa'aitiitia ai le a'afiaga [5].

O se faʻataʻitaʻiga puʻupuʻu e faʻataunuʻu ai (e le o se tulafono lautele): o le siitia o se galuega aʻoaʻoga i le po mai se vaega vevela ma mago i le ogatotonu o le taumafanafana i se vaega malūlū ma sili atu le susū i le tautotogo - ma le faʻatinoina i taimi e le o pisi ai ma malūlū - e mafai ona suia ai i totonu o le nofoaga ma i fafo atu o le nofoaga (grid). O le ituaiga lea o faʻatulagaga aoga ma faigofie e mafai ona maua ai [3].

Siata fa'atusatusaga: filifiliga vave e fa'aitiitia ai le a'afiaga o le AI i le vai 🧰

("O le Tau" e vaivai i le mamanu - e eseese faʻatulagaga.)

Su'esu'ega loloto: ua fa'ateleina le leotele o le pao o le talipalau a le malo 🥁

Ua talosagaina e vaega o inisinia le faʻasalalauina faʻamalosia o le malosiaga ma le vai o nofoaga autu o faʻamaumauga ina ia mafai e tagata faʻatau ma nuʻu ona faʻamasinoina tau ma aogā. O fautuaga e aofia ai faʻamatalaga o le lautele, lipoti i le tulaga o le nofoaga, ma le taʻiala o le nofoaga - aua a aunoa ma ni fua faʻatatau tutusa ma le iloa o le nofoaga, o loʻo tatou finau i le pogisa [3].

Su'esu'ega loloto: e lē tutusa le fa'aogaina o nofoaga autu o fa'amaumauga 🚰

O loʻo i ai se tala pepelo faifai pea e faʻapea "e le faʻaaogaina e le faʻamālūlūina o le ea le vai." E le o le mea moni lena. O faiga e mamafa i le ea e masani ona manaʻomia ai le tele o le eletise , lea i le tele o itulagi e ave ai le vai natia mai le upega; i se isi itu, o le faʻamālūlūina o le vai e mafai ona faʻaitiitia ai le eletise ma le faʻasaʻolotoina o le ea i le tau o le vai i totonu o le nofoaga. O kamupani tetele e faʻapaleniina manino nei fefaʻatauaʻiga i nofoaga taʻitasi [1][5].

Su'esu'ega loloto: o se siaki vave o le mea moni i luga o fa'amatalaga ua salalau i luga o le initaneti 🧪

Atonu ua e vaʻaia ni faʻamatalaga mataʻina e faʻapea o le tasi le faʻamatalaga e tutusa ma le "fagu vai," pe, i le isi itu, "naʻo ni nai mataua." Tulaga lelei: lotomaulalo ma le matematika . O faʻamatalaga faʻatuatuaina i aso nei e ~0.26 mL mo se faʻamatalaga gaosiga ogatotonu ma le tautua atoa [1] ma le ~45 mL mo se tali fesoasoani e 400-token (faʻaiʻuga pito i tua) [2]. O le tagi e tele ina faʻasoa "tasi vaesefululima o le sipuni ti" e leai se tuaoi/metotia lautele; taulimaina e pei o se tala o le tau e aunoa ma le aai [1][3].

Mini-FAQ: E fia le vai e faʻaaogaina e le AI? toe fai, i le gagana Peretania faigofie 🗣️

• O lea la, o le ā se mea e tatau ona ou fai atu i se fonotaga?
  "E tusa ai ma le fa'atonuga, e amata mai i ni nai mataua i ni nai miti , e fuafua i le fa'ata'ita'iga, umi, ma le mea e fa'atino ai. E mana'omia e a'oa'oga ni vaituloto , ae le o ni vaituloto." Ona ta'ua lea o se fa'ata'ita'iga se tasi pe lua o lo'o i luga.

• E matuā leaga ea le AI?
  E matuā fa'apitoa : o pu'upu'u malolosi e fa'apipi'i fa'atasi e maua ai ni avega tetele o le fa'amālūlūina. Ae o nofoaga autu o fa'amaumauga o nofoaga fo'i ia e muamua taunu'u mai ai tekinolosi sili ona lelei [1][4].

• E fa'apefea pe a tatou fa'aliliuina mea uma i le ea malulu?
  Atonu e te fa'aitiitia i totonu o le nofoaga ae fa'ateleina i fafo atu o le nofoaga e ala i le eletise. E fuaina e tagata fa'agaoioia atamamai uma ia mea e lua [1][5].

• Ae fa'apefea tekinolosi i le lumana'i?
  O mamanu e 'alofia ai le fa'amālūlūina o le vai i se tulaga tele o le a avea ma suiga tele mo le Scope 1. O nisi o kamupani o lo'o agai i lenei itu; o le eletise i luga o le eleele o lo'o tauaveina pea se fa'ailo vai se'ia o'o ina suia upega eletise [4].

Fa'amatalaga Fa'ai'u - Umi Tele, Ou te le'i faitauina 🌊

• I le fa'atonuga ta'itasi: mafaufau i le sub-milliliter i le sefulu milliliters , e fuafua i le fa'ata'ita'iga, le umi o le fa'atonuga, ma le mea e fa'agaoioi ai. O le averesi o le fa'atonuga ~0.26 mL i le tasi fa'aputuga tele; ~45 mL mo se tali 400-token i le isi [1][2].

• A'oa'oga: miliona lita mo fa'ata'ita'iga frontier, ma avea ai le fa'atulagaina, nofoaga, ma tekinolosi fa'amālūlūina e taua tele [3].

• Mea e fai: fa'ata'ita'iga sa'o le lapopo'a, filifili vaega e fa'atatau i le vai, sui galuega mamafa i taimi malulu, fiafia i fa'atau'oa e fa'amaonia mamanu e fa'atatau i le vai, ma mana'omia ni tapula'a manino [1][3][4][5].

O se fa'ata'ita'iga e fai si sese i le fa'ai'uga: O le AI o se 'aufaipese fiainu - o le pese e fa'akomepiuta, ae o lo'o fa'amālūlūina talipalau ma fa'asusuina le vai. Fa'alelei le fa'aili, ma e maua pea e le aofia le musika e aunoa ma le pa o le sprinklers. 🎻💦

Fa'asinomaga

1. Google Cloud Blog - O le a le tele o le malosi e faʻaaogaina e le AI a Google? Na matou faia le matematika (metotia + ~0.26 mL averesi o le fua faatatau, tau atoa o le tautua). So'otaga
   (Pepa fa'apitoa PDF: Fuaina o le a'afiaga i le siosiomaga o le tu'uina atu o le AI i le fua fa'atatau a Google .) So'otaga

2. Mistral AI - O la matou sao i se tulaga fa'ale-siosiomaga fa'alelalolagi mo le AI (LCA ma le ADEME/Carbone 4; ~281,000 m³ a'oa'oga + fa'aaogaina vave; ~45 mL i 400-token , fa'ai'uga i autafa). So'otaga

3. Li ma isi - Fa'aitiitia le "Fiafia" o le AI: Fa'ailoa ma Fa'atalanoaina le Tulaga Fa'alilolilo o le Vai o Fa'ata'ita'iga AI (a'oa'oina o le miliona o lita , o le taimi ma le nofoaga , fa'amutaina vs. le fa'aaogaina). So'otaga

4. Microsoft - O nofoaga autu o faʻamaumauga o le isi tupulaga e leai se vai e faʻaaogaina mo le faʻamālūlūina ( o mamanu tuusaʻo-i-le-chip e faʻatatau i le faʻamālūlūina e aunoa ma le vai i nisi o nofoaga).

5. Nofoaga Autu o Fa'amaumauga a Google - Fa'agaoioia ma le gafataulimaina (fesuia'iga o le fa'amālūlūina o nofoaga ta'itasi; lipoti ma le toe fa'aaogaina, e aofia ai le vai toe fa'aaogaina/vai efuefu; fa'asologa o le fa'aaogaina masani i aso ta'itasi i le tulaga o le nofoaga). So'otaga

Saili le AI Fou i le Faleoloa Aloaia o Fesoasoani AI

Faatatau ia tatou