O le a le Neural Network i AI?

O le a le Neural Network i AI?

Neural networks e foliga lilo seiloga e leai. Afai na e mafaufau pe o le a le Neural Network i AI? ma pe na'o le numera ma se pulou manaia, ua e i ai i le nofoaga sa'o. O le a matou fa'atumauina pea, fa'asausau i ta'avale laiti, ma ioe - nai emojis. O le a e alu ma le iloa po'o a nei faiga, aisea latou te galulue ai, o fea latou te le manuia, ma pe fa'afefea ona talanoa e uiga i ai e aunoa ma le talotalo lima.

Tala atonu e te mana'o e faitau pe a mae'a lenei:

🔗 O le a le fa'aituau AI
Malamalama faʻaituau i faiga AI ma taʻiala e faʻamautinoa ai le saʻo.

🔗 O le a le mea e vaʻaia AI
Fa'afefea ona fa'aogaina e AI fa'asologa e va'ai ai taunu'uga i le lumana'i.

🔗 O le a le faiaoga AI
Su'esu'e le matafaioi ma matafaioi a tagata tomai faapitoa latou te aoaoina AI.

🔗 O le a le va'aiga komepiuta ile AI
Fa'afefea ona fa'amatala ma au'ili'ili e AI fa'amatalaga va'aia e ala ile va'aiga komepiuta.

O le a le Neural Network i AI? Ole tali 10-lua ⏱️

O se neural network o se faaputuga o iunite faʻatatau faigofie e taʻua o neu e pasi numera i luma, fetuutuunai o latou malosi fesoʻotaʻiga i le taimi o aʻoaʻoga, ma faasolosolo malie ona aʻoaʻoina mamanu i faʻamaumauga. A e fa'alogo i a'oa'oga loloto , o lona uiga e masani lava o se neural network ma le tele o fa'aputu fa'aputu, fa'aa'oa'oga fa'apitoa nai lo le fa'ailogaina i le lima. I se isi faaupuga: tele fasi numera laiti, fa'atulagaina ma le poto, a'oa'oina i fa'amaumauga seia o'o ina aoga [1].

O le a le mea e aoga ai le Neural Network? ✅

  • Mana fa'atusa : Faatasi ai ma le fausaga sa'o ma le lapopoa, e mafai e feso'ota'iga ona fa'atatau i galuega fa'alavelave fa'apitoa (silasila i le Universal Approximation Theorem) [4].

  • A'oa'oga fa'ai'uga : Nai lo o fa'ainisinia lima, e maua e le fa'ata'ita'iga [1].

  • Fa'alaua'itele : O se feso'ota'iga fa'atonu lelei e le na'o le taulotoina - e fa'atino i fa'amatalaga fou, e le'i va'aia [1].

  • Scalability : Fa'amaumauga tetele ma fa'ata'ita'iga tetele e masani ona fa'aleleia atili i'uga... e o'o atu i tapula'a fa'atino e pei o le fa'atatauina ma le tulaga lelei o fa'amaumauga [1].

  • Fa'aliliuina : O mea e a'oa'oina i se galuega e tasi e mafai ona fesoasoani i le isi (fa'aliliuina a'oa'oga ma fa'alelei lelei) [1].

Faʻamatalaga laiti fanua (faʻataʻitaʻiga faʻataʻitaʻiga): O se vaega faʻavasegaina o oloa laiti e fesuiai foliga fau lima mo se CNN faʻapipiʻi, faʻaopoopo faʻaopoopoga faigofie (flips / crops), ma matamata i le faʻamaonia o mea sese - e le ona o le fesoʻotaʻiga e "magic," ae ona na ia aʻoaʻoina saʻo vaega aoga mai pixels.

"O le a le Neural Network i AI?" i le fa'aPeretania manino, fa'atasi ai ma se fa'atusa 🍞

Vaai faalemafaufau i se laina falefalaoa. E o'o i totonu mea e fa'aoga, e sui e tagata faigaluega le fua, faitio tagata su'e tofo, ma toe fa'afouina e le 'au le fua. I totonu o se feso'ota'iga, o mea e fa'aogaina e tafe atu i luga o fa'apalapala, o le galuega leiloa e togi le mea e maua, ma fa'alili fa'asolo le mamafa e sili atu le isi taimi. E le atoatoa e pei o se fa'atusa - o le falaoa e le mafai ona 'ese'ese - ae e pipii [1].

O le tino o se neural network 🧩

  • Neurons : Fuafuaga laiti o lo'o fa'aogaina se aofa'iga mamafa ma se galuega fa'agaoioiga.

  • Mamafa & fa'aituau : Kipi e mafai ona fetu'una'i e fa'amatala ai le tu'ufa'atasiga o fa'ailo.

  • Layers : E maua ai fa'amaumauga fa'amaumauga, fa'apena natia e suia, fa'asologa o galuega e faia ai le valo'aga.

  • Galuega fa'agaioiga : O mimilo e le laina e pei o ReLU, sigmoid, tanh, ma le softmax e fa'afaigofie ai a'oa'oga.

  • Galuega gau : Se togi o le sese o le va'aiga (cross-entropy mo le fa'avasegaina, MSE mo le toe fa'afo'i).

  • Optimizer : Algorithms pei o le SGD poʻo Atamu faʻaaoga gradients e faʻafouina ai le mamafa.

  • Fa'atulafonoina : O metotia e pei o le pa'u po'o le pala o le mamafa e taofia ai le fa'ata'ita'iga mai le soona fa'apipi'i.

Afai e te manaʻo i togafitiga faʻapitoa (ae mafai lava ona faitau), o le tusi tatala Deep Learning e aofia ai le faʻaputuga atoa: faʻavae numera, faʻataʻitaʻiga, ma faʻasalalauga [1].

Fa'agaioiga galuega, puupuu ae fesoasoani ⚡

  • ReLU : Zero mo mea le lelei, laina mo mea lelei. Faigofie, vave, aoga.

  • Sigmoid : Squashes tau i le va o le 0 ma le 1 - aoga ae mafai ona faʻamalieina.

  • Tanh : Pei o sigmoid ae tutusa tutusa i le zero.

  • Softmax : Su'e togi mata'utia i avanoa i vasega uma.

E te le manaʻomia le taulotoina o foliga piʻo uma - naʻo le iloa o fefaʻatauaiga ma faʻaletonu masani [1, 2].

E fa'afefea ona tupu moni le a'oa'oga: tua, ae le fa'afefe 🔁

  1. Pasi i luma : Fa'asalalau fa'amatalaga fa'alava ma lea fa'afua e maua ai se va'aiga.

  2. Fa'atusatusa le leiloa : Fa'atusatusa le valo'aga i le mea moni.

  3. Backpropagation : Fa'atatau le fa'asologa o le gau e fa'atatau i le mamafa ta'itasi e fa'aaoga ai le tulafono filifili.

  4. Fa'afou : E sui la'ititi le mamafa o le Optimizer.

  5. Toe fai : Tele vaitau. O le faʻataʻitaʻiga e faasolosolo malie ona aʻoaʻoina.

Mo se faʻamatalaga lima faʻatasi ma faʻamatalaga vaʻaia ma faʻamatalaga lata ane, vaʻai i faʻamatalaga masani a le CS231n i luga o le backprop ma optimization [2].

O aiga tetele o neural networks, i se tepa 🏡

  • Feedforward networks (MLPs) : Le ituaiga sili ona faigofie. Fa'amatalaga na'o le agai i luma.

  • Convolutional Neural Networks (CNNs) : Lelei mo ata fa'afetai i fa'amama fa'avanoa e iloa ai pito, lanu, foliga [2].

  • Feso'ota'iga Neural Recurrent (RNNs) & 'ese'ese : Fausia mo fa'asologa e pei o tusitusiga po'o taimi fa'asologa e ala i le tausia o se lagona o le fa'atonuga [1].

  • Transformers : Fa'aoga le gauai e fa'ata'ita'i sootaga i tulaga i se fa'asologa i le taimi e tasi; pule i le gagana ma tua atu [3].

  • Graph Neural Networks (GNNs) : Fa'agaoioi i pona ma pito o le kalafi - aoga mo mole, feso'ota'iga lautele, fautuaga [1].

  • Autoencoders & VAEs : A'oa'o fa'atusa fa'apipi'i ma fa'atupu suiga [1].

  • Fa'ata'ita'iga fa'atupu : Mai GAN i fa'ata'ita'iga fa'asalalau, fa'aoga mo ata, leo, e o'o lava i le code [1].

O faʻamatalaga CS231n e sili ona faauo mo CNNs, ae o le Transformer pepa o le alu-i puna muamua mo faʻataʻitaʻiga faʻapitoa [2, 3].

Fa'atusatusaga: ituaiga masani o feso'ota'iga neural, po'o ai latou mo, vibes tau, ma pe aisea latou te galulue ai 📊

Meafaigaluega / Ituaiga Tagata fa'alogo Tau-ish Aisea e aoga ai
Feedforward (MLP) Tagata amata, tagata su'esu'e Maulalo-tulaga Fa'afaigofie, fetu'una'i, talafeagai laina fa'avae
CNN 'Au va'aiga Alafua Fa'asologa fa'alotoifale + fa'asoa fa'amau
RNN / LSTM / GRU Fa'asologa o tagata Alafua Fa'amanatuga fa'aletino-ish… e maua ai le fa'atonuga
Transformer NLP, multimodal Medium-maualuga E taulaʻi atu le mafaufau i soʻotaga talafeagai
GNN Saienitisi, recsys Alafua O le fe'au pasi i kalafi e fa'aalia ai le fausaga
Autoencoder / VAE Tagata su'esu'e Maulalo-tulaga A'oa'o fa'atusa fa'amau
GAN / Fa'asalalauga fale su'esu'e Medium-maualuga Fa'aleaga fa'aleaga po'o le fa'asolosolo fa'ate'a

Fa'amatalaga: o le tau e fa'atatau ile fa'atulagaina ma le taimi; e eseese lau maila. O se sela pe lua e talanoa ma le loto i ai.

"O le a le Neural Network i AI?" vs masani ML algorithms ⚖️

  • Fa'ainisinia fa'apitoa : E masani ona fa'alagolago le ML masani ile fa'ailoga tusi. E otometi ona a'oa'oina e upega o neural vaega - ose manumalo tele mo fa'amatalaga lavelave [1].

  • Fa'amatalaga fia'ai : O feso'ota'iga e masani ona susulu ma le tele o fa'amatalaga; o fa'amatalaga laiti e ono fiafia i fa'ata'ita'iga faigofie [1].

  • Fa'atusatusaga : O feso'ota'iga e fiafia tele i fa'avavevave pei o GPU [1].

  • Faiga fa'aoga : Mo fa'amaumauga e le'i fa'atulagaina (ata, leo, tusitusiga), o upega loloto e matele lava ina pule [1, 2].

Le fa'aa'oa'oga fa'aa'oa'oga o lo'o galue moni i fa'ata'ita'iga 🛠️

  1. Fa'amatala le fa'amoemoe : Fa'avasegaina, toe fa'afo'i, fa'avasega, fa'atupu - filifili se gau e fetaui.

  2. Femisa'i fa'amatalaga : Vaevae ile nofoaafi/fa'amaonia/su'ega. Fa'atonu uiga. Paleni vasega. Mo ata, mafaufau i le faʻaopoopoga e pei o faʻafefe, mea totō, tamaʻi pisa.

  3. Filifiliga faufale : Amata faigofie. Faaopoopo le gafatia pe a manaʻomia.

  4. Fa'aa'oa'oga fa'aa'oa'oga : Fa'aputu fa'amaumauga. Pasi i luma. Fa'atatau le gau. Fa'aola. Fa'afouga. Fua fa'atatau.

  5. Fa'atulafonoina : Fa'amuta, pala le mamafa, taofi vave.

  6. Iloilo : Fa'aaoga le seti fa'amaonia mo hyperparameters. Tu'u atu se seti su'ega mo le siaki mulimuli.

  7. Va'a ma le fa'aeteete : Mata'ituina le fe'avea'i, siaki pe fa'aituau, fuafua le toe fa'afo'i.

Mo a'oa'oga fa'ai'uga fa'ai'uga, fa'asinoala fa'asinotonu fa'atasi ai ma talitonuga mautu, o le tusi a'oga matala ma fa'amatalaga CS231n o taula fa'atuatuaina [1, 2].

Ova fa'apipi'i, fa'alautele, ma isi gremlins 👀

  • Ova fa'apipi'i : O le fa'ata'ita'iga e tauloto mea tau a'oa'oga. Fa'amau i le tele o fa'amaumauga, fa'atonuga malosi, po'o fa'ata'ita'iga faigofie.

  • Fa'alalo : O le fa'ata'ita'iga e faigofie tele po'o le a'oa'oga e matamuli tele. Faʻateleina le gafatia poʻo le toleniina umi.

  • Lisi fa'amaumauga : O fa'amatalaga mai le seti su'ega e o'o atu i toleniga. Faatolu-siaki au vaevaega.

  • Le lelei le fa'avasegaina : O se fa'ata'ita'iga e mautinoa ae sese e mata'utia. Manatunatu i le fa'avasegaina po'o le ese'esega o le pa'u mamafa.

  • Su'ega fa'asoa : Fa'asolo fa'amatalaga moni i le lalolagi. Mataitu ma fetuunai.

Mo le aʻoaʻoga i tua atu o le faʻasalalauga ma le faʻavasegaina, faʻalagolago i faʻamatalaga masani [1, 2].

Saogalemu, fa'amatalaina, ma le fa'atinoina fa'atatau 🧭

Neural networks e mafai ona faia ni fa'ai'uga maualuga. E le lava le latou faia lelei i luga o se ta'ita'i. E te manaʻomia pulega, fua, ma laʻasaga faʻaitiitia i le gasologa o le olaga. O le NIST AI Risk Management Framework o loʻo faʻamatalaina ai galuega faʻatino - GOVERN, MAP, MEASURE, MANAGE - e fesoasoani ai i 'au e tuʻufaʻatasia le puleaina o lamatiaga i le mamanu ma le faʻapipiʻiina [5].

O nai fa'amatalaga vave:

  • Su'esu'ega fa'aituau : Iloilo fa'atasi vaega fa'atagata pe a talafeagai ma fa'atulafonoina.

  • Fa'amatala : Fa'aaogā metotia e pei o le fa'amaonia po'o fa'ailoga fa'apitoa. E le atoatoa, ae aoga.

  • Mata'itū : Seti fa'aaliga mo pa'u fa'afuase'i metric po'o fa'ase'e fa'amaumauga.

  • Vaavaaiga a tagata : Taofi tagata i le matasele mo filifiliga mamafa-a'afiaga. Leai se toa, na o le tumama.

O fesili e masani ona fesiligia e oe 🙋

O se neural network ose fai'ai?

Fa'aosofia e fai'ai, ioe - ae fa'afaigofie. Neurons i feso'ota'iga o galuega math; neu olaola o sela ola ma dynamics faigata. Vibes tutusa, e matua ese lava le fisiki [1].

E fia ni laulau ou te mana'omia?

Amata laiti. Afai e te fa'aletonu, fa'aopoopo le lautele po'o le loloto. Afai o lo'o e fa'aofuofu, fa'atonu pe fa'aitiitia le malosi. E leai se numera fa'ataulāitu; o lo'o i ai na'o le fa'amaoniaina ma le onosai [1].

Ou te manaʻomia i taimi uma se GPU?

E le o taimi uma. O faʻataʻitaʻiga laiti i luga o faʻamatalaga tauagafau e mafai ona aʻoaʻoina i luga o PPU, ae mo ata, faʻataʻitaʻiga tele o tusitusiga, poʻo faʻamaumauga tetele, faʻavavevave sefe tone o le taimi [1].

Aisea e fai mai ai tagata e malosi le gauai?

Aua o le gauai e mafai ai e faʻataʻitaʻiga ona taulaʻi atu i vaega sili ona talafeagai o se faʻaoga e aunoa ma le savali saʻo i le faasologa. E pu'eina sootaga i le lalolagi atoa, o se mea tele mo le gagana ma le tele o galuega [3].

O le "O le a le Neural Network i AI?" e ese mai le “o le ā le aʻoaʻoga loloto”?

O le a'oa'oina loloto o le auala lautele lea e fa'aogaina ai feso'ota'iga neural loloto. Ole fesili ole a ole Neural Network ile AI? e pei o le fesili e uiga i le tagata autu; a'oa'oga loloto o le ata atoa lea [1].

Fa'ata'ita'iga fa'atino, fa'auiga laititi 💡

  • Mana'o i laina faavae faigofie . E oʻo lava i se laʻititi multilayer perceptron e mafai ona taʻu atu ia te oe pe mafai ona aʻoaʻoina faʻamatalaga.

  • Taofi lau paipa fa'amaumauga e mafai ona toe gaosia . Afai e le mafai ona e toe fa'atinoina, e le mafai ona e fa'atuatuaina.

  • le fua o le aʻoaʻoina nai lo le mea e te mafaufau i ai. Taumafai se fa'atulagaga. E mafai ona fesoasoani le mafanafana.

  • fefa'ataua'iga lapopo'a . O vaega tetele e fa'amautu fa'ali'i ae e ono fa'alautele ese.

  • Pe a fenumiai, fuafua pupuni o le leiloa ma le mamafa masani . E te ofo i le tele o taimi e maua ai le tali i totonu o fuafuaga.

  • Fa'amatalaga fa'amaumauga. I le lumanaʻi-e te faʻagaloina mea - vave [1, 2].

Ta'avale maulu loloto: o le matafaioi a fa'amaumauga, po'o le mafua'aga o le lapisi i totonu o lona uiga o le lapisi i fafo 🗑️➡️✨

O feso'ota'iga neural e le fa'asalaina fa'amatalaga sese. Fa'ailoga sese, fa'amatalaga sese, po'o fa'ata'ita'iga vaapiapi o le a fa'alogo uma i le fa'ata'ita'iga. Fa'atonu, su'etusi, ma fa'aopoopo. Ma afai e te le o mautinoa pe e te manaʻomia nisi faʻamatalaga poʻo se faʻataʻitaʻiga sili atu, o le tali e masani ona faʻafefe faigofie: e lua - ae amata i faʻamaumauga [1].

"O le a le Neural Network i AI?" - fa'amatalaga pupuu e mafai ona e toe fa'aoga 🧾

  • O se feso'ota'iga neural o se fa'avasegaga o galuega fa'apipi'i e a'oa'oina ai fa'ata'ita'iga lavelave e ala i le fetu'una'i o le mamafa e fa'aaoga ai fa'ailoga fa'asolosolo [1, 2].

  • Ose faiga e fa'aliliu ai mea e fa'aoga i galuega faatino e ala i la'asaga e le laina fa'asolosolo, a'oa'oina e fa'aitiitia ai le gau [1].

  • Ose faiga fa'ata'ita'i fetu'utu'una'i, fia'ai fa'amatalaga e fa'aola i mea e le fa'atulagaina e pei o ata, tusitusiga, ma leo [1, 2, 3].

Umi Tele, E le'i Faitau ma fa'amatalaga fa'ai'u 🎯

Afai e fesili se tasi ia te oe O le a le Neural Network i AI? o le leo leo: o le neural network o se faaputuga o iunite faigofie e suia faʻamaumauga i lea laasaga ma lea laasaga, aʻoaʻoina le suiga e ala i le faʻaitiitia o le gau ma mulimuli i le faʻasolosolo. E mamana aua latou te fuaina, e otometi lava ona aʻoaʻoina foliga, ma e mafai ona faʻatusalia galuega faigata tele [1, 4]. E lamatia pe afai e te le amanaiaina le tulaga lelei o faʻamaumauga, pulega, poʻo le mataʻituina [5]. Ma e le o ni togafiti faataulaitu. Na'o le numera, fa'atatau, ma lelei inisinia - fa'atasi ai ma sina tofo.

Faitau atili, filifilia ma le faaeteete (e le o ni upusii faaopoopo)

Fa'asinomaga

[1] Goodfellow, I., Bengio, Y., & Courville, A. Deep Learning . MIT Press. Fa'amatalaga i luga ole laiga fua: faitau atili

[2] Stanford CS231n. Convolutional Neural Networks for Visual Recognition (faamatalaga vasega): faitau atili

[3] Vaswani, A., Shazeer, N., Parmar, N., et al. (2017). Ua Na'o le Ua'i Atu . NeurIPS. arXiv: faitau atili

[4] Cybenko, G. (1989). Fa'atatau ile fa'asili ole galuega sigmoidal . Mathematics of Control, Signals and Systems , 2, 303–314. Springer: faitau atili

[5] NIST. AI Risk Management Framework (AI RMF) : faitau atili

Su'e le AI Fou i le Faleoloa Fesoasoani Lagolago AI

Faatatau ia tatou

Toe fo'i ile blog