O le ā le Neural Network i le AI?

O le ā le Neural Network i le AI?

E foliga lilo feso'ota'iga neura se'ia vagana ua leai. Afai na e mafaufau po'o le a le Neural Network i le AI? ma pe na'o le matematika ma se pulou matagofie, ua e i ai i le nofoaga sa'o. Matou te fa'aauau pea ona aoga, fa'aopoopo i ai ni nai auala fa'ata'amilomilo, ma ioe - ni nai emojis. O le a e alu ese ma le iloa po'o a nei faiga, pe aisea latou te aoga ai, o fea latou te toilalo ai, ma le auala e talanoa ai e uiga i ai e aunoa ma le talotalo lima.

O tala e te ono fia faitauina pe a uma lenei:

🔗 O le ā le fa'aituau a le AI
Malamalama i le fa'aitu'au i faiga fa'apitoa ma fuafuaga a le AI ina ia mautinoa le tonu.

🔗 O le ā le AI e valoia ai
E faʻapefea ona faʻaaogaina e le AI vavalo ia mamanu e vaʻai ai iʻuga o le lumanaʻi.

🔗 O le ā le faiaʻoga AI
Su'esu'eina o matafaioi ma tiutetauave a tagata tomai faapitoa o lo'o a'oa'oina le AI.

🔗 O le ā le vaʻaiga faʻakomepiuta i le AI
Auala e fa'amatala ma iloilo ai e le AI fa'amatalaga vaaia e ala i le va'aiga fa'akomepiuta.

O le ā le Neural Network i le AI? O le tali e 10-sekone ⏱️

O se feso'ota'iga neura o se fa'aputuga o iunite fa'atatau faigofie e ta'ua o neura e tu'uina atu numera i luma, fetu'una'i o latou malosi feso'ota'iga i le taimi o a'oa'oga, ma faasolosolo malie ona a'oa'oina mamanu i fa'amaumauga. A e fa'alogo i le deep learning , o lona uiga e masani lava o se feso'ota'iga neura e tele vaega ua fa'aputuina, e otometi lava ona fa'aalia le a'oa'oina nai lo le fa'ailogaina i le lima. I se isi faaupuga: le tele o fasi numera laiti, ua fa'atulaga ma le atamai, ua a'oa'oina i fa'amaumauga se'ia o'o ina aoga [1].

O le ā le aogā o se Neural Network? ✅

  • Malosiaga o le Fa'atusa : Faatasi ai ma le fausaga ma le tele sa'o, e mafai e feso'ota'iga ona fa'atatauina galuega fa'atino e matua faigata lava (tagai i le Universal Approximation Theorem) [4].

  • Aoaoina mai le amataga e oo i le iuga : Nai lo o foliga fa'ainisinia i le lima, e maua e le fa'ata'ita'iga [1].

  • Fa'alauteleina : O se feso'ota'iga ua fa'atulagaina lelei e le gata ina tauloto - ae fa'atino i fa'amatalaga fou e le'i va'aia [1].

  • Fa'alauteleina : O fa'amaumauga tetele fa'atasi ai ma fa'ata'ita'iga tetele e masani ona fa'aleleia atili ai taunu'uga ... e o'o atu i tapula'a fa'atino e pei o le lelei o le komepiuta ma fa'amaumauga [1].

  • Fesiitaiga : O vaega ua a'oa'oina i le tasi galuega e mafai ona fesoasoani i le isi (fesiitaiga o le a'oa'oina ma le fa'aleleia atili) [1].

Fa'amatalaga la'ititi (fa'ata'ita'iga o se tulaga): O se 'au fa'avasega oloa la'ititi e sui foliga na fausia e le lima mo se CNN la'ititi, fa'aopoopo ni fa'aopoopoga faigofie (flips/crops), ma mata'ituina le pa'ū o mea sese fa'amaonia - e le ona o le "togafiti" o le feso'ota'iga, ae ona o le a'oa'oina o nisi foliga aoga sa'o mai pixels.

“O le ā le Neural Network i le AI?” i le gagana Peretania faigofie, faatasi ai ma se faataoto lē mautinoa 🍞

Va'ai faalemafaufau i se laina tao falaoa. E ulufale mai mea'ai, e fetu'una'i e tagata faigaluega le fua, e faitio tagata e tofo i mea'ai, ma toe fa'afouina e le 'au le fua. I totonu o se feso'ota'iga, e tafe atu mea e ulufale mai i ni vaega, e fa'avasega e le galuega fa'aletonu le oloa e maua mai ai, ma e fa'aosofia e le fa'asologa o mea mamafa ina ia sili atu ona lelei i le isi taimi. E le atoatoa e pei o se fa'ata'ita'iga - e le mafai ona fa'avasegaina le falaoa - ae e pipii [1].

O le fausaga o se fesoʻotaʻiga neura 🧩

  • Neurons : O masini fa'atatau laiti e fa'aogaina ai se aofa'iga mamafa ma se galuega fa'agaoioia.

  • Mamafa ma fa'aitu'au : O fa'amau e mafai ona fetu'una'i e fa'amatalaina ai le auala e tu'ufa'atasia ai fa'ailo.

  • Vaega : E maua e le vaega ulufale faʻamatalaga, e liua e vaega natia faʻamatalaga, ae faia e le vaega o le faʻatauga le vavalo.

  • Galuega fa'agaoioia : O fa'agasologa e le fa'atulagaina e pei o le ReLU, sigmoid, tanh, ma le softmax e fa'afaigofie ai le a'oa'oina.

  • Galuega Fa'aletonu : O se togi o le sese o le valo'aga (cross-entropy mo le fa'avasegaga, MSE mo le regression).

  • Fa'aleleia : O algorithm e pei o le SGD po'o Adam e fa'aogaina gradients e fa'afou ai mamafa.

  • Fa'atulagaina : O auala e pei o le fa'aitiitia po'o le fa'aitiitia o le mamafa e taofia ai le soona fetaui o le fa'ata'ita'iga.

Afai e te manaʻo i le auala aloaia (ae faigofie pea ona faitauina), o le tusi aʻoga tatala o le Deep Learning e aofia ai mea uma: faʻavae o le matematika, faʻaleleia atili, ma le faʻalauteleina [1].

Galuega fa'agaoioia, fa'apu'upu'u ae aoga ⚡

  • ReLU : Zero mo mea leaga, linear mo mea lelei. Faigofie, vave, aoga.

  • Sigmoid : Fa'aitiitia tau i le va o le 0 ma le 1 - aoga ae mafai ona fa'atumuina.

  • Tanh : E pei o le sigmoid ae tutusa lelei i le zero.

  • Softmax : Liliuina togi mata i ni avanoa i vasega eseese.

E te lē manaʻomia ona taulotoina foliga uma o le piʻo - ia naʻo lou iloa o mea e ono fesuiaʻi ma mea e masani ona faʻaaogaina [1, 2].

Le auala moni e tupu ai le aʻoaʻoina: tua, ae le o le mea e mataʻutia 🔁

  1. Fa'asologa i luma : E tafe fa'amaumauga i vaega ta'itasi e maua ai se valo'aga.

  2. Fa'aletonu o le fa'atusatusaga : Fa'atusatusa le valo'aga i le mea moni.

  3. Fa'alautelega i tua : Fuafua le eseesega o le gau o le mamafa e tusa ai ma mamafa ta'itasi e fa'aaoga ai le tulafono o le filifili.

  4. Fa'afouga : E suia teisi e le Optimizer le mamafa.

  5. Toe fai : Tele vaitau. E faasolosolo malie ona aʻoaʻoina e le faʻataʻitaʻiga.

Mo se malamalamaga fa'atino i ata ma fa'amatalaga e feso'ota'i ma le code, taga'i i fa'amatalaga masani a le CS231n i le backprop ma le fa'aleleia atili [2].

O aiga tetele o feso'ota'iga neura, i se va'aiga pu'upu'u 🏡

  • Feso'ota'iga fa'afeiloa'i (MLPs) : O le ituaiga faigofie. E na'o le agai i luma o fa'amaumauga.

  • Feso'ota'iga Neural Fa'aputuga (CNNs) : Sili ona lelei mo ata fa'afetai i faamama fa'alava e iloa ai pito, mamanu, ma foliga [2].

  • Feso'ota'iga Neural Fa'asolosolo (RNNs) ma fesuia'iga : Fausia mo fa'asologa e pei o tusitusiga po'o fa'asologa taimi e ala i le tausia o se lagona o le fa'asologa [1].

  • Transformers : Ia fa'aaogā le ua'i toto'a i le fa'ata'ita'iina o sootaga i tulaga eseese i se fa'asologa i le taimi e tasi; e pule i le gagana ma tua atu [3].

  • Feso'ota'iga Neural o le Kalafa (GNNs) : Fa'agaoioia i luga o nodes ma pito o se kalafa - aoga mo molela'au, feso'ota'iga lautele, fautuaga [1].

  • Autoencoders & VAEs : Aoao fa'atusa fa'apipi'i ma fa'atupuina ni fesuia'iga [1].

  • Fa'ata'ita'iga fa'atupuina : Mai GANs i fa'ata'ita'iga fa'asalalau, fa'aaogaina mo ata, leo, e o'o lava i le code [1].

E matuā talafeagai lava fa'amatalaga CS231n mo CNNs, ae o le pepa Transformer o le puna autū lea mo fa'ata'ita'iga e fa'avae i luga o le gauai [2, 3].

Siata fa'atusatusaga: ituaiga masani o feso'ota'iga neura, o ai e fa'aaogaina, tau o mea, ma le mafua'aga e aoga ai 📊

Meafaigaluega / Ituaiga Le aofia Tau fa'atatau Aiseā e aoga ai
Fa'amatalaga i luma (MLP) Tagata amata, tagata suʻesuʻe Maualalo-feoloolo Fa'avae faigofie, fetuutuunai, ma talafeagai
CNN 'Au va'ai mamao Feololo Fa'ata'ita'iga fa'alotoifale + fefa'asoaa'iga o parakalafa
RNN / LSTM / GRU Tagata fa'asologa Feololo O le manatuaga fa'avaitaimi... e pu'eina ai le fa'atonuga
Transformer NLP, tele-faiga Feololo-maualuga E taula'i atu le mafaufau i mafutaga talafeagai
GNN Saienitisi, recsys Feololo O le tu'uina atu o savali i luga o kalafi e fa'aalia ai le fausaga
Fa'ailoga otometi / VAE Tagata suʻesuʻe Maualalo-feoloolo Aoaoina o faʻatusa ua faʻapipiʻi
GAN / Fa'asalalauina Fale su'esu'e fatufatuga Feololo-maualuga Fa'ataulāitu fa'aleaga fa'atupu vevesi pe fa'asolosolo

Fa'amatalaga: o tau e fa'atatau i le fa'atusatusaga ma le taimi; e eseese lava au maila e alu i ai. O se telefoni feavea'i se tasi pe lua e fa'amoemoeina e talatalanoa fa'atasi.

“O le ā le Neural Network i le AI?” e fa'atusatusa i algorithms ML masani ⚖️

  • Inisinia o foliga : E masani ona fa'alagolago le ML masani i foliga fa'atino. E otometi lava ona a'oa'oina e upega neura foliga - o se manumalo tele mo fa'amatalaga faigata [1].

  • Mana'omia o fa'amaumauga : E masani ona susulu feso'ota'iga i le tele o fa'amaumauga; o fa'amaumauga laiti e ono lagolagoina ai fa'ata'ita'iga faigofie [1].

  • Fa'atusatusaga : E fiafia feso'ota'iga i mea fa'atelevave e pei o GPU [1].

  • Tulaga maualuga o le faatinoga : Mo faamatalaga e le faatulagaina (ata, leo, tusitusiga), e masani ona pulea e upega loloto [1, 2].

O le faiga o a'oa'oga e aoga moni lava i le fa'atinoina 🛠️

  1. Fa'amatala le sini : Fa'avasegaga, fa'asolosolo, fa'avasegaga, tupulaga - filifili se gau e fetaui.

  2. Feeseesea'iga o fa'amaumauga : Vaevae i ni fa'asologa/fa'amaoniga/su'ega. Fa'atulaga foliga masani. Paleni vasega. Mo ata, mafaufau i le fa'ateleina e pei o le flips, crops, ma sina pisa.

  3. Filifiliga o le fausaga fale : Amata faigofie. Fa'aopoopo le gafatia pe a mana'omia.

  4. Fa'asologa o a'oa'oga : Fa'aputu fa'amaumauga. Pasia i luma. Fa'atatau le gau. Backprop. Fa'afou. Fuainumera o le fa'amaumauga.

  5. Fa'aauau : Fa'amuta, pa'ū le mamafa, taofi vave.

  6. Iloilo : Faaaoga le seti fa'amaoniga mo hyperparameters. Tu'u se seti suega mo le siaki mulimuli.

  7. Lafo ma le fa'aeteete : Mata'ituina le fe'avea'i, siaki mo le fa'aitu'au, fuafua le toe fa'afo'i i tua.

Mo a'oa'oga fa'apitoa mai le amataga se'ia o'o i le i'uga ma fa'atasi ai ma se talitonuga mautu, o le tusi a'oga tatala ma fa'amatalaga CS231n o ni taula fa'atuatuaina [1, 2].

Fa'aopoopo tele, fa'alauteleina, ma isi mea fa'aletonu 👀

  • Fa'afetaui Tele (Overfitting ): E tauloto e le fa'ata'ita'iga mea uiga ese o a'oa'oga. Fa'asa'o i nisi fa'amatalaga, fa'atulagaina malosi, po'o ni fausaga faigofie.

  • Le lava le fetaui : E faigofie tele le faʻataʻitaʻiga pe e le lava foʻi le taimi e fai ai aʻoaʻoga. Faʻateleina le gafatia pe faʻaauau pea le aʻoaʻoga.

  • Fa'amaumauga ua masaa : O fa'amatalaga mai le seti o su'ega e fa'atosina atu i totonu o a'oa'oga. Siaki fa'atolu au vaeluaga.

  • Fa'atulagaina le lelei : O se fa'ata'ita'iga e mautinoa ae sese e matautia. Mafaufau i le fa'atulagaina po'o se isi fa'atusatusaga o le mamafa o le gau.

  • Suiga o le tufatufaina atu : Fegalegaleaiga o faʻamatalaga moni o le lalolagi. Mataʻituina ma fetuʻunaʻi.

Mo le a'oa'oga i tua atu o le fa'alauteleina ma le fa'atulagaina, fa'alagolago i fa'asinomaga masani [1, 2].

Saogalemu, faigofie ona fa'amatalaina, ma le fa'atinoina ma le fa'aeteete 🧭

E mafai e feso'ota'iga neura ona faia ni fa'ai'uga taua. E le lava le na'o lo latou fa'atinoina lelei i luga o se laupapa ta'ita'i. E te mana'omia le pulega, fuaina, ma la'asaga fa'aitiitia i le ta'amilosaga atoa. O lo'o fa'amatala mai e le NIST AI Risk Management Framework galuega fa'atino - PULEA, FA'AMATALAGA, FUAFUA, PULEA - e fesoasoani ai i 'au e fa'apipi'i le pulega o lamatiaga i le mamanu ma le fa'atinoina [5].

Ni nai fa'amatalaga pupuu:

  • Siakiina o fa'aitu'au : Iloilo vaega eseese o tagata pe a talafeagai ma tusa ai ma le tulafono.

  • Fa'amatalaina : Faaaoga ni metotia e pei o le saiency po'o le fa'ailoaina o uiga. E le atoatoa, ae aoga.

  • Mata'ituina : Seti ni fa'ailo mo ni fa'aletonu fa'afuase'i o fuainumera po'o le fesuia'iga o fa'amaumauga.

  • Vaavaaiga a tagata : Ia mataala tagata i faʻaiuga taua. Leai ni mea faʻapitoa, naʻo le tumama.

Fesili e masani ona fesiligia sa ia te oe faalilolilo 🙋

O se feso'ota'iga neula ea o se fai'ai?

E musuia e fai'ai, ioe - ae fa'afaigofieina. O neura i feso'ota'iga o galuega fa'amatematika; o neura fa'aletino o sela ola e iai gaioiga faigata. E tutusa lagona, e matua eseese lava le fisiki [1].

E fia vaega ou te mana'omia?

Amata i se mea itiiti. Afai e te le fetaui lelei, fa'aopoopo le lautele po'o le loloto. Afai e te soona fetaui lelei, fa'aopoopo pe fa'aitiitia le gafatia. E leai se numera fa'ataulāitu; e na'o ni pi'o fa'amaonia ma le onosa'i [1].

E manaʻomia ea e aʻu se GPU i taimi uma?

E lē o taimi uma. O faʻataʻitaʻiga laiti i faʻamatalaga tauagafau e mafai ona aʻoaʻoina i luga o CPU, ae mo ata, faʻataʻitaʻiga tusitusiga tetele, poʻo faʻamaumauga tetele, e sefe ai le tele o taimi e faʻatelevaveina ai le saoasaoa [1].

Aiseā e fai mai ai tagata e malosi le gaua’i atu?

Auā o le gauai atu e mafai ai e faʻataʻitaʻiga ona taulaʻi atu i vaega e sili ona tāua o se faʻamatalaga e aunoa ma le faʻasolosolo malie i le faʻasologa. E puʻeina ai fegalegaleaiga faʻalelalolagi, o se mea taua tele mo galuega faʻa-gagana ma galuega eseese [3].

E ese le "O le ā le Neural Network i le AI?" mai le "o le ā le deep learning"?

O le aʻoaʻoga loloto o le auala lautele lea e faʻaaogaina ai fesoʻotaʻiga loloto o neula. O le fesili la o le a le Neural Network i le AI? e pei o le fesili e uiga i le tagata autu; o le aʻoaʻoga loloto o le ata tifaga atoa lea [1].

Fautuaga aogā, e fai si fa'apitoa 💡

  • Ia sili atu le o ni fa'avae faigofie . E o'o lava i se tama'i perceptron e tele vaega e mafai ona ta'u atu ia te oe pe mafai ona a'oa'oina fa'amaumauga.

  • Ia mafai ona toe gaosia lau paipa o faʻamaumauga . Afai e le mafai ona e toe faʻagaoioia, e le mafai ona e faʻatuatuaina.

  • o le saoasaoa o le a'oa'oina nai lo le mea e te mafaufau i ai. Taumafai e fai se faasologa. E mafai ona fesoasoani le fa'amafanafana.

  • ni fesuia'iga i le tele o vaega . O vaega tetele e fa'amautu ai suiga ae atonu e eseese auala e fa'alautele ai.

  • A fenumiai, o pi'o o le pa'ū ma tulaga masani o le mamafa . E te ofo i le tele o taimi e iai le tali i totonu o fuafuaga.

  • Fa'amaumau ni manatu fa'alilolilo. Lumana'i-e te fa'agaloina mea - vave [1, 2].

Su'esu'ega loloto: le matafaioi o fa'amaumauga, pe aisea e fa'apea ai o otaota i totonu o lona uiga o otaota i fafo 🗑️➡️✨

E lē fa'asa'oina fa'afuase'i e feso'ota'iga neura ni fa'amaumauga sese. O fa'ailoga fa'api'opi'o, mea sese o fa'amatalaga, po'o ni fa'ata'ita'iga vaapiapi o le a toe fa'alogoina uma i totonu o le fa'ata'ita'iga. Fa'atulaga, siaki, ma fa'ateleina. Ma afai e te le o mautinoa pe e te mana'omia nisi fa'amaumauga pe o se fa'ata'ita'iga sili atu, o le tali e masani ona faigofie: o mea uma e lua - ae amata i le lelei o fa'amaumauga [1].

“O le ā le Neural Network i le AI?” - faʻamatalaga pupuu e mafai ona e toe faʻaaogaina 🧾

  • O le feso'ota'iga neura o se fa'atusatusaga o galuega fa'avaega e a'oa'oina ai mamanu faigata e ala i le fetu'una'iina o mamafa e fa'aaoga ai fa'ailoilo gradient [1, 2].

  • O se faiga e liua ai mea e ulufale mai i ni mea e maua mai e ala i ni laasaga e le o ni laina, ua a'oa'oina e fa'aitiitia ai se gau [1].

  • O se auala fa'ata'ita'i e fetu'una'i ma mana'omia tele ai fa'amaumauga e manuia i mea e le'i fa'atulagaina e pei o ata, tusitusiga, ma leo [1, 2, 3].

Umi Tele, E le'i Faitauina ma fa'amatalaga fa'ai'u 🎯

Afai e fesili atu se tasi ia te oe O le a le Neural Network i le AI? o le fa'amatalaga lenei: o le neural network o se fa'aputuga o iunite faigofie e liua fa'amaumauga i lea la'asaga ma lea la'asaga, a'oa'oina le suiga e ala i le fa'aitiitia o se gau ma mulimuli i suiga. E malolosi aua latou te fa'alauteleina, a'oa'oina foliga e aunoa ma se fa'alavelave, ma e mafai ona fa'atusalia galuega faigata tele [1, 4]. E lamatia pe afai e te le amana'ia le lelei o fa'amaumauga, pulega, po'o le mata'ituina [5]. Ma e le o se togafiti fa'ataulāitu. Na'o le matematika, fa'atusatusaga, ma le inisinia lelei - fa'atasi ai ma sina tofo.

Faitauga faaopoopo, ua filifilia ma le faaeteete (faaopoopoga e le o ni upusii)

Fa'asinomaga

[1] Goodfellow, I., Bengio, Y., & Courville, A. A'oa'oga Loloto . MIT Press. Lomiga i luga ole initaneti e leai se totogi: faitau atili

[2] Stanford CS231n. Feso'ota'iga Neural Fa'atasi mo le Iloaina o Va'aiga (fa'amatalaga o le kosi): faitau atili

[3] Vaswani, A., Shazeer, N., Parmar, N., ma isi (2017). Pau lava le Mana'omia o le Gaua'i . NeurIPS. arXiv: faitau atili

[4] Cybenko, G. (1989). Fa'alatalata e ala i le fa'aopoopoina o se galuega sigmoidal . Matematika o le Pulea, Fa'ailo ma Faiga , 2, 303–314. Springer: faitau atili

[5] NIST. Fa'avae o le Pulega o Lamatiaga Fa'ale-AI (AI RMF) : faitau atili

Saili le AI Fou i le Faleoloa Aloaia o Fesoasoani AI

Faatatau ia tatou

Toe foʻi i le blog