Afai na e fa'alogo i tagata o fe'ai solo i le GPT pei o se upu a le aiga, e le'o na'o oe. O le fa'apuupuuga e fa'aalia i igoa o oloa, pepa su'esu'e, ma talatalanoaga i aso uma. O le vaega faigofie lea: GPT o lona uiga Generative Pre-trained Transformer . O le vaega aoga o le iloa lea pe aisea e taua ai na upu e fa-aua o le togafiti faataulaitu i totonu o le mashup. O lenei taʻiala e faʻamavaeina: nai manatu, faʻafefetega malie, ma le tele o faʻaoga aoga. 🧠✨
Tala atonu e te mana'o e faitau pe a mae'a lenei:
🔗 O le a le mea e vaʻaia AI
E faʻafefea ona vaʻaia e AI iʻuga e faʻaaoga ai faʻamaumauga ma algorithms.
🔗 O le a le faiaoga AI
Matafaioi, tomai, ma galuega i tua atu o le aʻoaʻoina o faiga faʻaonaponei AI.
🔗 O le a le open-source AI
Faʻamatalaga, faʻamanuiaga, luʻitau, ma faʻataʻitaʻiga o faʻamatalaga tatala AI.
🔗 O le a le fa'atusa AI: mea uma e tatau ona e iloa
Tala'aga, auala autu, malosi, ma tapulaʻa o faʻatusa AI.
Tali vave: O le a le uiga o le GPT?
GPT = Generative Pre-training Transformer.
-
Fa'atupu - e fa'atupu ai mea.
-
A'o le'i a'oa'oina - e a'oa'oina lautele a'o le'i fetuuna'i.
-
Transformer - o se fausaga fesoʻotaʻiga neural e faʻaogaina ai le tagata lava ia e faʻataʻitaʻiina sootaga i faʻamaumauga.
Afai e te manaʻo i se faʻamatalaga e tasi le fuaiupu: o le GPT o se faʻataʻitaʻiga gagana tele e faʻavae i luga o le fausaga o le transformer, muaʻi aʻoaʻoina i luga o le tele o tusitusiga ona fetuunai lea e mulimuli i faatonuga ma fesoasoani [1][2].
Aisea e taua ai le acronym i le olaga moni 🤷♀️
Acronyms e le manaia, ae o le tasi lenei e faʻaalia pe faʻafefea ona amio nei faiga i le vao. Talu ai o GPT e fa'atupuina , e le na'o le toe aumaia o snippets-e fa'apipi'i tali. Ona o latou mua'i a'oa'oina , latou te sau ma le malamalama lautele mai le pusa ma e mafai ona fa'afetaui vave. Ona o i latou o transformers , latou te fuaina lelei ma faʻatautaia tulaga mamao e sili atu le matagofie nai lo fausaga tuai [2]. O loʻo faʻamatalaina e le combo le mafuaʻaga e lagona ai e le GPT le talatalanoa, fetuutuunai, ma le fesoasoani tele i le 2 i le taeao pe a e faʻapipiʻiina se regex pe fuafua se lasagna. E le faapea ua ou… faia uma i le taimi e tasi.
E fia iloa le bit transformer? O le masini fa'alogo e mafai ai e fa'ata'ita'iga ona taula'i atu i vaega e sili ona talafeagai o le fa'aoga nai lo le fa'aogaina tutusa o mea uma-o se mafua'aga tele e galue lelei ai transformers [2].
O le a le mea e aoga ai le GPT ✅
Sei o tatou faamaoni-o le tele o faaupuga AI e faʻafefe. GPTs e lauiloa mo mafuaʻaga e sili atu ona aoga nai lo mea lilo:
-
Ma'ale'ale fa'atatau - e fesoasoani le fa'ata'ita'iga e fa'atatau i upu o le tasi ma le isi, fa'aleleia atili le felagolagoma'i ma le fefulisa'iga [2].
-
Fa'aliliuga - a'o le'i a'oa'oina i fa'amatalaga lautele e tu'uina atu ai le fa'ata'ita'iga fa'ata'ita'iga fa'ata'ita'iga fa'ata'ita'iga fa'ata'ita'iga e fa'aauau i galuega fou ma sina suiga la'ititi [1].
-
Fa'atonuga - fa'atonu-mulimuli e ala i tali a tagata (RLHF) e fa'aitiitia ai tali le aoga pe le fa'atatauina ma fa'aalia ai le galulue fa'atasi [3].
-
Fa'atupula'ia tele - GPT fou e mafai ona galulue fa'atasi ma ata (ma sili atu), fa'aagaaga galuega e pei ole Q&A va'aia po'o le malamalama i pepa [4].
Pe o latou maua pea ni mea sese? Ioe. Ae o le afifi e aoga-e masani ona ese le manaia-ona e faʻafefiloi le malamalama mataʻutia ma se faʻaoga faʻatonutonu.
Tu'u i lalo upu i le “O le a le uiga o le GPT” 🧩
Generative
O le faʻataʻitaʻiga e maua ai tusitusiga, code, otootoga, otootoga, ma sili atu-faʻailoga e ala i faʻailoga-faʻavae i mamanu na aʻoaʻoina i le taimi o aʻoaʻoga. Fesili mo se imeli malulu ma e fatuina se tasi i le taimi.
mua'i a'oa'oina
Ae e te le'i pa'i i ai, ua uma ona fa'aaogaina e le GPT fa'ata'ita'iga gagana lautele mai le aoina o tusitusiga tetele. A'o le'i a'oa'oga e tu'uina atu i ai le agava'a lautele ina ia mafai ai ona e fa'afetaui mulimuli ane i lau fa'ailoga ma ni fa'amatalaga la'ititi e ala i le fa'alelei lelei po'o le na'o le fa'amalosi atamai [1].
Transformer
O le fausaga lea na fa'atino ai fua. E fa'aogaina e tagata su'esu'e ni fa'ailoga fa'apitoa e filifili ai po'o fea fa'ailoga e taua i la'asaga ta'itasi e pei o le fa'ata'ita'iina o se parakalafa ma toe tepa i tua ou mata i upu talafeagai, ae e mafai ona fa'avasega ma fa'aa'oa'oina [2].
Fa'afefea ona a'oa'oina GPT ina ia fesoasoani (fa'apuupuu ae le pu'upu'u tele) 🧪
-
A'o le'i a'oa'oga - a'oa'o e va'ai le isi fa'ailoga i le tele o fa'aputuga o tusitusiga; e fausia ai le tomai lautele o le gagana.
-
Fa'atonu lelei - e tusia e tagata tali lelei i fa'atonuga; o le faʻataʻitaʻiga e aʻoaʻo e faʻataʻitaʻi i lena sitaili [1].
-
Fa'amalosia le a'oa'oina mai tali a tagata (RLHF) - fa'avasega e tagata galuega, o se fa'ata'ita'iga fa'ata'ita'iga ua a'oa'oina, ma o le fa'ata'ita'iga fa'avae e sili ona lelei e maua ai tali e fiafia i ai tagata. O lenei fua o le InstructGPT o le mea lea na lagona ai e faʻataʻitaʻiga talatalanoaga le fesoasoani nai lo le aʻoga mama [3].
E tutusa le GPT ma le transformer po'o le LLM? Ituaiga, ae le sa'o 🧭
-
Transformer - o le fausaga faavae.
-
Large Language Model (LLM) - ose faaupuga lautele mo so'o se fa'ata'ita'iga tele ua a'oa'oina i tusitusiga.
-
GPT - o se aiga o LLM faʻavae-transformer e gaosia ma muaʻi aʻoaʻoina, faʻasalalau e OpenAI [1][2].
O GPT uma la o se LLM ma se transformer, ae le o faʻataʻitaʻiga uma o transformer o se GPT-mafaufau rectangles ma sikuea.
O le “O le a le uiga o le GPT” i le fanua tele 🎨🖼️🔊
E fetaui pea le faapuupuuga pe a e fafaga ata i autafa o tusitusiga. O fa'atupu ma a'o le'i a'oa'oina e fa'alautele atu i auala, a'o le i tua e fetuutuuna'i e fa'atautaia le tele o ituaiga fa'aoga. Mo se fa'asalalauga loloto lautele i le malamalama ma le saogalemu o fefa'ataua'iga i GPT e mafai ona fa'aalia le va'ai, va'ai le pepa fa'aoga [4].
E fa'afefea ona filifili le GPT sa'o mo lau fa'aoga 🧰
-
Fa'ata'ita'iga o se oloa - amata i se fa'ata'ita'iga lautele ma fa'ata'ita'i ile fa'atulagaina vave; e sili atu le vave nai lo le tulituliloaina o le fati lelei atoatoa i le aso muamua [1].
-
Leo mautu po'o galuega mamafa faiga fa'avae - mafaufau e va'ava'aia fa'alelei fa'alelei fa'atasi ai ma le fa'aoga-fa'atatau i le fa'aogaina e loka ai amio [1][3].
-
Va'aiga po'o fa'amaumauga-mamafa galuega - GPT multimodal e mafai ona fa'avasega ata, siata, po'o fa'amalama e aunoa ma ni paipa vaivai OCR-na'o [4].
-
Si'osi'omaga maualuluga po'o si'osi'omaga fa'atulafonoina - fa'atutusa ma fa'atonuga fa'aletonu ma fa'atulaga faitoto'a o iloiloga mo fa'atonuga, fa'amaumauga, ma galuega faatino [5].
Fa'aaoga tatau, puupuu-aua e taua 🧯
A'o lalagaina nei fa'ata'ita'iga i fa'ai'uga, e tatau i 'au ona fa'atautaia fa'amaumauga, iloiloga, ma le fa'aa'oa'o mumu ma le fa'aeteete. O se amataga aoga o le fa'afanua o lau faiga e fa'atatau i se ta'iala fa'atauva'a fa'atauva'a. O le NIST's AI Risk Management Framework o loʻo faʻamatalaina ai le Pule, Faʻafanua, Fua, ma le Puleaina o galuega ma tuʻuina atu se faʻamatalaga Generative AI ma faʻataʻitaʻiga mautu [5].
O manatu sese masani e litaea 🗑️
-
"O se faʻamaumauga e suʻe ai mea."
Leai. O le amio Autu GPT o le fa'atupuina o fa'ailoga e soso'o ai; e mafai ona faaopoopo le toe maua mai, ae e le o le faaletonu [1][2]. -
"O le faʻataʻitaʻiga sili atu o lona uiga moni faʻamaonia."
E fesoasoani le fua, ae o fa'ata'ita'iga e sili ona lelei e mafai ona sili atu i fa'ata'ita'iga tetele e le'i fa'alogoina i le fesoasoani ma le saogalemu-le auala, o le uiga lena o le RLHF [3]. -
"Multimodal o lona uiga o le OCR."
Leai. Multimodal GPTs e tu'ufa'atasia foliga vaaia i le fa'ata'ita'iga fa'ata'ita'iga paipa mo le tele o tali malamalama i le tala [4].
Se fa'amatalaga taga e mafai ona e fa'aoga i pati 🍸
A fesili se tasi O le a le uiga o le GPT , taumafai le mea lenei:
"O se Generative Pre-trained Transformer-o se ituaiga o AI na aʻoaʻoina mamanu gagana i luga o tusitusiga tetele, ona faʻalogo ai lea i faʻamatalaga a tagata ina ia mafai ona mulimuli i faʻatonuga ma maua ai tali aoga." [1][2][3]
Puupuu, faauo, ma na'o le nerdy lava e fa'ailo e te faitau mea i luga o le initaneti.
O le a le uiga o le GPT-i tua atu o tusitusiga: galuega fa'atino e mafai ona e fa'atinoina 🛠️
-
Fa'atalanoaga ma fa'ata'oto - fa'ata'ita'i anotusi, ona fesili lea mo ni fa'alelei fa'atulagaina e pei o togitogi, isi ulutala, po'o se fa'afeagai.
-
Fa'amatalaga-i-fa'amatalaga - fa'apipi'i se tama'i laulau ma fesili mo se otootoga fa'apitoa e tasi le parakalafa, sosoo ai ma ni fa'alavelave se lua ma se fa'aitiitiga ta'itasi.
-
Fa'amatalaga fa'ailoga - talosaga se la'asaga ma lea la'asaga faitau o se galuega fa'a'ole'ole, ona fai lea o ni su'ega se lua.
-
Multimodal triage - tu'ufa'atasia se ata o se siata fa'aopoopo i ai: “fa'ato'atoa le aga, fa'amautu fa'aletonu, fa'ailoa mai isi siaki e lua."
-
Fuafuaga e malamalama i faiga fa'avae - fa'alelei pe fa'atonu le fa'ata'ita'iga e fa'asino i ta'iala i totonu, fa'atasi ai ma fa'atonuga manino mo mea e fai pe a le mautinoa.
O nei mea ta'itasi e fa'alagolago i le ta'itolu lava e tasi: fa'atupu fa'atupu, a'oa'oga lautele a'o le'i a'oa'oina, ma le fa'atatauga fa'atatau a le transformer [1][2].
Su'ega maulu loloto: fa'alogo i se fa'ata'ita'iga la'ititi la'ititi 🧮
Vaai faalemafaufau i le faitauina o se palakalafa mafiafia e uiga i le tamaoaiga a o taufetuli-le lelei-se ipu kofe. E toe siaki e lou fai'ai ni nai fasifuaitau autu e foliga taua, ma tu'uina atu ia i latou ni fa'amatalaga pipii faalemafaufau. O lena taulaiga filifilia e pei o le gauai . E a'oa'oina e Transformers le tele o le "mafaufau mamafa" e fa'atatau i fa'ailoga ta'itasi e fa'atatau i isi fa'ailoga uma; O le tele o ulu fa'alogo e fai e pei o le tele o le au faitau e fa'asolo i fa'ailoga eseese, ona fa'aputu lea o fa'amatalaga [2]. E le atoatoa, ou te iloa; ae e pipii.
FAQ: tali pupuu, tele
-
E tutusa le GPT ma le ChatGPT?
O le ChatGPT ose fa'ata'ita'iga o oloa e fausia i fa'ata'ita'iga GPT. Aiga lava e tasi, ese'ese vaega o le UX ma meafaigaluega saogalemu [1]. -
Pe na'o tusitusiga e fai e GPT?
Leai. O nisi e multimodal, fa'atautaia ata (ma isi) fo'i [4]. -
E mafai ona ou pulea le auala e tusitusi ai se GPT?
Ioe. Fa'aoga vave le fa'atulagaina, fa'atonuga o le faiga, po'o le fa'alelei lelei mo le leo ma faiga fa'avae [1][3]. -
Ae faapefea le saogalemu ma le tulaga lamatia?
Fa'aaoga auivi aloaia ma fa'amaumau au filifiliga [5].
Saunoaga Mulimuli
Afai e leai se isi mea e te manatua, manatua le mea lenei: O le a le mea e tu ai le GPT e sili atu nai lo le fesili o upu. O le fa'apuupuuga o lo'o fa'apipi'i ai se fua na fa'aalia ai le aoga o le AI fa'aonaponei. Generative e tu'uina atu ia te oe le gaioiga lelei. O le mua'i a'oa'oina e te maua ai le lautele. Transformer e tu'uina atu ia te oe le fua ma le anotusi. Fa'aopoopo le fa'atonuga fa'atonu ina ia amio le faiga-ma fa'afuase'i loa ona iai sau fesoasoani fa'apitoa e tusitusi, fa'afuafua, ma fetuutuuna'i. Pe ua atoatoa? Ioe e leai. Ae o se meafaigaluega aoga mo galuega poto, e pei o se naifi a le Swiss Army e fau ai i nisi taimi se lau fou a'o e fa'aaogaina… ona faatoese atu lea ma avatu ia te oe se aotelega.
Umi Tele, Le Faitau.
-
O le a le uiga o le GPT : Generative Pre-trained Transformer.
-
Le mafua'aga e taua ai: fa'atupu fa'atupuina + lautele a'o le'i a'oa'oina + fa'aliliuina fa'amatalaga fa'atatau [1][2].
-
Fa'afefea ona fai: mua'i a'oa'oga, va'ava'aia lelei fa'alogo, ma le fa'aogaina o manatu fa'aletagata [1][3].
-
Fa'aoga lelei: fa'anatinati i le fausaga, fa'alelei lelei mo le mautu, fa'afetaui ma fa'alavelave fa'alavelave [1][3][5].
-
Fa'aauau le a'oa'oina: fa'asolo le ulua'i pepa transformer, OpenAI docs, ma le NIST ta'iala [1][2][5].
Fa'asinomaga
[1] OpenAI - Manatu Autu (mua'i a'oa'oga, fa'alelei, fa'aoso, fa'ata'ita'iga)
faitau atili
[2] Vaswani et al., "O le Faʻalogo e Naʻo Mea e te Manaʻomia" (Transformer architecture)
faitau atili
[3] Ouyang et al., "Aʻoaʻoga gagana faʻataʻitaʻiga e mulimuli i faʻatonuga ma faʻamatalaga a tagata" (InstructGPT / RLHF)
faitau atili
[4] OpenAI - GPT-4V(ision) System Card (gafatia tele ma le saogalemu)
faitau atili
[5] NIST - AI Risk Management Framework (pule faʻatau-neutral)
faitau atili