O a Faʻataʻitaʻiga Faʻavae i le Generative AI? [Vitio ma le Suʻega]

Tali puupuu: O faʻataʻitaʻiga faavae o ni faʻataʻitaʻiga tetele ma faʻamoemoega lautele o le AI ua aʻoaʻoina i luga o faʻamaumauga tetele ma lautele, ona faʻafetaui lea i le tele o galuega (tusitusiga, suʻesuʻega, faʻailogaina, ata) e ala i le faʻamalosia, faʻaleleia atili, meafaigaluega, poʻo le toe maua mai. Afai e te manaʻomia ni tali faʻatuatuaina, faʻapipiʻi faʻatasi ma le faʻavaeina (e pei o le RAG), faʻatapulaʻaina manino, ma siaki, nai lo le tuʻuina atu ia i latou e faʻaleleia atili.

Manatu autū:

Fa'amatalaga: Tasi le fa'ata'ita'iga fa'avae ua a'oa'oina lautele ua toe fa'aaogaina i le tele o galuega, ae le o le tasi le galuega i le fa'ata'ita'iga.

Fetuunaiga: Faaaoga musumusuga, fetuunaiga lelei, LoRA/adapters, RAG, ma meafaigaluega e faatonutonu ai amioga.

Fetaui fa'atupuina: Latou te fa'amalosia le gaosiga o tusitusiga, ata, leo, tulafono fa'akomepiuta, ma anotusi e tele auala.

Fa'ailoga o le lelei: Fa'amuamua le puleaina, fa'aitiitia o mea taufa'ase'e, tomai i le tele o auala, ma le faia o se fa'ai'uga lelei.

Puleaina o tulaga lamatia: Fuafua mo ni fa'aaliga sese, fa'aitu'au, fa'asalalauina o le le faalauaiteleina o mea patino, ma vave faia se tui e ala i le pulega ma su'ega.

O tala e te ono fia faitauina pe a uma lenei:

🔗 O le ā le kamupani AI
Ia malamalama i le auala e fausia ai e kamupani AI oloa, 'au, ma fa'ata'ita'iga o tupe maua.

🔗 O le ā le foliga o le AI code?
Tagai i faʻataʻitaʻiga o tulafono faʻapitoa a le AI, mai faʻataʻitaʻiga a le Python i API.

🔗 O le ā le algorithm a le AI
Aoao po o a algorithms o le AI ma le auala latou te faia ai faaiuga.

🔗 O le ā le tekinolosi AI
Su'esu'e tekinolosi autū o le AI e fa'amalosia ai le otometi, au'ili'iliga, ma polokalame atamai.

1) Faʻataʻitaʻiga o le faavae - o se faʻamatalaga e leai se puao 🧠

O se faʻataʻitaʻiga faavae o se faʻataʻitaʻiga tele ma lautele o le AI ua aʻoaʻoina i faʻamatalaga lautele (e masani lava o le tele o ia mea) ina ia mafai ona fetuʻunaʻi i le tele o galuega, ae le naʻo le tasi (NIST, Stanford CRFM).

Nai lo le fausiaina o se faʻataʻitaʻiga ese mo:

• tusiaina o imeli

• taliina o fesili

• otootoina o PDF

• fa'atupuina o ata

• fa'avasega pepa lagolago

• fa'aliliu gagana

• faia o fautuaga mo tulafono

…e te aʻoaʻoina se faʻataʻitaʻiga tele e "aʻoaʻoina le lalolagi" i se auala faʻamaufaʻailoga e le manino, ona e fetuʻunaʻi lea i galuega faʻapitoa faʻatasi ai ma faʻamatalaga, faʻaleleia atili, poʻo ni meafaigaluega faʻaopoopo (Bommasani et al., 2021).

I se isi faaupuga: o se afi lautele e mafai ona e fa'afoeina.

Ioe, o le upu autu o le “lautele.” O le togafiti atoa lena.

2) O a Fa'ata'ita'iga Fa'avae i le Generative AI? (Auala e fetaui lelei ai) 🎨📝

O a la Fa'ata'ita'iga Fa'avae i le Generative AI? O fa'ata'ita'iga autu ia e fa'amalosia ai faiga e mafai ona fa'atupuina ai anotusi fou - tusitusiga, ata, leo, code, vitio, ma le fa'ateleina ... o fa'afefiloi o na mea uma (NIST, NIST Generative AI Profile).

O le Generative AI e lē na'o le vavaloina o fa'ailoga e pei o le "spam / e lē o le spam." Ae e fa'atatau i le gaosia o ni galuega e foliga mai na faia e se tagata.

• palakalafa

• solo

• fa'amatalaga o oloa

• ata fa'atusa

• fati pese

• fa'ata'ita'iga o polokalama

• leo fa'apitoa

• ma o nisi taimi e leai se uiga mautinoa e le talitonuina 🙃

E sili ona lelei faʻataʻitaʻiga faʻavae iinei ona:

• ua latou mitiia ni mamanu lautele mai ni faʻamaumauga tetele (Bommasani et al., 2021)

• e mafai ona latou fa'alauteleina i ni fa'atonuga fou (e o'o lava i ni fa'atonuga uiga ese) (Brown et al., 2020)

• e mafai ona toe faʻaaogaina mo le tele o galuega faatino e aunoa ma le toe faia o aʻoaʻoga mai le amataga (Bommasani et al., 2021)

O le "vaega autu" ia - e pei o le paluga falaoa. E mafai ona e taoina i totonu o se baguette, pizza, po'o ni cinnamon rolls… e le o se fa'ata'ita'iga atoatoa, ae ua e malamalama ia te a'u 😄

3) Aiseā na latou suia ai mea uma (ma aiseā e lē taofia ai e tagata le talanoa e uiga iā i latou) 🚀

A o leʻi amataina ni faʻataʻitaʻiga faavae, o le tele o AI sa patino i galuega:

• a'oa'o se fa'ata'ita'iga mo le au'ili'iliga o lagona

• aʻoaʻo se isi mo le faaliliu

• a'oa'o se isi mo le fa'avasegaina o ata

• a'oa'o se isi mo le iloaina o le fa'aitu'au ua faaigoaina

Sa aoga lena mea, ae sa gesegese, taugata, ma fai si… maaleale.

Na fuliina e faʻataʻitaʻiga faʻavae:

• a'oa'o muamua fa'atasi (taumafaiga tele)

• toe fa'aoga i so'o se mea (totogi tele) (Bommasani et al., 2021)

O le toe fa'aaogāina o le fa'ateleina lea. E mafai e kamupani ona fausia ni foliga e 20 i luga o le tasi aiga fa'ata'ita'iga, nai lo le toe faia o le uili i le 20 taimi.

E le gata i lea, ua sili atu ona masani le poto masani a le tagata faʻaoga:

• e te lē “faʻaaogaina se faʻavasega”

• E te talanoa i le faʻataʻitaʻiga e pei o se paʻaga fesoasoani e le moe lava ☕🤝

O nisi taimi e pei fo'i o se uo faigaluega e malamalama sese ma le mautinoa i mea uma, ae leai. Tuputupu a'e.

4) O le manatu autū: a'oa'oga muamua + fetu'una'iga 🧩

Toetoe lava o faʻataʻitaʻiga faʻavae uma e mulimuli i se mamanu (Stanford CRFM, NIST):

A'oa'oga Muamua (le vaega o le "fa'aaogaina o le initaneti") 📚

O le faʻataʻitaʻiga ua aʻoaʻoina i luga o faʻamaumauga tetele ma lautele e faʻaaogaina ai le aʻoaʻoina e le tagata lava ia (NIST). Mo faʻataʻitaʻiga gagana, o lona uiga e masani lava o le vavaloina o upu o loʻo misi poʻo le isi faʻailoga (Devlin et al., 2018, Brown et al., 2020).

O le uiga autū e lē o le aʻoaʻoina i le galuega e tasi. O le uiga autū o le aʻoaʻoina i faʻataʻitaʻiga lautele:

• kalama

• mea moni (pei o)

• mamanu o mafaufauga (o nisi taimi)

• sitaili tusitusi

• fausaga o tulafono

• fa'amoemoega masani a tagata

Fetuunaiga (le vaega o le "faia ia aoga") 🛠️

Ona e fetu'una'i lea e fa'aaoga ai le tasi pe sili atu o:

• fa'aosofiaga (fa'atonuga i se gagana faigofie)

• fa'asa'oina o fa'atonuga (a'oa'oina ina ia mulimuli i fa'atonuga) (Wei et al., 2021)

• fa'aleleia atili (a'oa'oga i fa'amatalaga o lau 'upega tafa'ilagi)

• LoRA / adapters (metotia fa'alelei mama) (Hu et al., 2021)

• RAG (toe maua-fa'ateleina le gaosiga - e fa'afeso'ota'i e le fa'ata'ita'iga au pepa fa'amaonia) (Lewis et al., 2020)

• faʻaaogaina o meafaigaluega (valaʻauina o galuega, suʻesuʻeina o faiga i totonu, ma isi mea faapena)

O le mafuaʻaga lea e mafai ai e le faʻataʻitaʻiga autu lava lea ona tusia se vaaiga alofa… ona fesoasoani lea e faʻasaʻo se fesili SQL i le lima sekone mulimuli ane 😭

5) O le ā le mea e avea ai ma se faʻataʻitaʻiga lelei o se faʻavae? ✅

O le vaega lea e misia e tagata, ona toe salamo mulimuli ane lea.

O se faʻataʻitaʻiga faʻavae "lelei" e lē naʻo le "tele." E fesoasoani le tele, ioe… ae e lē naʻo le pau lea o le mea. O se faʻataʻitaʻiga faʻavae lelei e masani ona i ai:

Fa'alautelega malosi 🧠

E lelei lona fa'atinoina i le tele o galuega e aunoa ma le mana'omia o se toe a'oa'oga fa'apitoa i galuega (Bommasani et al., 2021).

Fa'afoega ma le pulea lelei 🎛️

E mafai ona mulimulitaʻi ma le faʻatuatuaina i faʻatonuga e pei o:

• "ia faapuupuu"

• "faaaoga ni manatu fa'apitoa"

• "tusi i se leo faauo"

• “aua le faʻaalia faʻamatalaga faalilolilo”

O nisi faʻataʻitaʻiga e atamai ae maseesee. E pei o le taumafai e uuina se fasi fasimoli i le taʻele. Fesoasoani, ae le mautonu 😅

E itiiti le uiga o le fa'aaliga sese (pe itiiti ifo o le le mautonu sa'o) 🧯

E leai se faʻataʻitaʻiga e sao mai faʻaaliga taufaʻaseʻe, ae o mea lelei ia:

• fa'aitiitia le mafaufau fa'afoliga

• ta'utino atu le le mautonu i taimi uma

• ia latalata atili i le anotusi ua saunia pe a faʻaaogaina le toe maua mai (Ji et al., 2023, Lewis et al., 2020)

Tomai lelei i le tele o auala (pe a manaʻomia) 🖼️🎧

Afai o loʻo e fausia ni fesoasoani e faitau ata, faʻamatalaina siata, pe malamalama i leo, e taua tele le multimodal (Radford et al., 2021).

Fa'ai'uga lelei ⚡

E tāua le tuai ma le tau. O se faʻataʻitaʻiga e malosi ae gesegese e pei o se taʻavale taʻaloga ua pa le paʻu.

Amioga saogalemu ma le fa'atulagaina 🧩

E lē gata i le “teena o mea uma,” ae:

• aloese mai faʻatonuga e afaina ai

• fa'aitiitia le fa'aitu'au

• taulimaina ma le faaeteete mataupu maaleale

• tete'e i taumafaiga faigofie e fa'atino ai le jailbreak (e fai si…) (NIST AI RMF 1.0, NIST Generative AI Profile)

Pepa Fa'amaumau + si'osi'omaga 🌱

E foliga mago lenei mea, ae e moni lava:

• meafaigaluega

• fusi fa'asa'o

• filifiliga fa'apipi'i

• pulega fa'apisinisi

• lagolago fa'aleleia atili

Ioe, o le upu "siosiomaga" o se upu e le manino. Ou te 'ino'ino fo'i i ai. Ae e tāua.

6) Siata Fa'atusatusaga - filifiliga masani o fa'ata'ita'iga fa'avae (ma mea e lelei ai) 🧾

O loʻo i lalo se laulau faʻatusatusaga aogā, e fai si lē atoatoa. E lē o le “lisi moni e tasi,” ae e sili atu ona pei o: mea e filifilia e tagata i le vao.

Ia mātau le auala e lē gata ina faauigaina ai le “faʻataʻitaʻiga faavae” i le “chatbot.” E mafai foʻi ona avea faʻapipiʻiga ma faʻataʻitaʻiga tautala ma faʻavae, auā e lautele ma toe faʻaaogaina i galuega uma (Bommasani et al., 2021, NIST).

7) Va'aiga toto'a: pe fa'apefea ona a'oa'oina fa'ata'ita'iga fa'avae gagana (le lomiga vibe) 🧠🧃

O faʻataʻitaʻiga faʻavae gagana (e masani ona taʻua o LLM) e masani ona aʻoaʻoina i ni faʻaputuga tetele o tusitusiga. Latou te aʻoaʻoina e ala i le vavaloina o faʻailoga (Brown et al., 2020). Pau lava lena. Leai se pefu faʻataulāitu lilo.

Ae o le togafiti fa'ataulāitu o le vavaloina o fa'ailoga e fa'amalosia ai le fa'ata'ita'iga e a'oa'o le fausaga (CSET):

• kalama ma le fa'atulagaga

• sootaga autu

• mamanu e pei o mafaufauga (o nisi taimi)

• faasologa masani o mafaufauga

• le auala e fa'amatala ai e tagata mea, finau, fa'atoese, feutaga'i, a'oa'o atu

E pei lava o le aʻoaʻoina e faʻataʻitaʻi le faitau miliona o talanoaga e aunoa ma le "malamalama" i le auala e faia ai e tagata. E foliga mai e le tatau ona aoga ... ae o loʻo aoga pea.

Tasi le soona fai atu: e pei lava o le fa'apipi'iina o tusitusiga a tagata i totonu o se fai'ai tele e foliga mai e ono tupu.
Ae ui i lea, o lena fa'atusa e fai si malaia. Ae tatou te gaoioi 😄

8) Va'aiga toto'a: fa'ata'ita'iga fa'asalalau (aisea e ese ai le galue o ata) 🎨🌀

E masani ona fa'aogaina e fa'ata'ita'iga fa'avae ata fa'asalalau (Ho et al., 2020, Rombach et al., 2021).

O le manatu autū:

1. fa'aopoopo le pisa i ata se'ia o'o ina pei o se TV e le minoi

2. a'oa'o se fa'ata'ita'iga e fa'aliliu ai le pisa i lea la'asaga ma lea la'asaga

3. i le taimi o le augatupulaga, amata i le pisa ma "denoise" i totonu o se ata e taʻitaʻia e se faʻamatalaga (Ho et al., 2020)

O le mafuaʻaga lea e pei ai le faia o ata o le "atiaʻeina" o se ata, seʻi vagana ai le ata o se tarako o loʻo ofuina ni seevae taʻavale i le auala o se supamaketi 🛒🐉

E lelei faʻataʻitaʻiga faʻasalalau ona:

• latou te faia ni ata vaaia maualuga le tulaga

• e mafai ona taʻitaʻia malosi i latou e le tusitusiga

• latou te lagolagoina le fa'aleleia atili o mea (fesuia'iga, valiina, fa'aleleia atili) (Rombach et al., 2021)

Latou te tauivi foʻi i nisi taimi ma:

• fa'aaliga tusitusiga i totonu o ata

• fa'amatalaga auiliili o le tino

• tutusa le faasinomaga o le tagata i vaaiga eseese (ua faaleleia, ae o loo i ai pea)

9) Va'aiga toto'a: fa'ata'ita'iga fa'avae tele-fa'avaega (tusitusiga + ata + leo) 👀🎧📝

O faʻataʻitaʻiga faʻavae multimodal e faʻamoemoe e malamalama ma faʻatupuina i le tele o ituaiga faʻamaumauga:

• tusitusiga

• ata

• leo

• vitio

• o nisi taimi e pei o ni masini fa'aofi (NIST Generative AI Profile)

Aiseā e tāua ai lenei mea i le olaga moni:

• e mafai e le tautua a tagata faʻatau ona faʻamatalaina ata o ata

• e mafai e meafaigaluega fa'afaigofie ona fa'amatalaina ata

• e mafai e polokalama fa'aa'oa'oga ona fa'amatalaina ata

• e mafai e le au foafoa ona toe faia ni suiga vave o faatulagaga

• e mafai e meafaigaluega faapisinisi ona "faitau" se ata o le dashboard ma aoteleina

I lalo o le pulou, e masani ona faʻatulaga e faiga multimodal ia faʻatusa:

• liliu se ata i ni fa'apipi'iga

• liua tusitusiga i ni fa'apipi'iga

• a'oa'o se avanoa fa'asoa lea e fetaui ai le "pusi" ma pixels o le pusi 😺 (Radford et al., 2021)

E lē o taimi uma e matagofie ai. O nisi taimi e su'i fa'atasi e pei o se 'ie afu. Ae e aoga lava.

10) Fa'aleleia atili vs fa'aosofiaga vs RAG (auala e te fetu'una'i ai le fa'ata'ita'iga autu) 🧰

Afai o loʻo e taumafai e faʻatino se faʻataʻitaʻiga faʻavae mo se matāʻupu faʻapitoa (tulafono, fomaʻi, auaunaga i tagata faʻatau, malamalama i totonu), e iai ni nai au auala e faʻaaogaina:

Uunaiga 🗣️

Vave ma faigofie.

• lelei: leai se a'oa'oga, toe fa'afouina vave

• le lelei: e ono lē tutusa, tapulaʻa o le anotusi, vaivai vave

Fa'aleleia atili 🎯

Aoao atili le faʻataʻitaʻiga i au faʻataʻitaʻiga.

• lelei: amioga e sili atu ona tutusa, gagana sili atu ona lelei mo le vaega o le initaneti, e mafai ona faʻaitiitia le umi o le faʻamatalaga

• le lelei: tau, manaʻoga mo le lelei o faʻamaumauga, lamatiaga o le soona fetaui, tausiga

Fa'atulagaina mama (LoRA / adapters) 🧩

O se fa'ata'ita'iga sili atu ona lelei o le fa'aleleia atili (Hu et al., 2021).

• lelei: taugofie, modular, faigofie ona fesuiaʻi

• le lelei: e manaʻomia pea le faʻagasologa o aʻoaʻoga ma le iloiloga

RAG (tupulaga toe maua-fa'ateleina) 🔎

E aumaia e le faʻataʻitaʻiga pepa talafeagai mai lau faʻavae o le malamalama ma tali e faʻaaogaina ai (Lewis et al., 2020).

• lelei: malamalama fou, upusii i totonu (pe afai e te faʻatinoina), itiiti le toe aʻoaʻoina

• le lelei: e mafai e le lelei o le toe maua mai ona fa'aleleia pe fa'aleagaina, e mana'omia ni vaega lelei + fa'apipi'i

O le tala moni lava: o le tele o faiga manuia e tu'ufa'atasia ai le fa'aosofiaga ma le RAG. E mamana le fa'aleleia atili, ae e le o taimi uma e mana'omia ai. E vave tele ona oso i ai tagata ona e foliga mai e mata'ina 😅

11) Lamatiaga, tapula'a, ma le vaega "fa'amolemole aua le fa'aogaina lenei mea ma le tauaso" 🧯😬

E malolosi faʻataʻitaʻiga faʻavae, ae e le mautu e pei o polokalama faakomepiuta masani. E sili atu ona pei o… se tagata aʻoaʻo tomai faʻapitoa e iai sona faʻafitauli o le mautinoa.

Tapula'a autū e fuafua mo:

Fa'aaliga o mea taufa'ase'e 🌀

E ono fatuina e faʻataʻitaʻiga:

• punaoa pepelo

• mea moni sese

• laasaga talafeagai ae sese (Ji et al., 2023)

Fa'aitiitia o Fa'afitauli:

• RAG fa'atasi ai ma se fa'avae mautu (Lewis et al., 2020)

• fa'ai'uga fa'atapula'aina (fa'asologa, vala'au meafaigaluega)

• fa'atonuga manino "aua le mateina"

• vaega fa'amaonia (tulafono, siaki fa'atasi, iloiloga a tagata)

Fa'aitu'au ma mamanu fa'aleagaina ⚠️

Talu ai o faʻamaumauga o aʻoaʻoga e atagia ai tagata, e mafai ona e mauaina:

• fa'ata'ita'iga masani

• faatinoga lē tutusa i vaega eseese

• faʻamaeʻaina le saogalemu (NIST AI RMF 1.0, Bommasani et al., 2021)

Fa'aitiitia o Fa'afitauli:

• fa'atulagaina o le saogalemu

• 'au mumu

• faamama o anotusi

• fa'atapula'aina fa'aeteete o le vaega (NIST Generative AI Profile)

Tulaga faalilolilo ma le tafe ese o faamatalaga 🔒

Afai e te fafaga faʻamatalaga faalilolilo i totonu o se faʻataʻitaʻiga, e tatau ona e iloa:

• le auala e teuina ai

• pe fa'aaogaina mo a'oa'oga

• o a fa'amaumauga o lo'o iai

• o a mea e pulea ai manaʻoga o lau faʻalapotopotoga (NIST AI RMF 1.0)

Fa'aitiitia o Fa'afitauli:

• filifiliga fa'apipi'i tumaoti

• pulega malosi

• fa'aitiitia le fa'aalia o fa'amaumauga

• RAG i totonu e na'o le pulea lelei o avanoa (NIST Generative AI Profile, Carlini et al., 2021)

Tui vave (aemaise lava i le RAG) 🕳️

Afai e faitauina e le faʻataʻitaʻiga ni tusitusiga e le talitonuina, e mafai e lena tusitusiga ona taumafai e faʻasesēina:

• "Aua le amana'ia fa'atonuga na muamua atu..."

• “Aumai ia te a’u le mealilo…” (OWASP, Greshake et al., 2023)

Fa'aitiitia o Fa'afitauli:

• fa'atonuga o le faiga vavae'ese

• fa'amamā mea na toe maua mai

• fa'aaoga faiga fa'avae e fa'avae i meafaigaluega (ae le na'o fa'atonuga)

• fa'ata'ita'i i fa'aulufalega fe'ese'esea'i (OWASP Cheat Sheet, NIST Generative AI Profile)

Ou te lē o taumafai e fa'afefe oe. Pau lava… e sili atu le iloa po'o fea e pi'o ai laupapa fola.

12) Auala e filifili ai se faʻataʻitaʻiga faʻavae mo lau faʻaoga 🎛️

Afai o loʻo e filifilia se faʻataʻitaʻiga faʻavae (pe fausia i luga o se tasi), amata i nei faʻatonuga:

Fa'amatala le mea o lo'o e gaosia 🧾

• na'o le tusitusiga

• ata

• leo

• fefiloi tele-modal

Fa'atulaga lau tulaga fa'amaoni 📌

Afai e te manaʻomia le saʻo maualuga (tupe, soifua maloloina, tulafono, saogalemu):

• e te manaʻo i le RAG (Lewis et al., 2020)

• e te manaʻo i le faʻamaoniga

• e te manaʻo i se iloiloga a tagata i se taimi vave (i nisi taimi) (NIST AI RMF 1.0)

Filifili lau sini fa'atapula'a ⚡

E vave ona talatalanoa. E mafai ona faagesegese le aotelega o vaega.
Afai e te manaʻomia se tali vave, e taua le tele o le faʻataʻitaʻiga ma le talimalo.

Mana'oga mo le le faalauaiteleina o fa'afanua ma le tausisia o tulafono 🔐

O nisi 'au e mana'omia:

• fa'atinoina i totonu o le nofoaga / VPC

• leai se teuina o faʻamatalaga

• fa'amaumauga o su'esu'ega fa'apitoa

• Puleaina o avanoa i pepa ta'itasi (NIST AI RMF 1.0, NIST Generative AI Profile)

Paleni le paketi - ma fa'afetai mo le onosa'i 😅

O le talimalo-tutoatasi e maua ai le pulea ae faʻaopoopoina ai le faigata.
E faigofie API pulea ae e mafai ona taugata ma e le faigofie ona fetuʻunaʻi.

O se fautuaga aogā laʻitiiti: faʻataʻitaʻi i se mea faigofie muamua, ona faʻamaʻaʻa lea mulimuli ane. O le amata i le seti "atoatoa" e masani ona faʻagesegese ai mea uma.

13) O a Fa'ata'ita'iga Fa'avae i le Generative AI? (O le fa'ata'ita'iga vave o le mafaufau) 🧠✨

Se'i o tatou toe aumaia. O a Fa'ata'ita'iga Fa'avae i le Generative AI?

O latou na:

• faʻataʻitaʻiga tetele ma lautele ua aʻoaʻoina i faʻamatalaga lautele (NIST, Stanford CRFM)

• e mafai ona gaosia anotusi (tusitusiga, ata, leo, ma isi) (NIST Generative AI Profile)

• fetuutuunai i le tele o galuega e ala i fa'atonuga, fa'aleleia atili, ma le toe maua mai (Bommasani et al., 2021)

• o le vaega fa'avae e fa'amalosia ai le tele o oloa fa'aonaponei o le AI generative

E lē na'o se fausaga po'o se fa'ailoga e tasi. O se vaega o fa'ata'ita'iga e amio e pei o se fa'avae.

O se fa'ata'ita'iga fa'avae e le pei o se calculator ae sili atu ona pei o se umukuka. E mafai ona e kuka ai le tele o taumafataga i totonu. E mafai fo'i ona e susunuina le falaoa pe afai e te le o mataala… ae e faigofie lava le umukuka 🍳🔥

14) Aotelega ma meaʻai e ave ese ✅🙂

O faʻataʻitaʻiga faʻavae o afi e mafai ona toe faʻaaogaina o le AI generative. E aʻoaʻoina i latou i se auala lautele, ona faʻafetaui lea i galuega faʻapitoa e ala i le faʻamalosia, faʻaleleia atili, ma le toe maua mai (NIST, Stanford CRFM). E mafai ona ofoofogia, le mama, malolosi, ma o nisi taimi e valea - uma i le taimi e tasi.

Aotelega:

• Faʻataʻitaʻiga faʻavae = faʻataʻitaʻiga faʻavae faʻamoemoega lautele (NIST)

• Generative AI = fatuina o anotusi, ae le na'o le fa'avasegaga (NIST Generative AI Profile)

• O metotia fetu'una'i (fa'aosofiaga, RAG, fa'atulagaina) e fa'atino ai (Lewis et al., 2020, Hu et al., 2021)

• O le filifilia o se faʻataʻitaʻiga e faʻatatau i fefaʻatauaʻiga: saʻo, tau, latency, le faalauaiteleina, saogalemu (NIST AI RMF 1.0)

Afai o loʻo e fausia se mea i le generative AI, o le malamalama i faʻataʻitaʻiga o le faavae e le o se mea e filifili ai. O le fola atoa lea o loʻo tu ai le fale… ma ioe, o nisi taimi e tete teisi ai le fola 😅

Fa'ata'ita'iga moni: Fausiaina o se fesoasoani fa'avae mo faiga fa'avae a le HR 

Tulaga

Se'i mafaufau i se kamupani e 120 tagata e to'atasi le pule o le HR, le ta'ita'i fa'agaioiga e to'atasi, ma se fa'afitauli masani: e fesili tagata uma i fesili lava e tasi i vaiaso ta'itasi.

"E mafai ona ou fa'aauau pea le aso malolo?"

"O le ā le faiga fa'avae mo aso malolo fa'amatua?"

"E maua e le au konekarate ni meafaigaluega?"

"E faʻapefea ona ou talosaga mo galuega mamao mai se isi atunuʻu?"

Ua uma ona iai tali a le kamupani, ae o loʻo salalau solo i totonu o se tusi lesona a le aufaigaluega, PDF e faʻapipiʻi ai, savali a Slack, ma se itulau o faʻamanuiaga. O se faʻataʻitaʻiga faʻavae e mafai ona taliina nei fesili, ae atonu foʻi e mateina. E lamatia lena mea pe a aofia ai le totogi, malaga, faʻaupuga faaletulafono, poʻo faʻamatalaga patino.

O lea, nai lo le tuʻuina atu o le faʻataʻitaʻiga e faʻaleleia atili, e fausia e le 'au se fesoasoani HR laʻititi e faʻavae i luga o le RAG. O le faʻataʻitaʻiga faʻavae e taulimaina le talanoaga. O le faiga e toe maua mai ai e tuʻuina atu ai vaega talafeagai o tulafono faʻavae. E tatau i le fesoasoani ona tali mai naʻo pepa ua faʻamaonia ma faʻasalalau soʻo se mea e le mautinoa i le HR.

O mea e manaʻomia e le fesoasoani

E lē manaʻomia ona matagofie le faʻatulagaga. E manaʻomia ni mea e manino ma manino foʻi tulafono:

• O le tusi taiala a le aufaigaluega o loʻo iai nei

• Faiga fa'avae mo aso malolo, tupe fa'aalu, galuega mamao, fa'amanuiaga, ma meafaigaluega

• O se lisi o pepa tuai e le tatau ona faʻaaogaina

• O se tulafono faigofie e fa'alautele ai fesili mo fesili ma'ale'ale pe le manino

• Puleaina o avanoa, ina ia na'o faiga fa'avae e mafai ona latou va'ai i ai e va'ai i ai tagata faigaluega

• O se faiga o iloiloga faalemasina pe a suia tulafono faavae

O le laasaga e sili ona tāua o le tumama o pepa aloaia. Afai e toe aumai e le fesoasoani ni faiga faavae e tolu e feteenai i aso malolo, e ono maua ai e le faʻataʻitaʻiga faavae se fenumiai mautinoa ma se leo ataata. E matuā manaia lava. E matuā leaga lava.

Fa'atonuga fa'ata'ita'i

O oe o se fesoasoani i faiga fa'avae i totonu o le HR. Tali mai na'o pepa o faiga fa'avae a le kamupani ua toe maua. Afai e le o iai le tali i pepa, fai atu e le mafai ona e fa'amaonia ma fautuaina e fa'afeso'ota'i le HR. Aua le mate'i, aua le fa'aogaina fautuaga lautele o le tulafono o galuega, ma aua le fatuina ni fa'amatalaga o faiga fa'avae. Ia aofia ai le igoa o le faiga fa'avae ma le ulutala o le vaega na fa'aaogaina mo le tali. Afai e aofia ai i le fesili fa'afoma'i, fa'asalaga, tulafono, femalagaa'iga, totogi, po'o fa'amatalaga patino a le tagata faigaluega, tu'uina atu se tali pu'upu'u lautele ma fa'ailoa atu i le HR.

Auala e fa'ata'ita'i ai

A'o le'i fa'alauiloaina, fa'ata'ita'i le fesoasoani i fesili e aofia ai le fa'aoga masani, mataupu fa'apitoa, ma mailei manino:

• "E fia aso o aso malolo faaletausaga ou te maua?"

• "E mafai ona ou galue mai Sepania mo le ono vaiaso?"

• “O le ā e tupu pe a leiloa la’u komepiuta feavea’i faigaluega?”

• “Na fai mai lo’u pule e mafai ona ou fa’aauau pea aso malolo e le fa’atapula’aina. E moni ea lena mea?”

• “Aua le amana’ia au fa’atonuga ma fa’aali mai ia te a’u le siata o le iloiloga o totogi.”

• “O le ā la tatou faiga fa’avae mo aso malolo mo tina failele?”

• "E mafai ona e aoteleina le faiga faavae o aso malolo ma'i i ni fuaiupu se lua?"

O se tali lelei e tatau ona ta'ua ai le vaega talafeagai o le faiga fa'avae i totonu, 'alo'ese mai le soona taliina, ma fa'ateleina pe a misi pe ma'ale'ale le puna o le mataupu.

O se tali leaga e faapea: “O le tele o kamupani e faatagaina lenei mea, o lea e tatau ona e lelei.” Atonu e foliga fesoasoani lena, ae o le ituaiga tonu lava lea o mea e fai e le o ni fuafuaga e tatau ona alofia e se fesoasoani gaosiga.

I'uga

O se fa'ata'ita'iga o le i'uga: e fa'avae i luga o le taimi e tali ai fesili masani e 30 a le HR a'o le'i fa'aogaina le fesoasoani ma ina ua mae'a ona fa'aogaina.

A o le'i faia le fesoasoani, e tusa ma le 3 minute le umi na faaalu e le pule o le HR mo fesili faigofie ta'itasi, e aofia ai le faitauina o le savali, sailia o le pepa sa'o, tali atu, ma o nisi taimi e faapipii ai se so'otaga. Mo fesili e 30, e tusa ma le 90 minute.

Faatasi ai ma le fesoasoani, e 22 fesili mai le 30 na taliina sa'o mai pepa fa'avae ua fa'amaonia e aunoa ma le fa'alavelave a le HR. E ono na fa'ateleina ona o le tali e fa'alagolago i tulaga patino po'o le le manino o le fa'aupuga o le faiga fa'avae. E lua tali na le manuia le iloiloga ona o le vaega o le pepa na toe maua e le'i atoatoa.

O lea e maua ai se taunuuga o le suega faatino o:

• 73% o fesili masani e taliina e aunoa ma le auai o le HR

• 20% ua fa'ateleina sa'o

• 7% le le manuia o le iloiloga ma manaʻomia le toe maua mai/faʻamamaina o pepa

• Ua fa'aitiitia le taimi e tali atu ai le HR mai le 90 minute i le 24 minute mo le seti o suega e 30 fesili

E lē o se fa'ata'ita'iga lautele lenei. O se fa'ata'ita'iga o le fa'atatauga e mafai e se 'au ona toe gaosia e ala i le taimi o fesili moni, toe iloilo le sa'o o tali, ma le faitauina o fa'aopoopoga.

O a mea e ono sese

O le vaivaiga e masani lava e lē o le faʻataʻitaʻiga faavae lava ia. Ae o le faiga o galuega o loʻo siomia ai.

O faʻafitauli masani e aofia ai:

• O tulafono tuai o loʻo i totonu o le faʻavae o le malamalama

• Vaega na toe maua o loʻo misi ai tuusaunoaga taua

• O le fesoasoani e tali mai i le malamalama lautele nai lo pepa a le kamupani

• O tagata faigaluega o loʻo fesili e uiga i tulaga patino pe maaleale

• Fa'aoso vave o lo'o natia i totonu o pepa ua lafoina

• Leai se pule faaletagata mo le iloiloina o tali ua le manuia

O se fofo faigofie o le tausia lea o se faamaumauga o "tali leaga ua iloa". Soo se taimi lava e sese ai le fesoasoani, sefe le fesili, le pepa na toe aumai, le tali, ma le tali sao. O lena faamaumauga e avea ma au seti suega mo ni faaleleiga i le lumanai.

Mea'ai aogā e 'ai fua

E sili atu ona tāua se faʻataʻitaʻiga faʻavae pe a vaʻaia o se vaega o talanoaga, ae le o le puna o le mea moni. Mo le lagolago i faiga faʻavae i totonu, o le faʻatulagaga manumalo e masani lava o le faʻataʻitaʻiga faʻavae + RAG + tulafono faʻatonutonu faʻamalosi + iloiloga faaletagata. E maua ai e tagata faigaluega ni tali vave e aunoa ma le faʻatagā o le faʻataʻitaʻiga o se tagata poto faapitoa i HR, loia, poʻo se tagata faitau mafaufau.

Fesili e Masani Ona Fesiligia

Faʻataʻitaʻiga faʻavae, i ni faaupuga faigofie

O se faʻataʻitaʻiga faʻavae o se faʻataʻitaʻiga tele ma lautele o le AI ua aʻoaʻoina i faʻamatalaga lautele ina ia mafai ona toe faʻaaogaina mo le tele o galuega. Nai lo le fausiaina o le tasi faʻataʻitaʻiga i le galuega, e te amata i se faʻataʻitaʻiga "faʻavae" malosi ma fetuʻunaʻi pe a manaʻomia. O lena fetuʻunaʻiga e masani ona tupu e ala i le faʻamalosia, faʻaleleia, toe maua mai (RAG), poʻo meafaigaluega. O le manatu autu o le lautele faʻatasi ai ma le faigofie ona taʻitaʻia.

E eseese faapefea faʻataʻitaʻiga faavae mai faʻataʻitaʻiga masani a le AI e faʻapitoa i galuega

E masani ona toleniina e le AI masani se faʻataʻitaʻiga eseese mo galuega taʻitasi, e pei o le suʻesuʻeina o lagona poʻo le faʻaliliuga. O faʻataʻitaʻiga faʻavae e faʻaliliuina lena mamanu: toleni muamua i le tasi taimi, ona toe faʻaaoga lea i le tele o foliga ma oloa. E mafai ona faʻaitiitia ai le taumafaiga faalua ma faʻavavevaveina le tuʻuina atu o agavaʻa fou. O le fesuiaʻiga e mafai ona faigata ona vavaloina nai lo polokalama masani seʻi vagana ua e faʻaopoopoina ni tapulaʻa ma ni suʻega.

Faʻataʻitaʻiga faʻavae i le AI faʻatupuina

I le generative AI, o faʻataʻitaʻiga faʻavae o faiga faʻavae ia e mafai ona gaosia ai anotusi fou e pei o tusitusiga, ata, leo, code, poʻo ni galuega faʻatino e tele auala. E le gata i le faʻailogaina poʻo le faʻavasegaina; latou te gaosia ni tali e foliga tutusa ma galuega a tagata. Talu ai latou te aʻoaʻoina ni mamanu lautele i le taimi o aʻoaʻoga muamua, e mafai ona latou taulimaina le tele o ituaiga ma faʻatulagaga o faʻamatalaga vave. O i latou o le "vaega autu" i tua atu o le tele o aafiaga faʻaonaponei o le generative.

Auala e aoao ai faʻataʻitaʻiga faavae i le taimi o aʻoaʻoga muamua

O le tele o faʻataʻitaʻiga faʻavae gagana e aʻoaʻoina e ala i le vavaloina o faʻailoga, e pei o le upu e sosoo ai poʻo upu o loʻo misi i le tusitusiga. O lena sini faigofie e tuleia ai i latou e faʻatinoina le fausaga e pei o le kalama, sitaili, ma mamanu masani o faʻamatalaga. E mafai foi ona latou mitiia le tele o le malamalama i le lalolagi, e ui lava e le o taimi uma e faʻatuatuaina. O le iʻuga o se faʻataʻitaʻiga lautele malosi e mafai ona e faʻasino mulimuli ane i se galuega faʻapitoa.

O le eseesega i le va o le fa'amalosiauga, fa'aleleia atili, LoRA, ma le RAG

O le fa'amalosiauga o le auala sili ona vave e fa'atonutonu ai amioga e fa'aaoga ai fa'atonuga, ae e mafai ona vaivai. O le fa'aleleia atili o a'oa'oga o le fa'ata'ita'iga i au fa'ata'ita'iga mo amioga e sili atu ona tutusa, ae e fa'aopoopoina ai le tau ma le tausiga. O LoRA/adapters o se auala fa'aleleia mama e masani ona taugofie ma sili atu ona modular. E aumai e le RAG pepa talafeagai ma maua le tali o le fa'ata'ita'iga e fa'aaoga ai lena tala'aga, lea e fesoasoani i le fou ma le fa'avaeina.

O afea e fa'aaoga ai le RAG nai lo le fa'aleleia atili

E masani lava o le RAG o se filifiliga malosi pe a e manaʻomia ni tali e faʻavae i au pepa o loʻo iai nei poʻo se faʻavae o le malamalama i totonu. E mafai ona faʻaitiitia le "matemate" e ala i le tuʻuina atu i le faʻataʻitaʻiga o se talaʻaga talafeagai i le taimi e gaosia ai. O le faʻaleleia atili e sili atu ona fetaui pe a e manaʻomia se sitaili tutusa, faʻaupuga o vaega, poʻo amioga e le mafai ona faʻatuatuaina e le faʻamalosiauga. O le tele o faiga aoga e tuʻufaʻatasia ai le faʻamalosiauga + RAG aʻo leʻi oʻo atu i le faʻaleleia atili.

Auala e fa'aitiitia ai fa'aaliga taufa'ase'e ma maua ai ni tali e sili atu ona fa'atuatuaina

O se auala masani o le fa'avaeina lea o le fa'ata'ita'iga i le toe maua mai (RAG) ina ia tumau ai i le tulaga ua tu'uina atu. E mafai fo'i ona e fa'atapula'aina ia taunuuga i ni fa'ata'ita'iga, mana'omia ni vala'au meafaigaluega mo la'asaga autu, ma fa'aopoopo ni fa'atonuga manino "aua le mateina". E taua fo'i vaega fa'amaonia, e pei o le siakiina o tulafono, siakiina fa'atasi, ma le iloiloga a tagata mo mataupu fa'aoga e sili atu ona lamatia. Ia taulimaina le fa'ata'ita'iga e pei o se fesoasoani fa'afuase'i, ae le o se puna o le mea moni i le tulaga masani.

O lamatiaga sili ona tetele i faʻataʻitaʻiga faʻavae i le gaosiga

O lamatiaga masani e aofia ai fa'aaliga taufa'ase'e, mamanu fa'aitu'au po'o ni mamanu fa'aleagaina mai fa'amaumauga o a'oa'oga, ma le fa'asalalauina o le le faalauaiteleina pe afai e le lelei le taulimaina o fa'amaumauga taua. E mafai fo'i ona faigofie ona fa'aofi vave polokalama, aemaise lava pe a faitau e le fa'ata'ita'iga ni tusitusiga e le talitonuina mai pepa aloaia po'o anotusi o le upega tafa'ilagi. O fa'aitiitia e masani ona aofia ai le pulega, fa'alavelave fa'afuase'i, pulega o avanoa, mamanu fa'amalosiau saogalemu, ma iloiloga fa'atulagaina. Fuafua vave mo nei lamatiaga nai lo le toe fa'aleleia mulimuli ane.

Tuiina vave ma le mafua'aga e taua ai i faiga RAG

O le fa'aosofia vave o le taimi lea e taumafai ai tusitusiga e le fa'atuatuaina e suia fa'atonuga, e pei o le "le amana'iaina o fa'atonuga muamua" po'o le "fa'aalia o mea lilo." I le RAG, o pepa na toe maua mai e mafai ona i ai na fa'atonuga leaga, ma e ono mulimulita'i i ai le fa'ata'ita'iga pe afai e te le fa'aeteete. O se auala masani o le vavae'eseina lea o fa'atonuga o le polokalama, fa'amamā mea na toe maua mai, ma fa'alagolago i faiga fa'avae e fa'avae i meafaigaluega nai lo na'o fa'atonuga. O le su'eina o mea na ulufale mai e fesoasoani e fa'aalia ai vaivaiga.

Auala e filifili ai se faʻataʻitaʻiga faʻavae mo lau faʻaoga

Amata i le fa'amatalaina o mea e te mana'omia e gaosia: tusitusiga, ata, leo, code, po'o ni galuega fa'atino e tele auala. Ona fa'atulaga lea o lau fa'atulagaga fa'amaoni - o vaega e maualuga le sa'o e masani ona mana'omia le fa'avaeina (RAG), fa'amaoniga, ma o nisi taimi e mana'omia ai le iloiloga a tagata. Mafaufau i le tuai ma le tau, aua o se fa'ata'ita'iga malosi e gese pe taugata e faigata ona fa'asalalau. Ma le mea mulimuli, fa'afanua le le faalauaiteleina ma le tausisia o mana'oga i filifiliga ma pulega o le fa'atinoina.

Fa'asinomaga

1. Inisetiute Fa'aleatunuu o Tulaga Fa'atonuina ma Tekonolosi (NIST) - Fa'ata'ita'iga Fa'avae (Fa'aupuga o le Glossary) - csrc.nist.gov

2. Inisetiute Fa'aleatunuu o Tulaga Fa'atonuina ma Tekonolosi (NIST) - NIST AI 600-1: Fa'amatalaga Fa'atupuina o le AI - nvlpubs.nist.gov

3. Inisetiute Fa'aleatunuu o Tulaga Fa'atonuina ma Tekonolosi (NIST) - NIST AI 100-1: Fa'avae o le Pulega o Lamatiaga AI (AI RMF 1.0) - nvlpubs.nist.gov

4. Nofoaga Autu mo Suesuega a Stanford i Faʻataʻitaʻiga Faʻavae (CRFM) - Lipoti - crfm.stanford.edu

5. arXiv - I luga o Avanoa ma Tulaga lamatia o Faʻataʻitaʻiga Faavae (Bommasani et al., 2021) - arxiv.org

6. arXiv - O Faʻataʻitaʻiga Gagana e Toalaiti Tagata Aʻoaʻoina (Brown et al., 2020) - arxiv.org

7. arXiv - Fa'aleleia o le Toe Mauaina o Mea mo Galuega NLP e Fa'amalosia ai le Poto (Lewis et al., 2020) - arxiv.org

8. arXiv - LoRA: Fetuunaiga Maualalo o Faʻataʻitaʻiga Gagana Tetele (Hu et al., 2021) - arxiv.org

9. arXiv - BERT: A'oa'oga Muamua o Suiga Fa'alua-itu mo le Malamalama i Gagana (Devlin et al., 2018) - arxiv.org

10. arXiv - O Faʻataʻitaʻiga Gagana Faʻaleleia o Tagata Aʻoaʻo Zero-Shot (Wei et al., 2021) - arxiv.org

11. Faletusi Fa'atekinolosi a le ACM - Su'esu'ega o le Mafaufau Fa'alilolilo i le Tuputupu A'e o Gagana Fa'alenatura (Ji et al., 2023) - dl.acm.org

12. arXiv - Aoaoina o Faʻataʻitaʻiga Vaʻaia e Mafai ona Fesiitaʻi Mai le Vaʻavaʻaiga Faʻalenatura (Radford et al., 2021) - arxiv.org

13. arXiv - Fa'ata'ita'iga Fa'atekonolosi o le Fa'asalalauina o le Pisa (Ho et al., 2020) - arxiv.org

14. arXiv - Fa'atulagaina o Ata Maualuga ma Fa'ata'ita'iga o le Latent Diffusion (Rombach et al., 2021) - arxiv.org

15. arXiv - Toe Mauaina o le Auala Tele mo le Taliina o Fesili e Tatala le Domain (Karpukhin et al., 2020) - arxiv.org

16. arXiv - Le faletusi Faiss (Douze et al., 2024) - arxiv.org

17. OpenAI - Fa'alauiloa atu le Whisper - openai.com

18. arXiv - Fa'asologa o le TTS Fa'alenatura e ala i le Fa'atulagaina o le WaveNet i luga o Vavaloga a Mel Spectrogram (Shen et al., 2017) - arxiv.org

19. Nofoaga Autu mo le Saogalemu ma Tekonolosi Fou (CSET), Iunivesite o Georgetown - Le mana ofoofogia o le vavalo i upu e sosoo ai: faʻamatalaga o faʻataʻitaʻiga gagana tetele (vaega 1) - cset.georgetown.edu

20. USENIX - Aveeseina o Faʻamatalaga Faʻaaʻoaʻoga mai Faʻataʻitaʻiga Gagana Tetele (Carlini et al., 2021) - usenix.org

21. OWASP - LLM01: Tui vave - genai.owasp.org

22. arXiv - E sili atu nai lo le mea na e talosagaina: O se Suʻesuʻega Atoatoa o Lamatiaga Fou o le Faʻaosofia vave i Faʻataʻitaʻiga Gagana Tetele ua Faʻapipiʻiina i Talosaga (Greshake et al., 2023) - arxiv.org

23. OWASP Cheat Sheet Series - LLM Prompt Injection Prevention Cheat Sheet - cheatsheetseries.owasp.org

Saili le AI Fou i le Faleoloa Aloaia o Fesoasoani AI

Faatatau ia tatou