Fa'amatala AI o se tasi lea o fasifuaitau e foliga lelei i le 'aiga o le afiafi ma e matua taua tele i le taimi e fa'ailoa ai e le algorithm se su'esu'ega fa'afoma'i, fa'amaonia se nonogatupe, po'o le fu'a o se uta. Afai na e mafaufau, lelei, ae aisea na faia ai e le faʻataʻitaʻiga lena mea ... ua e i ai i le teritori Faʻamatalaina AI. Sei o tatou tatalaina le manatu i le gagana manino-leai se togafiti, na o metotia, fefaʻatauaʻiga, ma nai mea moni faigata.
Tala atonu e te mana'o e faitau pe a mae'a lenei:
🔗 O le a le fa'aituau AI?
Malamalama AI faʻaituau, ona puna, aʻafiaga, ma auala faʻaitiitia.
🔗 O le a le mea e fa'atatau i AI?
Su'esu'e AI vavalo, fa'aoga masani, fa'amanuiaga, ma tapula'a fa'atino.
🔗 O le a le humanoid robot AI?
A'oa'o pe fa'apefea ona fa'amalosia e AI robots humanoid, agava'a, fa'ata'ita'iga, ma lu'itau.
🔗 O le a le faiaoga AI?
Saili mea e faia e faiaoga AI, tomai manaʻomia, ma ala faigaluega.
O le uiga moni o le Explainable AI
Fa'amatalaina AI o le fa'ata'ita'iga o le fa'atulagaina ma le fa'aogaina o faiga AI ina ia mafai ona malamalama i ai tagata-o tagata fa'apitoa e a'afia pe nafa ma fa'ai'uga, ae le na'o le math. O le NIST o loʻo faʻavasegaina lenei mea i ni faʻavae faʻavae: tuʻuina atu se faʻamatalaga , faʻaoga anoa mo le aofia, faʻamautinoa le saʻo o faʻamatalaga (faʻamaoni i le faʻataʻitaʻiga), ma faʻaaloalo i tapulaa o le malamalama (aua le faʻateleina mea e iloa e le polokalama) [1].
Ose tala fa'asolopito pu'upu'u tu'u'ese: vaega fa'atauva'a-saogalemu na una'ia lenei mea, fa'atatau mo fa'ata'ita'iga e tumau sa'o ma fa'amatalaina e fa'atuatuaina "i le matasele." O le fetu i matu e le'i suia-fa'aoga fa'amatalaga e aunoa ma le fa'aleagaina o fa'atinoga.
Aisea e taua ai le Explainable AI nai lo lou manatu 💡
-
Fa'alagolago ma le vaetamaina - E talia e tagata faiga e mafai ona latou fesiligia, fesiligia, ma fa'asa'o.
-
Tulaga lamatia ma le saogalemu - Fa'amatalaga tulaga fa'aletonu i luga ole laiga a'o le'i faate'ia oe ile fua.
-
Fa'atonuga fa'atulafonoina - I totonu o le EU, o le AI Act o lo'o fa'atulaga manino tiute-fa'ata'ita'iga, ta'u atu i tagata pe a latou fegalegaleai ma AI i nisi tulaga ma fa'aigoaina AI-fa'atupuina po'o le fa'aogaina o mea e talafeagai [2].
Ia tatou faamaoni-matagofie dashboards e le o ni faamalamalamaga. O se faʻamatalaga lelei e fesoasoani i se tagata e filifili le mea e sosoo ai.
O le a le mea e aoga ai le Explainable AI ✅
A e iloiloina soʻo se metotia XAI, fesili mo:
-
Fa'amaoni - E atagia mai i le fa'amatalaga le amio a le fa'ata'ita'iga, pe na'o le ta'u atu o se tala fa'amafanafana?
-
Fa'aoga mo tagata fa'alogo - E mana'omia e le au su'esu'e fa'amatalaga fa'alili; e mana'omia e foma'i ni mea fa'afeagai po'o tulafono; o lo'o mana'omia e tagata fa'atau le gagana manino fa'atasi ai ma isi la'asaga.
-
Fa'amautu - O nai suiga laiti e le tatau ona liliuina le tala mai le A i le Z.
-
Fa'atino - Afai e le mana'omia le fa'atinoga, o le a se mea e mafai ona suia?
-
Fa'amaoni e uiga i le le mautonu - O fa'amatalaga e tatau ona fa'aalia tapula'a, ae le o le valiina.
-
Va'aiga manino - O se fa'apitonu'u lea mo se va'aiga se tasi po'o se fa'alelalolagi o amioga fa'ata'ita'i?
Afai e te manatua na o le tasi le mea: o se faʻamatalaga aoga e suia ai le filifiliga a se tasi, ae le na o latou lagona.
Manatu autu e te fa'alogo iai 🧩
-
Interpretability vs explainability - Interpretability: e faigofie lava le faʻataʻitaʻiga e faitau (faʻataʻitaʻiga, o se tamaʻi laau). Fa'amalamalamaga: fa'aopoopo se metotia i luga e fa'afaigofie ai le fa'ata'ita'iga lavelave.
-
Local vs global - Fa'alotoifale fa'amatala se tasi fa'ai'uga; aotele le lalolagi atoa amioga.
-
Post-hoc vs intrinsic - Post-hoc faʻamatalaina se pusa uliuli aʻoaʻoina; fa'aoga fa'apitoa fa'ata'ita'iga e mafai ona fa'amatalaina.
Ioe, o laina nei e faanenefu. ua lelei; fa'atupuina le gagana; e le o iai lau resitara lamatia.
Ta'uta'ua Fa'amatala auala AI - o le ta'amilosaga 🎡
Ose ta'amilosaga asiosio, fa'atasi ai ma le vibe o se ta'iala fa'alogo falemata'aga ae pu'upu'u.
1) Fa'aopoopo uiga fa'aopoopo
-
SHAP - Tuuina atu vaega taʻitasi o se sao i se vaʻaiga faʻapitoa e ala i taʻaloga-taʻaloga manatu. E fiafia i faʻamatalaga faʻaopoopo manino ma se vaaiga faʻatasi i faʻataʻitaʻiga [3].
2) Fa'ata'ita'iga sui fa'apitonu'u
-
LIME - A'oa'oina se fa'ata'ita'iga fa'apitonu'u faigofie ile fa'ata'ita'iga e fa'amatalaina. Aotelega vave, e mafai ona faitau e le tagata ia vaega e taua lata ane. Lelei mo demos, fesoasoani i le faʻataʻitaʻiga-matamata mautu [4].
3) Metotia fa'avae mo upega loloto
-
Tu'ufa'atasi Fa'atasi - Fa'atauaina uiga e ala i le tu'ufa'atasia o gradients mai se laina fa'avae i le mea e fa'aoga; e masani ona fa'aoga mo va'aiga ma tusitusiga. Axioms maaleale; tausiga mana'omia ile laina fa'avae ma le pisapisao [1].
4) Faʻamatalaga faʻavae faʻataʻitaʻiga
-
Counterfactuals - "O le a se suiga itiiti e ono suia ai le taunuuga?" Atoatoa mo le faia o faaiuga aua e masani lava ona faatino-fai X e maua Y [1].
5) Faʻataʻitaʻiga, tulafono, ma faʻalagolago faʻapitoa
-
Fa'ata'ita'iga fa'aalia fa'ata'ita'iga fa'atusa; tulafono e pu'eina mamanu pei o tupe maua > X ma talafaasolopito = mama ona fa'amaonia lea ; fa'alagolago fa'atasi e fa'aalia ai le a'afiaga masani o se vaega i luga ole va'aiga. Manatu faigofie, e masani ona ta'ufaatauvaaina.
6) Mo fa'ata'ita'iga gagana
-
Token/spans attributions, toe maua fa'ata'ita'iga, ma fa'atonuga fa'atulagaina. Fesoasoani, faʻatasi ai ma faʻamatalaga masani: faʻafanua vevela e le faʻamaonia ai mafuaʻaga mafuaʻaga [5].
Se mea vave (fa'aputu) mai le malae 🧪
O se tagata fa'ameaalofa lapopo'a e tu'uina atu se fa'ata'ita'iga fa'atupu fa'ameamea mo fa'ai'uga fa'aaitalafu. O le SHAP i le lotoifale e fesoasoani i sui sooupu e faʻamatalaina se taunuuga leaga ("O aitalafu-i-tupe maua ma le faʻaaogaina lata mai o aitalafu na avea ma taʻavale autu.") [3]. O se fa'afeagai e fa'ailoa mai ai se fa'aoga talafeagai ("Fa'aiti'itia le fa'aogaina o le fa'aaogaina e le ~10% po'o le fa'aopoopoina o le £1,500 i tupe teu fa'amaonia e toe fa'afo'i ai le fa'ai'uga.”) [1]. I totonu, e faia e le 'au suʻega faʻasolosolo i luga o ata mataʻutia latou te faʻaogaina i le QA e faʻamautinoa ai o faʻailoga e le naʻo ni faʻailoga mata e faʻaogaina [5]. Faʻataʻitaʻiga tutusa, faʻamatalaga eseese mo tagata faʻalogo eseese-tagata faʻatau, ops, ma suetusi.
Le mea le lelei: o faʻamatalaga e mafai ona faʻasesē 🙃
O nisi auala fa'apitoa e foliga fa'amaonia e tusa lava pe le o noatia i le fa'ata'ita'iga a'oa'oina po'o fa'amaumauga. O suʻesuʻega saʻo na faʻaalia ai nisi o metotia e mafai ona le manuia suʻega faʻavae, e maua ai se lagona sese o le malamalama. Fa'aliliuga: ata aulelei e mafai ona avea ma fale mata'aga mama. Fausia suʻega faʻamaonia mo au faʻamatalaga faʻamatalaga [5].
E lē gata i lea, seasea ≠ faamaoni. O se mafuaaga e tasi le fuaiupu e ono natia ai fegalegaleaiga tetele. O nai fete'ena'iga laiti i se fa'amatalaga e mafai ona fa'ailoa mai ai le fa'ata'ita'iga moni le mautinoa-pe na'o le pisa. O lau galuega o le ta'u atu po o fea.
Pulea, faiga fa'avae, ma le maualuga maualuga mo le manino 🏛️
O lo'o fa'amoemoe le au fai faiga fa'avae le fa'amanino e fetaui lelei. I totonu o le EU , o le AI Act o loʻo faʻamatalaina ai noataga e pei o le logoina o tagata pe a latou fegalegaleai ma AI i mataupu faʻapitoa, ma le faʻailogaina o mea na gaosia pe faʻaogaina e AI ma faʻamatalaga talafeagai ma auala faʻapitoa, e noatia i tuusaunoaga (faʻataʻitaʻiga, faʻaoga faaletulafono poʻo faʻamatalaga puipuia) [2]. I le itu fa'ainisinia, le NIST ta'iala e fa'atatau i mataupu fa'avae e fesoasoani ai i 'au e fa'amalamalama fa'amatalaga e mafai e tagata ona fa'aoga moni [1].
Fa'afefea ona filifili se fa'amatalaga fa'amalamalamaga AI - se fa'afanua vave 🗺️
-
Amata mai le faaiuga - O ai e manaʻomia le faʻamatalaga, ma o le a le gaioiga?
-
Fa'afetaui le auala ile fa'ata'ita'iga ma le auala
-
Metotia gradient mo upega loloto i le va'ai po'o le NLP [1].
-
SHAP poʻo le LIME mo faʻataʻitaʻiga faʻasologa pe a e manaʻomia faʻamatalaga faʻapitoa [3][4].
-
Fa'asagaga mo le fa'afouga ma apili e feagai ma tagata fa'atau [1].
-
-
Seti faitoto'a lelei - Siakiga fa'amaoni, su'ega mautu, ma iloiloga a tagata-i-le-loop [5].
-
Fuafuaga mo le fua - O faʻamatalaga e tatau ona faʻamaonia, suʻeina, ma suʻeina.
-
Fa'atapula'a o pepa - E leai se metotia e atoatoa; tusi i lalo faiga fa'aletonu ua iloa.
La'ititi la'ititi-afai e le mafai ona e su'eina fa'amatalaga i le auala lava e tasi e te su'eina ai fa'ata'ita'iga, atonu e leai sau fa'amatalaga, na'o vibes.
Laulau fa'atusatusa - fa'amatalaga masani fa'amatalaga AI 🧮
Fa'amatagofie i le fa'amoemoe; o le olaga moni e fememea'i.
| Meafaigaluega / Metotia | Fa'alogo sili | Tau | Aisea e aoga ai mo i latou |
|---|---|---|---|
| FAI | Saienitisi fa'amaumauga, suetusi | Sa'oloto/tatala | Fa'aopoopo fa'aopoopo-tutusa, fa'atusa [3]. |
| LIME | Vaega o oloa, tagata su'esu'e | Sa'oloto/tatala | Anapogi sui fa'apitonu'u; faigofie ona fuga; o nisi taimi e pisapisao [4]. |
| Tu'ufa'atasi Gradients | ML inisinia i luga o upega loloto | Sa'oloto/tatala | Fa'asinomaga fa'avae fa'asolosolo fa'atasi ai ma axioms maaleale [1]. |
| Fa'afeagai | Tagata fa'au'uga, tausisia, ops | Fefiloi | Tali sa'o i mea e sui; sili ona mafai ona faatino [1]. |
| Lisi tulafono / La'au | Tagata e ona tulaga lamatia, pule | Sa'oloto/tatala | Fa'aliliuga fa'apitoa; aotelega o le lalolagi. |
| Faalagolago vaega | Fa'ata'ita'iga devs, QA | Sa'oloto/tatala | Va'ai va'aiga fa'aaafiaga masani i va'aiga. |
| Fa'ata'ita'iga & fa'ata'ita'iga | Tagata mamanu, tagata su'esu'e | Sa'oloto/tatala | Fa'ata'ita'iga sima, fa'alelei tagata; fesootai. |
| Tulaga meafaigaluega | Vaega fa'avae, pulega | Fa'apisinisi | Mataʻituina + faʻamatalaga + suʻega i se nofoaga e tasi. |
Ioe, e lē tutusa sela. O le olaga lena.
Ose galuega faigofie mo le Fa'amatalaina AI ile gaosiga 🛠️
Laasaga 1 - Fa'amatala le fesili.
Filifili po o ai manaoga e sili ona taua. O le fa'amalamalamaga mo se saienitisi fa'amaumauga e le tutusa ma se tusi apili mo se tagata fa'atau.
Laasaga 2 - Filifili le auala e ala i le faʻamatalaga.
-
Fa'ata'ita'iga fa'ata'ita'i fa'aletonu mo nonogatupe - amata ile SHAP mo le lotoifale ma le lalolagi atoa; fa'aopoopo mea fa'afeagai mo se fa'aoga [3][1].
-
Fa'avasegaga Va'aiga - fa'aoga Fa'atasi Fa'atasi po'o mea fa'apena; fa'aopoopo siaki fa'alesoifua maloloina ina ia 'alofia ai fa'alavelave fa'apitoa [1][5].
Laasaga 3 - Fa'amaonia fa'amatalaga.
Fai su'ega fa'amalamalamaga tutusa; fa'alavelave fa'aoga; siaki pe o mea taua e fetaui ma le malamalama ole vaega. Afai o ou foliga pito i luga e fe'avea'i fe'avea'i i toe toleniga uma, taofi.
Laasaga 4 - Fa'aaoga fa'amatalaga.
Mafuaaga i le gagana faigofie faatasi ma siata. Fa'aaofia ai isi taga e sili ona lelei. Tuuina atu feso'ota'iga e lu'i ai taunu'uga pe a talafeagai ai-o le mea tonu lava lea e fa'amoemoe e lagolagoina e tulafono manino [2].
Laasaga 5 - Mataitu ma fa'amau.
Su'e fa'amatalaga mautu ile taimi. O fa'amatalaga fa'asesē o se fa'ailoga fa'alavelave, ae le o se fa'ailoga fa'alelei.
Maulu loloto 1: Fa'alotoifale ma fa'amatalaga fa'alelalolagi ile fa'atinoga 🔍
-
Fa'alotoifale fesoasoani i se tagata ia malamalama pe aisea le latou fa'ai'uga i tulaga ma'ale'ale.
-
le lalolagi i lau 'au e fa'amautinoa o le amio a'oa'oina o le fa'ata'ita'iga o lo'o ogatusa ma faiga fa'avae ma le poto fa'aletulafono.
Fai mea uma e lua. E mafai ona e amata fa'apitonu'u mo fa'agaioiga tautua, ona fa'aopoopo lea o le mata'ituina o le lalolagi mo le fa'asolo ma le sa'o iloiloga.
Ma'ulu loloto 2: Fa'asagaga mo le fa'atonuga ma apili 🔄
E fia iloa e tagata le suiga maualalo e maua ai se taunuuga sili atu. O fa'amatalaga fa'afeagai e fai tonu lava- suia nei mea fa'apitoa ma le i'uga e feliua'i [1]. Fa'aeteete: e tatau i tagata fa'afeagai ona fa'aaloalo i le fa'atinoina ma le sa'o . O le ta'u atu i se tasi e sui se uiga e le masuia e le o se fuafuaga, ae o se fu'a mumu.
Ma'ulu loloto 3: Su'esu'eina o le ola mama 🧪
Afai e te fa'aogaina fa'afanua saliency po'o fa'alili, fa'agasolo siaki lelei. O nisi metotia e maua ai fa'afanua e latalata i le tutusa e tusa lava pe e te fa'avasega fa'ata'ita'iga fa'ata'ita'iga-o lona uiga e ono fa'amamafaina pito ma mea, ae le o fa'amaoniga a'oa'oina. Matagofie fa'afanua vevela, tala fa'asese. Fausia siaki otometi ile CI/CD [5].
FAQ e sau i fonotaga uma 🤓
Q: E tutusa le Fa'amatala AI ma le fa'amaoni?
A: Leai. O fa'amatalaga e fesoasoani e te iloa ai le amio; o le amiotonu o se meatotino e tatau ona e su'eina ma fa'amalosia . Fa'atatau, e le tutusa.
Q: E sili atu i taimi uma faʻataʻitaʻiga faigofie?
A: O nisi taimi. Ae o le faigofie ma le sese e sese lava. Filifili le faʻataʻitaʻiga sili ona faigofie e fetaui ma manaʻoga faʻatinoga ma pulega.
Q: O fa'amatalaga e le'i maua le IP?
A: E mafai. Fa'avasega fa'amatalaga e le aofia ma tulaga lamatia; tusi mea e te faailoa atu ma pe aisea.
Q: E mafai ona tatou faʻaalia mea taua ma taʻua ua maeʻa?
A: E leai. Fa'amaufa'ailoga taua e aunoa ma se fa'amatalaga po'o se fa'aoga e teuteu ai.
Umi Tele, E le'i Faitau Fa'aliliuga ma fa'amatalaga mulimuli 🌯
Fa'amatalaina AI o le fa'atonuga o le fa'ata'ita'iga fa'ata'ita'iga ia malamalama ma aoga i tagata e fa'alagolago iai. O faʻamatalaga sili ona lelei e faʻamaoni, mautu, ma se faʻalogo manino. Metotia e pei o le SHAP, LIME, Integrated Gradients, ma mea fa'atusa e tofu lava ma malosiaga-fa'aoga ma le loto i ai, fa'ata'ita'i ma le toto'a, ma fa'ailoa i le gagana e mafai ona fa'atino e tagata. Ma ia manatua, o ata mata'utia e mafai ona avea ma tala faatino; mana'omia fa'amaoniga o au fa'amatalaga e atagia ai le amio moni a le fa'ata'ita'iga. Fausia le faʻamalamalamaga i totonu o lau faʻataʻitaʻiga o le olaga-e le o se faʻaopoopoga iila, o se vaega o le auala e te vaʻavaʻai ai.
O le mea moni, e pei o le tu'uina atu o lau fa'ata'ita'iga se leo. O nisi taimi e muimui; o nisi taimi e soona faamatalaina; o nisi taimi e fai mai tonu lava le mea e tatau ona e faʻalogo i ai. O lau galuega o le fesoasoani lea e taʻu atu le mea saʻo, i le tagata saʻo, i le taimi saʻo. Ma togi i totonu se igoa lelei pe lua. 🎯
Fa'asinomaga
[1] NIST IR 8312 - Fa avae o Fa'amatalaga Fa'amatalaga Fa'amatalaga . National Institute of Standards and Technology. faitau atili
. faitau atili
[3] Lundberg & Lee (2017) - “O se Autasi Autasi i le Fa'amatalaina o Va'aiga Fa'ata'ita'i.” arXiv. faitau atili
[4] Ribeiro, Singh & Guestrin (2016) - "Aisea e tatau ai ona ou Faatuatuaina Oe?" Fa'amatalaina o Va'aiga a So'o se Fa'avasegaga. arXiv. faitau atili
[5] Adebayo et al. (2018) - “Siaki o le Soifua Maloloina mo Faafanua Saliency.” NeurIPS (pepa PDF). faitau atili