O le ā le AI e mafai ona faʻamatalaina?

O le ā le Explainable AI?

O le Explainable AI o se tasi o fuaitau e manaia le leo i le taimi o le taumafataga ma e matua taua lava i le taimi lava e fa'ailoa mai ai e se algorithm se fa'ama'i, fa'amaonia se nonogatupe, pe fa'ailoga se uta. Afai na e mafaufau muamua, ua lelei, ae aisea na faia ai e le fa'ata'ita'iga lena mea... ua e i ai i le teritori o le Explainable AI. Se'i o tatou fa'amatalaina le manatu i se gagana faigofie - leai se togafiti, na'o metotia, fefa'ataua'iga, ma ni nai mea moni faigata.

O tala e te ono fia faitauina pe a uma lenei:

🔗 O le ā le faaituau a le AI?
Ia malamalama i le faaituau a le AI, ona punavai, aafiaga, ma auala e faaitiitia ai.

🔗 O le ā le AI e valoia ai mea?
Su'esu'e le AI e vavalo ai, fa'aoga masani, fa'amanuiaga, ma tapula'a fa'atino.

🔗 O le ā le AI o le robot humanoid?
Aoao pe faʻapefea ona faʻamalosia e le AI ni roboti humanoid, agavaʻa, faʻataʻitaʻiga, ma luʻitau.

🔗 O le ā le faiaʻoga o le AI?
Saili mea e fai e faia e faiaʻoga AI, tomai manaʻomia, ma ala faigaluega.

O le uiga moni o le Explainable AI

O le Explainable AI o le faiga lea o le mamanuina ma le faʻaaogaina o faiga faʻa-AI ina ia mafai ona malamalama tagata i a latou galuega faatino - o tagata patino e aʻafia pe nafa ma faʻaiuga, ae le naʻo tagata atamamai i le matematika. Ua faʻavasegaina e le NIST lenei mea i mataupu faavae e fa: tuʻuina atu se faʻamatalaga, faia ia aoga mo le aofia, faʻamautinoa le saʻo o faʻamatalaga (faʻamaoni i le faʻataʻitaʻiga), ma faʻaaloalo i tapulaʻa o le malamalama (aua le soʻona faʻamatalaina mea ua iloa e le faiga) [1].

O se aotelega puupuu o le talafaasolopito: o vaega taua i le saogalemu na vave tuleia lenei mea, ma taumafai mo ni faʻataʻitaʻiga e tumau le saʻo ae mafai ona faʻamatalaina e faʻatuatuaina "i le taimi nei." E leʻi suia e le fetu i matu ni faʻamatalaga e faʻaaogaina e aunoa ma le faʻaleagaina o le faʻatinoga.

Aiseā e sili atu ai le tāua o le Explainable AI nai lo le mea e te manatu i ai 💡

  • Faatuatuaga ma le vaetamaina - E talia e tagata faiga e mafai ona latou fesiligia, fesiligia, ma faasa'o.

  • Lamatiaga ma le saogalemu - O faʻamatalaga e faʻaalia ai auala e faʻaletonu ai aʻo leʻi faʻateʻia oe i le tele o tulaga.

  • Fa'amoemoega fa'atonutonu - I le EU, o le Tulafono o le AI ua fa'atulaga ai tiute manino e fa'atino ai le manino - e pei o le ta'uina atu i tagata pe a latou fegalegaleai ma le AI i nisi o tulaga ma fa'ailogaina mea ua gaosia pe fa'a'ole'ole e le AI i se auala talafeagai [2].

Ia tatou faamaoni - o dashboards matagofie e lē o ni faamatalaga. O se faamatalaga lelei e fesoasoani i se tagata e filifili ai le mea e fai i le isi taimi.

O le ā le mea e aogā ai le Explainable AI ✅

A e iloiloina soʻo se metotia XAI, fesili mo:

  1. Fa'amaoni - Pe o atagia mai ea i le fa'amatalaga le amio a le fa'ata'ita'iga, pe na'o le fa'amatala mai o se tala fa'amafanafana?

  2. Aogā mo le aofia - E manaʻo saienitisi o faʻamaumauga i ni fesuiaʻiga; e manaʻo fomaʻi i ni faʻatusatusaga poʻo ni tulafono; e manaʻo tagata faʻatau i ni mafuaʻaga faigofie faʻatasi ai ma isi laʻasaga.

  3. Mausali - O suiga laiti i mea e ulufale mai e le tatau ona suia ai le tala mai le A i le Z.

  4. Fa'agaioiga - Afai e le mana'omia le i'uga, o a ni mea semanu e mafai ona suia?

  5. Fa'amaoni e uiga i le le mautonu - E tatau i fa'amatalaga ona fa'aalia ai tapula'a, ae le o le fa'asalaina.

  6. Manino le va'aiga - O se fa'alotoifale mo se tasi o valo'aga pe o se fa'alelalolagi i amioga a le fa'ata'ita'iga?

Afai e na'o le tasi le mea e te manatua: o se fa'amatalaga aoga e suia ai le fa'ai'uga a se tasi, e le na'o o latou lagona.

O manatu autū o le a e faʻalogo tele i ai 🧩

  • Fa'amatalaina vs Fa'amatalaina - Fa'amatalaina: e faigofie lava ona faitauina le fa'ata'ita'iga (e pei o se la'au la'ititi). Fa'amatalaina: fa'aopoopo se metotia i luga e fa'afaigofie ai ona faitauina se fa'ata'ita'iga faigata.

  • I le lotoifale vs i le lalolagi atoa - O le lotoifale e faʻamatalaina ai se tasi faʻaiuga; o le lalolagi atoa e aoteleina ai amioga lautele.

  • Post-hoc vs intrinsic - O le post-hoc e faʻamatalaina ai se pusa uliuli ua uma ona aʻoaʻoina; o le intrinsic e faʻaaogaina ai faʻataʻitaʻiga e mafai ona faʻamatalaina.

Ioe, e le manino nei laina. E lelei lena; e suia le gagana; ae e le faapena lau resitala o lamatiaga.

Metotia lauiloa o le AI e mafai ona fa'amatalaina - le taamilosaga 🎡

O se maimoaga fa'afuase'i, fa'atasi ai ma le lagona o se ta'iala fa'alogo i le falemata'aga ae pu'upu'u.

1) Fa'ailoga fa'aopoopo o foliga

  • SHAP - Tu'uina atu i vaega ta'itasi se sao i se valo'aga fa'apitoa e ala i manatu fa'avae o ta'aloga. E fiafia i ai ona o fa'amatalaga fa'aopoopo manino ma se va'aiga tu'ufa'atasi i fa'ata'ita'iga [3].

2) Faʻataʻitaʻiga sui faʻalotoifale

  • LIME - Fa'aa'oa'oina se fa'ata'ita'iga faigofie ma fa'alotoifale e fa'atatau i le fa'ata'ita'iga e fa'amatalaina. O aotelega vave ma faigofie ona faitauina e tagata o vaega taua e lata ane. Sili ona lelei mo fa'ata'ita'iga, fesoasoani i le mautu o le mata'ituina o fa'ata'ita'iga [4].

3) Metotia fa'avae i luga o le gradient mo upega loloto

  • Fa'asologa Fa'atasi - Taua o uiga e ala i le tu'ufa'atasia o fa'asologa mai se laina fa'avae i le mea e ulufale mai ai; e masani ona fa'aaogaina mo le va'aiga ma tusitusiga. Axioms talafeagai; e mana'omia le fa'aeteete i laina fa'avae ma le pisa [1].

4) Fa'amatalaga fa'avae i fa'ata'ita'iga

  • Fa'afeagai - "O le a se suiga la'ititi e ono suia ai le i'uga?" E fetaui lelei mo le faia o fa'ai'uga aua e masani lava ona fa'atino-fai le X e maua ai le Y [1].

5) Fa'ata'ita'iga, tulafono, ma le fa'alagolago fa'aitiiti

  • O faʻataʻitaʻiga faʻataʻitaʻi e faʻaalia ai faʻataʻitaʻiga faʻatusa; o tulafono e puʻeina ai mamanu e pei o le afai o tupe maua > X ma talaʻaga = mama ona faʻamaonia lea; o le faʻalagolago faʻaitiiti e faʻaalia ai le aʻafiaga masani o se foliga i luga o se vaega. O manatu faigofie, e masani ona le faʻatauaina.

6) Mo faʻataʻitaʻiga gagana

  • O fa'ailoga/e aofia ai fa'asinomaga, fa'ata'ita'iga ua toe maua, ma mafua'aga fa'atulagaina. E aoga, fa'atasi ai ma le lapata'iga masani: o fa'afanua vevela mama e le fa'amaonia ai le mafua'aga [5].

O se mataupu vave (tu'ufa'atasi) mai le fanua 🧪

O se kamupani nonō tupe e feololo le lapo’a e tu’uina atu se fa’ata’ita’iga fa’aleleia atili mo fa’ai’uga tau aitalafu. O le SHAP i le lotoifale e fesoasoani i sui e fa’amatala se i’uga leaga (“O aitalafu-i-tupe maua ma le fa’aaogaina talu ai nei o aitalafu o mea autu ia na mafua ai ona fa’atupuina.”) [3]. O se fa’afeagai e fautua mai ai se isi auala talafeagai (“Fa’aitiitia le fa’aaogaina fa’asolosolo i le ~10% pe fa’aopoopo le £1,500 i tupe teu fa’amaonia e sui ai le fa’ai’uga.”) [1]. I totonu, e fa’atino e le ‘au su’ega fa’afuase’i i luga o ata vaaia latou te fa’aaogaina i le QA e fa’amautinoa ai o mea taua e le na’o ni mea e iloa ai pito o lo’o natia [5]. O le fa’ata’ita’iga lava e tasi, o fa’amatalaga eseese mo tagata fa’alogologo eseese-tagata fa’atau, tagata faigaluega, ma su’etusi.

O le mea faigata: e mafai e faʻamatalaga ona faʻasesēina 🙃

O nisi metotia taua e foliga mai e talitonuina e tusa lava pe le o noatia i le faʻataʻitaʻiga ua aʻoaʻoina pe o faʻamaumauga. O siaki o le mafaufau lelei ua faʻaalia ai e mafai e nisi metotia ona toilalo i suega faavae, ma maua ai se lagona sese o le malamalama. Faʻaliliuga: o ata matagofie e mafai ona pei o se faʻataʻitaʻiga mama. Fausia i totonu suega faʻamaonia mo au metotia faʻamatalaga [5].

E le gata i lea, e seasea ≠ faamaoni. O se mafuaaga e tasi le fuaiupu atonu e natia ai fegalegaleaiga tetele. O feeseeseaiga laiti i se faamatalaga e mafai ona faailoa mai ai le le mautonu moni o le faataitaiga - pe na o le pisa. O lau galuega o le taʻu lea po o fea o fea.

Pulega, faiga faavae, ma le tulaga maualuga mo le manino 🏛️

E faʻamoemoe tagata faia tulafono i le manino e talafeagai ma le tulaga. I le EU, o le Tulafono o le AI e faʻamatalaina ai tiute e pei o le logoina o tagata pe a latou fegalegaleai ma le AI i mataupu faʻapitoa, ma le faʻailogaina o mea na gaosia pe faʻaaogaina e le AI i faʻasilasilaga talafeagai ma auala faʻapitoa, e tusa ai ma tuusaunoaga (e pei o faʻaaogaina faaletulafono poʻo le faʻaalia puipuia) [2]. I le itu faʻainisinia, le NIST ni taʻiala e faʻatatau i mataupu faʻavae e fesoasoani ai i 'au e mamanuina faʻamatalaga e mafai ona faʻaaogaina moni e tagata [1].

Auala e filifili ai se auala e mafai ona fa'amatalaina ai le AI - o se fa'afanua vave 🗺️

  1. Amata mai le faaiuga - O ai e manaʻomia le faamalamalamaga, ma o le a le gaioiga mo?

  2. Fa'afetaui le metotia i le fa'ata'ita'iga ma le auala fa'atino

    • Metotia fa'asolosolo mo upega loloto i le va'aiga po'o le NLP [1].

    • SHAP po'o le LIME mo fa'ata'ita'iga fa'ata'ita'i pe a e mana'omia ni fa'ailoga o foliga [3][4].

    • Fa'afitauli mo le toe fa'aleleia ma apili e feagai ma tagata fa'atau [1].

  3. Fa'itoto'a lelei o seti - Siakiina o le fa'amaoni, su'ega mautu, ma iloiloga a tagata i totonu o le loop [5].

  4. Fuafua mo le fua - E tatau ona mafai ona fa'amaumauina fa'amatalaga, mafai ona fa'ata'ita'iina, ma mafai ona su'esu'eina.

  5. Tapula'a o pepa - E leai se metotia e atoatoa; tusi i lalo ni auala ua iloa e fai ai le faaletonu.

E ese mai sina mea itiiti - afai e le mafai ona e faʻataʻitaʻiina faʻamatalaga e pei ona e faʻataʻitaʻiina ai faʻataʻitaʻiga, atonu e leai ni au faʻamatalaga, naʻo ni lagona.

Siata fa'atusatusaga - filifiliga masani a le AI e mafai ona fa'amatalaina 🧮

E fai si uiga ese ma le iloa; ae o le olaga moni e leaga.

Meafaigaluega / Metotia Le aofia sili ona lelei Tau Aiseā e aogā ai mo i latou
FOFOGA Saienitisi fa'amaumauga, suetusi Sa'oloto/tatala Fa'aopoopoga fa'atatau-tutusa, tutusa [3].
LIME 'Au oloa, tagata su'esu'e Sa'oloto/tatala Sui vave i le lotoifale; faigofie ona fa'alogo; o nisi taimi e pisapisao [4].
Fa'asologa Fa'atasi Inisinia ML i luga o upega loloto Sa'oloto/tatala Fa'ailoga fa'avae i luga o le gradient ma axioms talafeagai [1].
Fa'afeagai Tagata faʻaoga mulimuli, tausisia o tulafono, galuega Fefiloi Tali sa'o i mea e sui; matuā faigofie ona fa'atino [1].
Lisi o tulafono / Laau O ē e ona tulaga lamatia, pule Sa'oloto/tatala Fa'amatalaga totino; aotelega fa'alelalolagi.
Fa'alagolago fa'atasi Atina'e fa'ata'ita'iga, QA Sa'oloto/tatala Va'aia foliga o aafiaga averesi i vaega eseese.
Fa'ata'ita'iga ma fa'ata'ita'iga Tagata mamanu, tagata iloilo Sa'oloto/tatala Fa'ata'ita'iga moni, fa'alelei mo tagata; e mafai ona feso'ota'i.
Fa'avae meafaigaluega 'Au fa'avae, pulega Fa'apisinisi Mata'ituina + fa'amatalaga + su'esu'ega i le nofoaga e tasi.

Ioe, e lē tutusa sela. O le olaga lenā.

O se faiga faigofie mo le Explainable AI i le gaosiga 🛠️

Laasaga 1 - Fa'amatala le fesili.
Filifili po'o ai mana'oga e sili ona tāua. O le faigofie ona fa'amatalaina mo se saienitisi o fa'amaumauga e le tutusa ma se tusi apili mo se tagata fa'atau.

Laasaga 2 - Filifili le metotia e tusa ai ma le anotusi.

  • Fa'ata'ita'iga o lamatiaga fa'ata'atia mo nonogatupe - amata i le SHAP mo le lotoifale ma le lalolagi atoa; fa'aopoopo ni fa'atusatusaga mo se fesoasoani [3][1].

  • Fa'avasega o le va'ai - fa'aaoga Integrated Gradients po'o se mea fa'apena; fa'aopoopo siaki o le soifua maloloina e 'alo'ese ai mai fa'aletonu o le saliency [1][5].

Laasaga 3 - Fa'amaonia fa'amatalaga.
Fai suega o le tutusa o fa'amatalaga; fa'alavelave i mea e ulufale mai; siaki pe tutusa foliga taua ma le malamalama i le vaega. Afai e le masani ona gaoioi au foliga pito i luga i taimi uma e toe fai ai a'oa'oga, taofi.

Laasaga 4 - Ia fa'aoga fa'amatalaga.
Mafua'aga i le gagana faigofie fa'atasi ai ma siata. Aofia ai gaioiga e sili ona lelei. Tu'uina atu ni so'otaga e lu'i ai i'uga pe a talafeagai - o le mea tonu lava lea e taumafai ai tulafono o le manino e lagolagoina [2].

Laasaga 5 - Mata'ituina ma faamaumau.
Siaki le mautu o fa'amatalaga i le aluga o taimi. O fa'amatalaga fa'asesē o se fa'ailoga o le lamatiaga, ae le o se mea sese i foliga vaaia.

Su'esu'ega loloto 1: Fa'amatalaga fa'alotoifale vs fa'avaomalo i le fa'atinoina 🔍

  • E fesoasoani le fa'alotoifale i se tagata ia malamalama pe aisea na taua ai le fa'ai'uga i la latou mataupu i ni tulaga ma'ale'ale.

  • le Global i lau 'au e fa'amautinoa o amioga ua a'oa'oina o le fa'ata'ita'iga e ogatasi ma le malamalama i tulafono fa'avae ma le matā'upu.

Fai uma ia mea e lua. Atonu e te amata i le lotoifale mo galuega tau tautua, ona faaopoopo lea o le mataituina i le lalolagi atoa mo le iloiloga o le fesuia’iga ma le tonu.

Su'esu'ega Loloto 2: Fa'amatalaga Fa'afeagai mo se fesoasoani ma apili 🔄

E fia iloa e tagata le suiga aupito itiiti e maua ai se taunuuga sili atu. O faʻamatalaga faʻafeagai e faia tonu lava lena mea -suia nei mea patino ma e fesuiaʻi le taunuuga [1]. Faʻaeteete: e tatau i faʻamatalaga faʻafeagai ona faʻaaloalo i le mafai ona faia ma le faʻamasinotonu. O le taʻu atu i se tasi e sui se uiga e le mafai ona suia e le o se fuafuaga, o se fuʻa mumu.

Su'esu'ega Loloto 3: Siakiina o le Mafaufau Lelei ma le Sa'o 🧪

Afai e te fa'aogaina ni fa'afanua saliency po'o ni gradients, fa'atino ni siaki sanity. O nisi metotia e maua ai ni fa'afanua e toetoe lava tutusa e tusa lava pe e te fa'avasegaina ni fa'ata'ita'iga fa'ata'ita'i - o lona uiga atonu o lo'o fa'amamafaina ai pito ma textures, ae le o ni fa'amaoniga ua a'oa'oina. O ni fa'afanua vevela matagofie, o se tala fa'asesē. Fausia ni siaki otometi i totonu o le CI/CD [5].

Fesili e masani ona fesiligia e fesiligia i fonotaga uma 🤓

F: E tutusa ea le Explainable AI ma le fa'amasinotonu?
T: Leai. E fesoasoani fa'amatalaga ia te oe e va'ai ai i amioga; o le fa'amasinotonu o se meatotino e tatau ona e fa'ata'ita'i ma fa'amalosia. E feso'ota'i, ae le tutusa.

F: E sili atu ea i taimi uma faʻataʻitaʻiga faigofie?
T: O nisi taimi. Ae o le faigofie ma le sese e sese pea. Filifili le faʻataʻitaʻiga faigofie e fetaui ma manaʻoga o le faʻatinoga ma le pulega.

F: Pe o le a fa'asalalauina ea fa'amatalaga IP?
T: E mafai. Fa'atulaga fa'amatalaga auiliili e ala i le aofia ma le lamatiaga; fa'amaumau mea e te fa'ailoa mai ma le mafua'aga.

F: E mafai ona tatou fa'aali atu le taua o se vaega ma fa'ai'u loa?
A: E leai. O pa taua e aunoa ma se fa'amatalaga po'o se fesoasoani o ni teuteuga ia.

Ua Umi Tele, E Le’i Faitauina le Lomiga ma fa’amatalaga fa’ai’u 🌯

O le Explainable AI o le matā'upu autū lea o le faia o amioga fa'ata'ita'i ia malamalama ma aoga i tagata e fa'alagolago i ai. O fa'amatalaga sili ona lelei e iai le fa'amaoni, le mautu, ma se aofia manino. O metotia e pei o le SHAP, LIME, Integrated Gradients, ma counterfactuals e tofu ma le malosi - fa'aaoga ma le fa'amoemoe, fa'ata'ita'i ma le fa'aeteete, ma tu'uina atu i le gagana e mafai e tagata ona fa'atinoina. Ma ia manatua, o ata va'aia e mafai ona pei o se fa'ata'ita'iga; mana'omia ni fa'amaoniga o au fa'amatalaga e atagia ai amioga moni a le fa'ata'ita'iga. Fausia le fa'amatalaina i totonu o lau ta'amilosaga o le olaga fa'ata'ita'i - e le o se fa'aopoopoga matagofie, o se vaega o le auala e te fa'atinoina ai ma le fa'aeteete.

E moni lava, e pei lava o le tuʻuina atu i lau faʻataʻitaʻiga o se leo. O nisi taimi e muimui; o nisi taimi e soʻona faʻamatalaina; o nisi taimi e taʻu tonu mai ai le mea e te manaʻo e faʻalogo i ai. O lau galuega o le fesoasoani lea ia te ia e taʻu mai le mea saʻo, i le tagata saʻo, i le taimi saʻo. Ma faʻaopoopo i ai se faʻailoga lelei pe lua. 🎯

Fa'asinomaga

[1] NIST IR 8312 - Mataupu Faavae e Fa o le Atamai Fa'apitoa e Mafai ona Fa'amatalaina. Inisetiute Fa'aleatunuu o Tulaga Fa'atonuina ma Tekonolosi. faitau atili

[2] Tulafono Faatonutonu (EU) 2024/1689 - Tulafono o le Atamai Fa'apitoa (Tusitusiga Aloaia/EUR-Lex). faitau atili

[3] Lundberg & Lee (2017) - “O se Auala Tuufaatasi e Faamatalaina ai Vavaloaga Faataitaiga.” arXiv. faitau atili

[4] Ribeiro, Singh & Guestrin (2016) - “Aiseā e tatau ai ona ou faʻatuatuaina oe?” Faʻamatalaina o valoʻaga o soʻo se faʻavasegaga. arXiv. faitau atili

[5] Adebayo ma isi (2018) - “Siakiina o le Soifua Maloloina mo Faʻafanua o le Saliency.” NeurIPS (pepa PDF). faitau atili

Saili le AI Fou i le Faleoloa Aloaia o Fesoasoani AI

Faatatau ia tatou

Toe foʻi i le blog