[0:00:01] 好,那接下來呢,我們持續的來講這個機率,當我們在進行這個機率的這個描述的時候,通常呢,在機率裡面呢,我們所使用的這個variable呢,都是所謂的random variable,那習慣上,至少在我們這本書裡面呢,random variable都是會用大寫字母開頭,大寫字母開頭,比如說,兩個骰子的點數,總點數就是total,好,那第一顆骰子的點數就是die1,這樣子,那它們都是random variable,因為這個variable呢,它們的數值呢,是根據一個,某一個狀態所決定的,它是一個會變的,它的數值可能是123456,這樣子,好,那這些數值所形成的範圍,這個集合,就是稱為這個random variable的domain,OK,所以說呢,total,那total的這個總數的數值可以從2一直到12嘛,234567一直到12,好,那第一個骰子的數值可以是1,2,3,4,5,6的其中一個,所以這個就稱呼它,稱呼為這兩個random variable的domain,那有些random variable呢,它的domain只有true或false,就是對或錯,成立或不成立,好,所以比如說,要判別,這個它是不是一個, [0:01:31] 呃,雙雙對對的情況,那就是,要嘛不是,這樣子,好,那在習慣上呢,呃,某一個random variable等於true,也有可能直接寫成一個小a,好,那它如果等於false,也有可能寫成這樣,not a,這樣,好,那,誒,跳到哪裡去了,喔,好,來,那variable呢,呃,它可以有,它的domain可以是無限大的,喔,呃,而且不管,呃,它的domain可以是無限大的,喔,呃,而且不管,呃,它的domain可以是無限大的,喔,呃,而且不管,呃,它的domain可以是無限大的,喔,呃,而且不管,你是discrete的random variable,還是continuous,都有可能是無限大,好,那另外一個就是說呢,我們可以把這樣子的一個表達形式,表達在機率上面,好,所以比如說,其實這個例子,我們剛剛也看過類似的,就是說,給定沒有牙痛,好,然後呢,呃,而且又是十幾歲的親,的這個,呃,青少年,那麼它是蛀牙的機率,是等於0.1,好,類似像這樣,好,然後呢,呃,而且又是十幾歲的親,的這個,呃,青少年,那麼它是蛀牙的機率,是等於0.1,好,類似像這樣,好,然後呢,呃,而且又是十幾歲的親,的這個,呃,青少年,那麼它是蛀牙的機率,長沒了,那propablythe patient, has a cavity,giventhat she is a teenager, with no",,tis",act",is 10%,你可以這麼,把這樣子的一個描述方式,整合到機率的表達裡面,好,那有的時候呢,我們會可能會想要列出,一個random variable的所有可能的狀況,它以及它對應的機率,喔,比如說,我可能有一個random variable是天氣, [0:03:04] 陰天跟下雪那個別的機率就是0.6、0.1、0.29、0.11等等的那我們也可以把它一起寫起來變成是粗體字的p然後呢括號weather就是說weather這個random variable它的所有可能的各種不同的sample它的機率的分佈就是0.6、0.1、0.29、0.01那大家知道在數學課本或者是說像這種比較formal比較正式的書籍裡面你有沒有斜體跟有沒有粗體其實都有嚴格的意義所以通常像我們以前線性代數也是一樣你如果有一個字母是粗體的字母代表它是一個向量細體字代表它是一個scatter那這邊也是一樣今天這個粗體字的p粗體跟細體是有差別的粗體字的p代表的是好幾個數字所形成的一個向量所以in this case這個p呢代表是一個probability distributionfor the random variable weatherok那這個粗體字的p這個notation呢也可以用在conditional distribution上面比如說像這個p of x given y就是給定y這個random variable的狀況 [0:04:34] 那麼我x這個random variable的probability distribution是怎麼樣所以這裡等於是說我y呢大y可以是等於y1y2y3y4那大寫的x呢也可能等於x1x2x3x4就是所有ij的這些配對的所有可能的機率我把它簡寫成一個粗體字的p所以這個就形成一個所以其實這個不是一個機率喔這個是好多個機率所形成的一個distribution那在continuous case呢事實上我們就不可能寫出整個distribution整個向量因為它是continuous它的數它的random variable的變動是continuous所以無限多種變化我們不可能寫下無限多個值那這個時候呢我們習慣上就會寫成是一個範圍比如說這個的意義就是說正宗5的氣溫等於x的機率那它的分佈呢是一個uniform distribution介於18度C到26度C之間所以它代表的是distributed uniformlybetween 18 and 26 degrees celsius那我們稱呼這種continuous的variable這個continuous的機率呢是probability density function [0:06:06] 所以之前大家就學過這個什麼pdf這個也是probability distribution跟probability density function那它簡稱pdf那probability density function呢differ in meaning from discrete distribution這是連續的那跟離散的不一樣喔主要的差別在於說probability density is uniformfrom 18度C到26度C那代表的是說呢在這個範圍我正宗5的溫度是在這個範圍之內的機率是100%那這整個是一個8度C的範圍那我如果說呢今天我正宗5的溫度是落在剛剛是18到26度嘛你的溫度是落在18度到22度這中間的範圍的機率呢就會是剩下50%剩下50%那之所以要這樣子來描述其實大家以前應該也學過機率的時候應該也學過這個那微積分的時候也學過就是說在一個continuous random variable X我們說它的這個random variable X的數值等於小X的機率會是多少呢?其實是沒辦法算的應該說它等於0你在這個continuous的空間當中 [0:07:37] 它剛好等於某一個exactly剛好等於某一個數值的機率幾乎等於0幾乎就等於0所以其實啊當我們在看一個continuous function的時候它在某一個點的機率其實是這個意義就是limit X在X到X加上delta X之間這個很小的範圍之內而這個delta X呢趨近於0大家這個回顧一下這個就是極限極限的定義所以說在continuous function裡面probability X等於小X的機率其實是我們去算這個大X這個random variable這一個很接近X的一個區域範圍內的這個所佔的這個機率這個機率是多少在數學上的定義是如此那所以說呢當你的這個X呢是在18度C到26度C之間呢你這個機率等於是8度C分之1就是八分之一你這個範圍內你這個範圍內的話那就看說你是要在哪裡比如說20.1820.18度C的機率等於8C分之一8C分之一它不是一個機率它是一個probability density [0:09:09] 所以說呢正中午的機率剛好等於20.18度C的機率事實上是等於0因為你如果是剛好在這個點上它對應的這個區域的寬度是等於0那所以大家切記就是說雖然我們習慣上是講是寫成這樣但它的意義其實是一個很小很小的區間之內它佔整體的比例是多少好那以上呢這是針對單一的一個variable來看那其實我們也可以同時同時考慮多個variable啊比如說天氣的變化跟有沒有蛀牙這兩個join probabilitythe probability distributionOK那比如說天氣如果有四種變化那蛀牙有兩種變化就是蛀牙跟非蛀牙所以其實呢我們如果列出所有的排列組合其實總共有八種可能性就是晴天有蛀牙陰天有蛀牙下雨有蛀牙下雪有蛀牙晴天沒蛀牙陰天沒蛀牙下雨沒蛀牙跟下雪有蛀牙總共八種狀況那它整體而言呢寫成這個樣子它就是一個join的probability distribution好OK那在表達上呢我們也可以把比如說某一個variable它實際的只代入進來 [0:10:40] 比如說寫成這樣probability sunny痘點cavity那這個其實代表的是幾個機率它代表的是兩個機率喔就是晴天有蛀牙跟晴天沒蛀牙所以大家要注意一下大小寫粗體字有差喔這裡寫sunny都寫小寫這代表的是whether這個random variable它的一個instance它的一個狀況這樣子好好那你也可以寫下之後你也可以做某種運算比如說whether跟cavity的join probabilitydistribution可以寫成是cavity出現的機率在乘上給定cavityweather的機率總共八種變化好那所以說底下這個就是把這八個情況都把它寫下來嘛就是說呢這個有蛀牙又晴天那就等於是蛀牙出現的機率在乘上給定蛀牙的機率出現晴天的機率依此類推總共八種狀況好那你也可以說你也可以寫成這樣啊就是說晴天的機率跟有蛀牙的你看這裡的c現在是小寫就是有蛀牙的機率跟晴天的join probability好那其實如果是寫成這樣子的話 [0:12:11] 其實這是幾個機率這是一個機率喔就是說晴天這件事情跟有蛀牙這個共同發生的機率所以其實寫成這個呢它其實可以reduce成這樣你可以寫成細體字的p斜體這個代表的是一個機率或者是說sunny and cavity這是一個機率好所以大家我們打這個投影片來打蠻辛苦的這個粗體字細體字這個都有講究的大小寫這個都有講究的好那我們可以再讓這個整個描述變得更為複雜a possible world is defined to be an assignment of valuesto all the random variables under consideration你如果考慮更多的random variables比如說cavitytootsack跟weather好那有蛀牙沒蛀牙兩種狀況有牙痛沒牙痛兩種狀況四種天氣變化那總共就會有16種這個組合好那當然我們也可以寫下它的probability density function是長這樣它這個時候呢這樣的一個描述就包含了16個包含了16個機率好那以上呢是一些表達的形式 [0:13:41] 那再來呢是一些基本的定理the basic actionAsian of probability那首先一個就是說probability not a其實就等於1減掉probability a這個其實我們之前就知道了那這裡只是在推演一下就是說probability not a就是把我所有的sample屬於not a的機率全部都加起來好那這裡呢可以故意的加上屬於a的再減掉屬於a的然後把前面這兩個加起來那它機率就等於1嘛1減掉probability a所以說這裡只是在講說我們有了之前的equation13.1跟13.2我們其實可以推出所有其他的這個機率的定理13.1 13.2是什麼就是所有mutually exclusive的這一些set它的機率加起來要等於1嘛好然後再來就是說他們每一個人的數值都在0到1之間嘛就是那個利用那個呢我們可以推出很多其他的這個定理好那另外一個叫做inclusion exclusion principle好probability我們剛剛曾經看過probability a and b那我們也可以來看 [0:15:11] probability a or b就等於誰呢probability a加上probability b減掉probability a and b嘛OK這個你可以畫一個Venn diagram有沒有左邊這個圓圈圈代表是a出現的範圍右邊這個圓圈圈出現的是b這個範圍那中間交集的部分就是a and b嘛那你要求的是probability a or b就是這兩個圓圈圈的連集的範圍我想這個大家應該都知道了好那OK所以以上所講的這些呢真的就都是機率的複習而已那慢慢的從這一頁開始我們要進入到那有了這些機率的基本條件之後我們要來進行推算了所以開始真的比較跟AI有關係的跟AI有關係那首先我們先從一個simple method開始我們來做probability inferenceThat is the computation of posterior probability for query propositiongiven observed evidence就是我給定我已經觀察到的一些資訊那我想要去問某一個資訊出現的機率這個機率叫做posterior probability事後機率啊也就是說我根據一些現有觀察到的事實去推論 [0:16:45] 某一件事情會出現的機率We use the full joint distribution as the knowledge basefrom which answers to all questions may be derived那我們現在呢還是從這個牙醫的這個例子來開始那現在呢假設我有三個random variable就是牙痛蛀牙跟這個catch這個catch呢你如果去查一下這裡意思是說醫生他的這個牙醫啊牙醫他的這個探針有沒有被卡住有沒有被卡住所以其實啊這裡每一個variable的數值都是都是true or false都是boolean variable有牙痛沒牙痛有蛀牙沒蛀牙然後醫生在看診的時候呢他的這個探針有沒有被你的牙齒卡住有卡住還是沒卡住那通常有卡住可能就代表說那裡有一個洞啊或者是有蛀牙嘛這樣子所以totally呢這個probability distribution會有二乘二乘二總共八個數值總共八個數值假設這八個數值是這樣我們姑且不論這裡面這個數字這機率怎麼來的假設是這樣這怎麼看呢就是說在有蛀牙的有牙痛的情況底下 [0:18:15] 探針會卡住而且你有這個蛀牙的機率呢0.108有蛀牙痛然後呢沒有卡住然後呢有蛀牙的機率呢0.012依次類推這樣子好那記得啊這些這總共total有八個機率這八個機率加起來呢會是等於一這個是機率的基本定理那equation13.2give us a direct way to calculate the probabilitysimply identify those possible worlds in whichthe proposition is trueand add up their probability好什麼意思呢假設我們今天是要來算有蛀牙或牙痛的機率那這個機率怎麼算呢其實只要查表你把有蛀牙的狀況或者是有牙痛的狀況全部把它加起來嘛所以有蛀牙的狀況其實就是這一列0.108 0.012 0.072 0.008你把這四個加在一起嘛所以這個就是前面這四個數字然後再來是有牙痛有牙痛的其實就是0.108 0.012 0.016 0.064嘛 [0:19:47] 但因為上面這兩個剛剛已經加過了所以現在再把這兩個加起來就好了所以呢就是有蛀牙然後呢或者有牙痛的機率呢是0.28OK 是這樣子好那在我們在進行機率的這些運算的時候呢我們One particular common taskis to extract the distributionover some subset of variableor a single variable有的時候我們更常做的是說我只要算有蛀牙的機率我現在三個random variable嘛我現在想要去算出說某一個random variable的其中一個數值的機率比如說有蛀牙的機率那其實就是把剛剛的那一列的數值加起來0.108 0.012 0.072 0.008把它加起來嘛這一件這個動作叫做marginalizationmarginalization邊緣化或者叫summing out那它的意義其實就是說有蛀牙有蛀牙的情況底下我把同時有牙痛沒牙痛的狀況全部都加起來然後探針有卡住跟沒卡住的狀況都加起來我等於說我去sum over [0:21:20] summing overthe subset of variable我把有牙痛沒牙痛有探針有卡住沒卡住的狀況的機率全部加起來那就得到了我有蛀牙的狀況的機率這件事情是很常做的我們稱呼這個叫做marginal probability of cavity那這個動作就叫做marginalization或者是summing out那因為呢我們sum upthe probability for each possible valueof the other variables所以說呢taking them out of the equation我們你看在這個equation裡面沒有看到什麼牙痛跟探針卡住的variable在裡面的數值在裡面因為它已經被我全部都含瓜住了我不用特別指定說什麼有蛀牙沒蛀牙因為我care的是不是我沒有去care它是不是有牙痛沒牙痛因為我care的是有蛀牙這件事而有蛀牙有可能沒牙痛啊有蛀牙有可能有牙痛啊這樣子好那這更formally來寫的話marginalization這件事情可以寫成這樣你看這裡的寫法已經是probability density function了嘛probability y就等於是summation z屬於大Z probability y [0:22:50] 也就是說這裡其實是把y的狀況它對應到各式各樣不同的z的狀況的機率你全部的加起來就得到probability y這個就是marginalization那同樣的這個cavity的狀況也是啊我去算這個probability density function of cavity那它就相當於是我把所有可能的z全部的狀況的機率全部加起來那這個這時候的z呢就包含的是探針有沒有卡住有沒有牙痛的狀況全部加起來了那conditional probability的部分也是一樣你可以這樣子寫這叫conditioning你也一樣就是把所有的z狀況全部都把它加起來就是說你可以把這上面的這個應該這樣講這個probability y到點z可以寫成是probability z再乘上probability y given z這個就是join probability的拆解嘛有沒有你可以把這個拆解成這個樣子嘛好這個在我們剛剛在講到join probability的時候應該也講過這件事好在大部分的情況底下呢我們對於conditional probability某一些variable的conditional probability是很有興趣的比如說在給定這個病人來了他說我有牙痛 [0:24:21] 好那麼你有注牙的機率是多少所以我們常常對這樣的機率有興趣好那剛剛前面講了一頭拉鼓想說在講這個幹嘛事實上都是為了我們要來算這個機率好那這個conditional probability根據剛剛我們說的告訴你給定有牙痛我有注牙的機率就等於誰呢就等於是我有牙痛的機率分之我有牙痛而且有注牙的機率嘛對不對那我有牙痛的機率是多少呢根據這個表我們就可以把這幾個數字加起來好那有牙痛又有注牙的機率呢就是0.108加上0.012嘛所以加起來一除上這個就等於0.6嘛對不對好那反之告訴你有牙痛你沒有注牙的機率那一樣它有同樣的事實嘛那分母一樣照樣選就是牙痛的機率總和分之有牙痛沒有注牙那就是0.016加上0.064加起來呢就等於0.4嘛對不對好所以呢我們常常在實際的應用當中我們care的是這個conditional probability [0:25:51] conditional probability而我們可以這樣子下去進行計算好那特別注意一點是說這兩個數值0.6跟0.4加起來等於1耶它們事實上也必須等於1為什麼呢因為是我在給定牙痛的情況底下它有注牙的機率跟沒注牙的機率那加起來當然應該等於1呀好那再來另外一個要注意一點就是說它們都同處同一個分母這個分母是固定的對不對你看它們的分母都長一樣這分母是一個固定的值好那既然分母是一個固定的值我們就可以把probability cavity given to sec這個事情啊視為是一個我們好像用同樣的一個數字這個來進行正規化它是一個normalization constant的意思這個normalization constant確保了我有注牙跟沒注牙的機率在給定這個條件的情況底下有注牙沒注牙的機率加起來會等於1呀OK那在底下的探討裡面呢我們會故意用一個α這個值來代表這個normalization constant有了這樣的一個說明之後我們就可以把 [0:27:21] 本來應該是probability cavity given to sec我們可以把它寫成是αprobability cavity given to sec好這是什麼呢這個就相當於你這個probability cavity given to sec相當於上面的這個分子跟這個分子這兩個分子好那那個α是誰α就是probability to sec分之一這個α其實就是probability to sec分之一這樣子這樣瞭解嗎因為他們都處於同一個分母嘛我把這個分母把它提出來變成是這樣子吧分母分子這個probability to sec分之一就是我的α然後呢在乘上我現在我這裡其實是兩個分子的意思嘛好那這個分子呢我又可以寫的再更general一點這個分子的意義就是說呃有牙痛以及有蛀牙跟沒蛀牙的兩種狀況好有牙痛有然後呢蛀牙不蛀牙我後面還有另外一個我探針有有卡住沒卡住啊所以我又可以把它另外一個具體化就是說有卡住 [0:28:51] 沒卡住這樣子好那我們來看一下好這個是什麼勒這個機率就是說有蛀有牙痛有卡住然後呢有蛀牙的機率跟沒蛀牙的機率這個probability distribution就等於是看一下呃牙痛蛀牙牙痛卡住牙痛卡住有蛀牙沒蛀牙所以是0.108跟0.016在這裡在這裡好那右邊這個呢有牙痛沒卡住有蛀牙沒蛀牙好有牙痛沒卡住有蛀牙沒蛀牙0.012跟0.064是這個好所以這個是這一個符號這代表兩個機率嘛這個符號也代表兩個機率嘛然後前面呈上一個αOK好那你把這兩個機率這樣加起來好為什麼這可以加起來因為就是有蛀牙沒蛀牙的兩種狀況加起來就變成α0.120.0080.12跟0.008那經過你這個normalize之後呢其實就等於0.60.4那的確如果我們所預期兩個加起來應該要等於以經過這個normalize的vector之後它加起來應該要等於1好那以後呢這樣子的表達形式還會繼續的出現 [0:30:21] 好那但是這個是在玩數學嗎這樣是在玩數學嗎事實上不是你仔細看in other wordswe can calculateprobability cavity given to snackeven if we don't know the valueof probability to snack什麼意思呢就是說在整個運算的過程當中我們其實並不知道會發生應該怎麼講在這整個運算當中我們其實並沒有應用到牙痛出現的機率就是說你看啊回到45頁這一頁的影片當我們要來計算這個機率的時候我們是不是要分母要放牙痛的機率然後呢分支牙痛而且蛀牙的機率對不對這個計算也是我們要知道牙痛的機率分支牙痛而且沒有蛀牙的機率可是呢到了這邊的這個推導我們其實這最後我們一樣是算出0.6 0.4而我們怎麼算出來的呢我們是根據這個機率這個distribution跟這個distribution [0:31:51] 這加總然後我們再做一個normalize這個normalize其實0.12 0.008我不知道α我也可以normalize0.12跟0.008為什麼因為我們只要把它這個normalize是一個是一個什麼簡單的運算嘛你只要把0.12除上0.12加0.08其實就等於0.6啊你把0.08除上0.12加上0.08也是等於0.4啊也就是說我根本不必利用到這個α大家還記得我剛剛講這個α是誰這個α就是牙痛的機率分之一嘛可是呢其實你在這裡你可以完你只是把這個α當成是一個我告訴你喔你這邊你要normalize而你這個你normalize要不要仰賴牙痛的機率其實不用你這兩個數字你自己就可以normalize乘0.6 0.4的好所以下面這一頁的重點再來講說我啊其實根本就不需要用到牙痛的機率我就可以去算出告訴你牙痛你是蛀牙或非蛀牙的機率這樣瞭解嗎這個巧妙的點在這裡好那代表說呢我們是暫時性的忽略或忘記了牙痛的機率分之一這件事情我們剛剛的整個運算就是算出0.12 0.008 [0:33:22] 那0.12 0.08我們自己normalize就變成0.6 0.4了我根本也不用看這個好所以normalizationturns out to be a useful shortcutin many probability calculationsboth to make the computation easierand allow us to perceivewhen some probability assessmentis not available好就是說這樣子的一個技巧讓我們有的時候我們可能根本在實際問題上我們根本無法取得所謂的牙痛的機率那你說有啊有啊這裡有啊這個表不就是了嗎那這只是一個舉例吧我們不是永遠都可以找出這個表格裡面的每一個數字這實際的問題上不見得如此那也就是這樣的一個技巧讓我們能夠有機會的算出各種更多的不同的機率好那如果我的query只牽涉到一個variable比如說cavity出題字的e呢代表是我的evidence比如說就是這個to sec所以說我們剛剛前面那兩頁在講的事情寫的更一般話來講就是probability x given e給定evidence然後呢我要去算 [0:34:52] x出現的機率那根據剛剛前面的邏輯我可以把這一個寫成是probability x到點e的normalization的版本正規化的版本好那這個再往下延伸我們就可以寫成是我把所有因為這個機率我可能還是不會算但是我有可能是我知道說x跟e以及各種可能的y的所有的狀況的機率我可能有那我把這些都sum起來加起來我就得到了這個機率這個distribution那我有了這個distribution我自己就可以去做normalization那我就可以算出這個了我根本也不要你這個alpha所以整個的概念就是這樣子好那所以這個部分呢算是蠻有趣的一個技巧那接下來下一個主題下一個主題我們現在把這個剛剛這個表呢在expand多一個variablerandom variable比如說weather好了好所以剛剛本來已經有三個variable就是有沒有牙套有沒有蛀牙探針有沒有卡住現在再多一個就是說今天的天氣是怎麼樣那這樣子的話呢 [0:36:22] 我們的probability distribution function就變成是probability to setcatch cavity跟weather你這個排列組合就會有二乘二乘二乘四總共32個entry所以其實啊這個table呢這個table本來就已經是三個variable我好不容易弄出一個有八個entry的table那現在呢我可能晴天我就有一個這樣的table雨天就有一個這樣的table陰天跟下雪都個別有一個這樣的table這樣好那我們現在想要探討的是說那麼今天probability to setcatch cavity cloudy這個join probability跟probability to setcatch cavity它們的關係是怎麼樣好那根據我們之前講的product rule這個join probability呢其實可以寫成是這三個的join probability的機率在乘上給定這三個陰天出現的機率就形成了這四個的join probability對不對就是product rule其實可以再繼續往下細分這個大家以前學機率應該學過就是chain rule好 [0:37:53] 那但是呢這裡故意舉一個這麼奇怪的例子是因為但是其實就正常的人就應該知道就是說你牙不牙痛探針有沒有卡住有沒有蛀牙跟天氣有沒有關係一點關係都沒有啊所以我給定你這個什麼牙痛的狀況探針卡住的狀況跟這個呃這個蛀牙的狀況會不會影響到天氣不會影響所以whether這個random variable跟其他random variable是怎麼樣獨立的其實這個機率呢可以直接寫成是陰天的機率因為它跟這三個random variable是independent是獨立的嘛那也就是因為這樣所以我們可以把剛剛的product rule簡寫成這樣probability cloudy乘上probability這三個的join probability就好了好那原因是因為我把這個部分簡化了嘛因為它是獨立的所以我們可以簡化那寫成這個random variable的形式我們就可以把這四個random variable的join probability distribution寫成是whether的probability distribution乘上這三個的join probability distribution我們可以進行簡化好那independence這件事情大家不要小看它其實是很在我們這個機率的推論上很重要的一個特性好 [0:39:23] 我們特別喜歡independent的狀況因為這樣可以讓我們的運算簡化很多所以今天如果說A跟B這兩個proposition是independent是獨立的話那麼probability A given B就可以寫成是probability Aprobability B given A呢就可以寫成probability Bprobability A and B呢就可以寫成probability A乘上probability B好那這是proposition那如果說寫成是random variable的形式就是底下這個樣子好好那independence呢usually based on knowledge of domain那我怎麼知道哪個random variable跟哪個random variable是不是independence那可能就會有一些domain knowledge好那它呢可以急劇的減少我們所需要的資訊量來當我們要計算這個full or joint distribution的時候可以大量的簡化我們的運算好那所以比如說啦假設今天我丟N個獨立的銅板好那我們想要去算說這銅板呢這N個獨立的銅板它的正反正反的狀況其實有幾種變化有2的N次方種這麼多種變化好那所以我們要算的是probability第一個銅板是正面反面的機率and第二個銅板正面反面的機率 [0:40:53] 一直到第N個銅板正面反面的機率那這個其實這個join probability是不好算的是很難算的好那但是呢我們就可以利用independent的形式我們可以各算各的第一個銅板正面的機率跟反面的機率乘上第二個銅板我各算各的所以我只要把它乘起來就好了嘛好那底下這是一個示意圖啊就是說如果原本是這四個random robot我其實根本就可以把它細分拆解成這樣很簡單的拆解成這樣那如果是independent的coin的話也可以拆解OK好講到這邊我們想先