Professional Documents
Culture Documents
7 1 Probability 2015
7 1 Probability 2015
احتماالت.
متغیرهای تصادفی
توزیع توأم و حاشیهای
توزیع شرطی
قاعده ضرب ،قاعده زنجیری ،قاعده بیز
استنتاج
استقالل
استقالل شرطی
حسگرهای عامل اطالعاتی در مورد فاصله هر خانه تا مکان روح در اختیار عامل
قرار میدهند.
قرمز در خانهای که روح قرار دارد:
اطالعات حسگرها دارای نویز است ،اما خوشبختانه ) P(Color | Distanceرا میدانیم.
متغیر مشاهده شده [شواهد] :عامل در مورد برخی از جنبههای محیط اطالعات قطعی دارد[ .مانند
اطالعات دریافتی از حسگرها یا نشانهها]
متغیر مشاهده نشده :عامل باید در مورد برخی دیگر از جنبههای محیط استدالل کند[ .مانند مکان یک شی
یا نوع بیماری]
مدل :عامل میداند چه ارتباطی میان متغیرهای معلوم و مجهول وجود دارد.
استدالل احتماالتی .یک چارچوب به منظور مدیریت باورها و دانش درباره محیط.
متغیر تصادفی .جنبهای از محیط که ممکن است در مورد آن عدم قطعیت داشته باشیم.
𝑊 )𝑊(𝑃
𝑇 )𝑇(𝑃 sun 0.6
hot 0.5 rain 0.1
cold 0.5 fog 0.3
meteor 0.0
نمایش توابع توزیع احتمال .یک جدول بیانگر احتمال مربوط به هر مقدار.
ویژگیها.
تابع توزیع احتمال توأم بر روی یک مجموعه از متغیرها مانند 𝑛𝑋.𝑋1 ,𝑋2 , … ,
مدل احتماالتی .یک توزیع توأم بر روی مجموعهای از متغیرهای تصادفی.
با داشتن توزیع توأم ،میتوانیم احتمال هر رویداد ممکن را محاسبه کنیم.
با داشتن توزیع توأم ،میتوانیم احتمال هر رویداد ممکن را محاسبه کنیم.
با داشتن توزیع توأم ،میتوانیم احتمال هر رویداد ممکن را محاسبه کنیم.
𝑃 𝑋1 = 𝑥1 = 𝑃 𝑋1 = 𝑥1 , 𝑋2 = 𝑥2
𝑥2
𝑇 )𝑇(𝑃
𝑤 𝑃 𝑡 = 𝑃 𝑡,
𝑇 𝑊 )𝑊 𝑃(𝑇, hot 0.5
𝑤
hot sun 0.4 cold 0.5
hot rain 0.1
cold sun 0.2 𝑊 )𝑊(𝑃
cold rain 0.3 𝑤 𝑃 𝑤 = 𝑃 𝑡, sun 0.6
𝑡
rain 0.4
www.snrazavi.ir هوش مصنوعی پیشرفته -سید ناصر رضوی ۱۳۹۵ -
توابع توزیع حاشیهای
۱7
𝑃 𝑋1 = 𝑥1 = 𝑃 𝑋1 = 𝑥1 , 𝑋2 = 𝑥2
𝑥2
𝑤 𝑃 𝑡 = 𝑃 𝑡,
𝑇 𝑊 )𝑊 𝑃(𝑇,
𝑤 sun rain 𝑇 𝑃
hot sun 0.4
hot 0.4 0.1 0.5
hot rain 0.1
cold 0.2 0.3 0.5
cold sun 0.2
cold rain 0.3 𝑤 𝑃 𝑤 = 𝑃 𝑡, 𝑊 𝑃 0.6 0.4
𝑡
س .با توجه به توزیع توأم داده شده ،توزیع حاشیهای مربوط به 𝑋 𝑃 و )𝑌(𝑃 را محاسبه کنید.
𝑋 )𝑋(𝑃
𝑦 𝑃 𝑥 = 𝑃 𝑥,
𝑋 𝑌 )𝑌 𝑃(𝑋, 𝑥+
𝑦
𝑥+ 𝑦+ 0.2 𝑥−
𝑥+ 𝑦− 0.3
𝑥− 𝑦+ 0.4 𝑌 )𝑌(𝑃
𝑥− 𝑦− 0.1 𝑦 𝑃 𝑦 = 𝑃 𝑥, 𝑦+
𝑥
𝑦−
𝑏 𝑃 𝑎,
𝑏 𝑃 𝑎,
= 𝑏𝑎 𝑃
𝑏 𝑃
𝑎 𝑃 𝑏 𝑃
.مثال
𝑇 𝑊 𝑃(𝑇, 𝑊)
hot sun 0.4
𝑃 𝑎, 𝑏
hot rain 0.1 𝑃 𝑎𝑏 =
𝑃 𝑏
cold sun 0.2
cold rain 0.3
𝑃 𝑊 =𝑃𝑠𝑢𝑛,
𝑊= 𝑇 𝑠𝑢𝑛,
= 𝑐𝑜𝑙𝑑
𝑇 = 𝑐𝑜𝑙𝑑
0.2 0.2
𝑃 𝑊 = 𝑠𝑢𝑛|𝑇 = 𝑐𝑜𝑙𝑑 = = = = 0.4 = = 0.4
𝑃 𝑇 =𝑃 𝑐𝑜𝑙𝑑
𝑇 = 𝑐𝑜𝑙𝑑 0.5 0.5
س .با توجه به توزیع توأم داده شده ،هر یک از احتمالهای شرطی خواسته شده را محاسبه کنید.
توزیع شرطی .یک توزیع احتمال بر روی مجموعهای از متغیرها با ثابت در نظر گرفتن مقدار سایر
متغیرها.
𝑊 )𝑡𝑜𝑃(𝑊|ℎ
sun 0.8 𝑇 𝑊 )𝑊 𝑃(𝑇,
rain 0.2 hot sun 0.4
𝑇𝑊 𝑃
= 𝑐 = 𝑇|𝑠 = 𝑊 𝑃
𝑐 = 𝑇 𝑃 𝑊 = 𝑠, ترفند نرمالسازی.
𝑐=𝑇 𝑃
𝑐 = 𝑇 𝑃 𝑊 = 𝑠,
=
𝑟 = 𝑊 𝑃 𝑇 = 𝑐, 𝑊 = 𝑠 + 𝑃 𝑇 = 𝑐,
0.2
= = 0.4
0.2 + 0.3
? 𝑦𝑃 𝑋 𝑌 = −
𝑃 𝑜𝑛 𝑡𝑖𝑚𝑒 | 𝑛𝑜 𝑎𝑐𝑐𝑖𝑑𝑒𝑛𝑡 = 0.9 احتمالها با دریافت شواهد جدید تغییر میکنند.
𝑃 𝑜𝑛 𝑡𝑖𝑚𝑒 | 𝑛𝑜 𝑎𝑐𝑐𝑖𝑑𝑒𝑛𝑡, 5: 00 𝑎. 𝑚. = 0.95 دریافت شواهد جدید باعث به روز رسانی باورها میشود.
𝑃 𝑜𝑛 𝑡𝑖𝑚𝑒 | 𝑛𝑜 𝑎𝑐𝑐𝑖𝑑𝑒𝑛𝑡, 5: 00 𝑎. 𝑚. , 𝑟𝑎𝑖𝑛𝑖𝑛𝑔 = 0.80
www.snrazavi.ir هوش مصنوعی پیشرفته -سید ناصر رضوی ۱۳۹۵ -
استنتاج به وسیله شمارش
28
𝑆 𝑇 𝑊 𝑃(𝑆, 𝑇, 𝑊)
𝑃 𝑠𝑢𝑛 = 0.30 + 0.10 + 0.10 + 0.15 summer hot sun 0.30
summer hot rain 0.05
summer cold sun 0.10
summer cold rain 0.05
winter hot sun 0.10
winter hot rain 0.05
winter cold sun 0.15
winter cold rain 0.20
𝑆 𝑇 𝑊 𝑃(𝑆, 𝑇, 𝑊)
0.10 + 0.15
𝑃 𝑠𝑢𝑛 | 𝑤𝑖𝑛𝑡𝑒𝑟 = summer hot sun 0.30
0.50
summer hot rain 0.05
summer cold sun 0.10
summer cold rain 0.05
winter hot sun 0.10
winter hot rain 0.05
winter cold sun 0.15
winter cold rain 0.20
𝑆 𝑇 𝑊 𝑃(𝑆, 𝑇, 𝑊)
0.10
𝑃 𝑠𝑢𝑛 | 𝑤𝑖𝑛𝑡𝑒𝑟, ℎ𝑜𝑡 = summer hot sun 0.30
0.10 + 0.05
summer hot rain 0.05
summer cold sun 0.10
summer cold rain 0.05
winter hot sun 0.10
winter hot rain 0.05
winter cold sun 0.15
winter cold rain 0.20
1
𝑘𝑒 𝑃 𝑄|𝑒1 , … , 𝑘𝑒 = 𝑃 𝑄, 𝑒1 , … ,
𝑍
مشکالت.
پیچیدگی زمانیO(𝑑 𝑛 ) :
پیچیدگی حافظهO(𝑑 𝑛 ) :
𝑦 𝑃 𝑥,
𝑦 𝑃 𝑦 𝑃 𝑥 𝑦 = 𝑃 𝑥, = 𝑦𝑥 𝑃
𝑦 𝑃
.مثال
𝑃 𝑦 𝑃 𝑥 𝑦 = 𝑃 𝑥, 𝑦
𝐷 𝑊 𝑃(𝐷|𝑊) 𝐷 𝑊 𝑃(𝐷, 𝑊)
𝑊 𝑃(𝑊) wet sun 0.1 wet sun
sun 0.8 wet rain 0.7 wet rain
rain 0.2 dry sun 0.9 dry sun
dry rain 0.3 dry rain
𝑃 𝑥1 , 𝑥2 , 𝑥3 = 𝑃 𝑥1 𝑃 𝑥2 𝑥1 𝑃 𝑥3 𝑥1 , 𝑥2
𝑃 𝑥1 , 𝑥2 , … , 𝑥𝑛 = ෑ 𝑃 𝑥𝑖 𝑥1 … 𝑥𝑖−1
𝑖
س .چرا این رابطه همواره درست است؟
𝑃 𝑥1 , 𝑥2 𝑃 𝑥1 , 𝑥2 , 𝑥3
𝑃 𝑥1 𝑃 𝑥2 𝑥1 𝑃 𝑥3 𝑥1 , 𝑥2 = 𝑃 𝑥1
𝑃 𝑥1 𝑃 𝑥1 , 𝑥2
دو روش مختلف برای فاکتورگیری از یک توزیع توأم بر روی دو متغیر.
𝑥 𝑃 𝑥𝑦 𝑃
𝑦 𝑥 𝑃 𝑦 𝑃 = 𝑥 𝑦 𝑃 𝑥 𝑃 = 𝑦 𝑃 𝑥, = 𝑦𝑥 𝑃
𝑦 𝑃
کاربردها.
𝑔 𝑃 𝑔𝑟 𝑃∝ 𝑟𝑔 𝑃
𝑔 𝑃 𝑔𝑟 𝑃∝ 𝑟𝑔 𝑃
متغیرهای مستقل .در یک توزیع توأم ،دو متغیر مستقل هستند اگر:
)𝑌(𝑃 𝑋 𝑃 = 𝑌 𝑃 𝑋,
𝑌⊥𝑋
)𝑦(𝑃 𝑥 𝑃 = 𝑦 ∀𝑥, 𝑦 𝑃 𝑥,
در این صورت توزیع توأم قابل تجزیه به دو توزیع سادهتر است.
توجه .متغیرها معموالً مستقل نیستند!
سادهسازی مدل!