پاورپوینت طبقه‌ بندی های مبتنی‌ بر تئوری بیز

پاورپوینت طبقه‌ بندی های مبتنی‌ بر تئوری بیز

1- تئوری تصمیم بیز
هدف طراحی طبقه‌بندی جهت قراردادن یک الگوی ناشناس در محتمل‌ترین کلاس
فرض M کلاس از ω1، ω2، ...، ωM موجود بوده و یک بردار ویژگی ناشناس x داریم.
M احتمال شرطی بصورت P(ωi|x), i =1, 2, …, M را تشکیل می‌دهیم، این توابع احتمال شرطی را احتمالات پسین نیز می‌نامند
هر احتمال‌پسین بیانگر میزان تعلق بردار x به کلاس ωi می‌باشد
محتمل‌ترین کلاس می‌تواند برابر اندیس احتمال شرطی بیشینه باشد و x به آن تعلق دارد
کار طراحی با تخمین توابع چگالی احتمال (pdf) از روی بردارهای ویژگی مجموعه داده آموزش شروع می‌شود
برای سادگی، مسئله دو کلاسه را در نظر بگیرید (ω1، ω2) و احتمال‌ پیشین اتفاق هر کلاس نیز معلوم فرض می‌شود
حتی اگر اینگونه نبود، به آسانی قابل تخمین‌زدن می‌باشند (غیر دقیق)
LDA و QDA در بسیاری از کاربردها دارای عملکرد خوب می‌باشند. علت این امر بیشتر در سطوح تصمیم خطی و تربیعی نهفته است تا فرض گوسی بودن توزیع داده
4- تخمین توابع چگالی احتمال نامعلوم
در بیشتر موارد، توابع چگالی احتمال کلاسها ناشناخته بوده و مجبور به تخمین‌زدن آن از روی داده موجود می‌باشیم
گاهی اوقات شکل توزیع (گوسی یا رایلی) معین و پارامترها (میانگین، واریانس) نامعین؛ و در برخی موارد توزیع نامعین و پارامترها (میانگین، واریانس) معین
4-1- تخمین پارامتر با روش حداکثر شباهت (همانندی)
در یک مسئله M کلاسه بردارهای ویژگی بصورت توابع شباهت p (x |ωi) در شکل پارامتری به بردارهای ناشناخته θi وابسته است
هدف تخمین پارامترهای تابع بصورت p (x |ωi;θi) از روی یک مجموعه بردار ویژگی معین (مجموعه داده آموزش) برای هر کلاس
فرض داده هر کلاس مستقل از کلاسهای دیگر می‌باشد (جهت تخمین پارامترها)