توضیحات محصول

پاورپوینت یادگیری درخت تصمیم

فهرست مطالب

مقدمه

درخت تصمیم

مثالی از یک درخت تصمیم

کاربردها

ویژگی های درخت تصمیم

نحوه نمایش درخت تصمیم

الگوریتم یادگیری درخت تصمیم

ایده اصلی ID3

بایاس درخت تصمیم

الگوریتم ID3

نحوه ساختن درخت

معیار کمی اندازه گیری یک ویژگی کدام است؟

آنتروپی

آنتروپی برای دسته بندی های غیر بولی

بهره اطلاعات

دلایل بروز Overfitting

پرهیز از Overfitting

هرس کردن درخت به روش Reduced Error Pruning

سایر معیارهای انتخاب ویژگی برای درخت

معیار نسبت بهره یا gain ratio

ویژگی هائی با هزینه متفاوت

قسمتی از متن پاورپوینت

مقدمه

در یک مسئله یادگیری با دو جنبه مختلف روبرو هستیم:

نحوه نمایش فرضیه ها

روشی که برای یادگیری برمی گزینیم

در این فصل برای نمایش فرضیه ها از درخت تصمیم استفاده میکنیم و برای یادگرفتن این درخت از روش ID3 استفاده میکنیم.

درخت تصمیم

درختها درهوش مصنوعی برای نمایش مفاهیم مختلفی نظیر ساختار جملات، معادلات، حالات بازی، و غیره استفاده میشود.

یادگیری درخت تصمیم روشی برای تقریب توابع هدف با مقادیر گسسته است. این روش نسبت به نویز داده هامقاوم بوده وقادر است ترکیب فصلی گزاره های عطفی  را یاد بگیرد.

این روش جزو مشهورترین الگوریتمهای یادگیری استقرائی است که بصورت موفقیت آمیزی در کاربردهای مختلف بکار گرفته شده است.

درخت تصمیم درختی است که در آن نمونه ها  را به نحوی دسته بندی میکند که از ریشه به سمت پائین رشد میکنند و در نهایت به گره های برگ میرسد:

هر گره داخلی یاغیر برگ (non leaf) با یک ویژگی (attribute) مشخص میشود.  این ویژگی سوالی را در رابطه با مثال ورودی مطرح میکند.

درهر گره داخلی به تعداد جوابهای ممکن با این سوال شاخه (branch) وجود دارد که هر یک با مقدار آن جواب مشخص میشوند.

برگهای این درخت با یک کلاس و یا یک دسته از جوابها مشخص میشوند.

علت نامگذاری آن با درخت تصمیم این است که این درخت فرایند تصمیم گیری برای تعیین دسته یک مثال ورودی را نشان میدهد.