هدف ما ،وزن­دار کردن الگوریتم k نزدیکترین همسایه : پیاده سازی سه الگوریتم در Matlab

در این مقاله سه روش وزن­دار کردن روش k-همسایگی نزدیک پیشنهاد شده است. در دو روش وزن­دهی مستقل برای KNN بر اساس توزیع داده­ها را مطرح میکند. روش اول بر اساس تنظیمات LOO که مطابق با انجام روش cross-validation (b-CCV) به طور کامل است، انجام می­شود در حالیکه روش دوم، مطابق با انجام boostrapping در تعداد محدودی تکرار انجام می­گیرد. ما نشان می­دهیم که خطاهای KNN نرم بدست آمده از طریق b-CCV می­تواند با اعمال KNN وزن­دار در تنطیمات LOO حاصل شود و همچنین نشان می­دهیم که روش وزن­دهی پیشنهادی می­تواند واریانس را کاهش دهد و ساختار KNN را در تنظیمات CV  کاهش دهد.

نتیجه­ گیری

ما چندین روش­های وزن­دهی برای KNN پیشنهاد دادیم. روش­های وزندهی می­توانند به کار روند تا تخمین­های خطای نرم b-CV کامل و boostrapping  بدون انجام تمام بخش­بندی­های ممکن بر روی داده اصلی، بدست آیند. ما نشان دادیم که کلاسفایر KNN انجام شده در تنظیمات b-CCV می­تواند با وزن­دار کردن همسایه­های نزدیک در تنطیمات LOO بدست آید. به عنوان یک نتیجه، هزینه محاسباتی ناشی از کاسیفایر CV و boostrapping  می­تواند به صورت دراماتیکی کاهش یابد.

این مهم است که نشان داده شود، نتایج بدست آمده تنها برای خطای KNN نرم اعمال می­شود و تعمیم آن به خطای کلی سرراست نیست. این نکته به دلیل رابطه غیرخطی و پیچیده بین خطای نرم knn و نرخ خطای “سخت” آن است. در نهایت، نشان دادیم که روش وزن­دهی boostrapping  نرخ خطا و واریانس خطای KNN را کاهش می­دهد.

Weighting of the k-Nearest-Neighbors

وزن­دار کردن  الگوریتم k نزدیکترین همسایه : پیاده سازی سه الگوریتم در Matlab

Published in:  International Conference on Pattern Recognition

Date of Publication: 2010

برای مشاهده مقاله ؛ تصویر فوق را کلیک کنید تا دانلود شود

مشخصات شبیه ساز:

دکتری مخابرات

دانشگاه شیراز

محتویات:

• اصل مقاله
• پیاده سازی با Matlab
• ضمیمه کردن گزارش فارسی و نتایج
• توضیحات کلی سورس کد
• پیاده سازی الگوریتم ها بدون استفاده از توابع آماده در Matlab

دانلود فایل