سلام.

درحال نوشتن یک پست راجع به طبقه‌بندی‌کننده بیز ساده (Naive Bayes) هستم و در حین نوشتنش به مفهومی به نام Likelihood برخورد کردم و فکر کردم که به این مفهوم، جاهای مختلفی اشاره شده و این که شاید بد نباشه که قبل از انتشار اون پست، یه کم در موردش بنویسم. البته این یک مفهوم آماری هست و خب طبیعتا درگیر ریاضیات میشه که من در این پست قصد ندارم راجع بهشون بنویسم و فقط به مفهوم و تعریف‌ها اشاره می‌کنم. ولی اگر علاقمند باشید خودتون می‌تونید ریاضیاتش را در ویکیپدیا مطالعه کنید.

تخمین درستی بیشینه (Maximum Likelihood Estimation MLE)

یک روش آماری برای تخمین پارامتر‌(های) یک مدل، برای داده داده‌شده است. ایده اصلی پشت MLE این است که: مدلی بهترین توصیف از داده را داشته باشد، بهترین پیش‌بینی‌کننده خواهد بود.

مزیت اصلی MLE خاصیت تقریبی بودن آن است. و این یعنی زمانی که اندازه داده افزایش می‌یابد، تخمین با سرعت بیشتری به سمت پارامتر جمعیت همگرا می‌شود. ما از MLE برای تکنیک‌های مختلفی در آمار به منظور پیش‌بینی پارامترها استفاده می‌کنیم. در ادامه قدم‌های کلی برای یافتن یک تخمین مناسب از پارامتر‌ها را شرح می‌دهم.

قدم ۱: ساخت یک فرض درباره تابع تولید داده

قدم ۲: فرموله کردن تابع درستی برای داده با استفاده از تابع تولید داده.

تابع درستی چیزی به جز احتمال مشاهده داده با توجه به پارامتر(ها) نیست. پارامترها به فرض‌های ما و تابع تولید داده وابسته هستند.

قدم ۳:‌ پیدا کردن یک تخمین‌زن برای پارامتر(ها) با استفاده از تکنیک بهینه‌سازی.

این کار با توجه به پیدا کردن تخمینی که تابع درستی(Likelihood Function) را بیشینه می‌کند انجام می‌شود.

شاد باشید.