مهندسی و مدیریت کیفیت

چکیده هدف: در تحلیل‌ها و مدل‌سازی‌های آماری، ارزیابی شباهت یا تفاوت بین دو توزیع احتمالی اهمیت زیادی دارد. یکی از پرکاربردترین معیارها برای این منظور، واگرایی کولبک-لیبلر است که فاصله اطلاعاتی بین دو توزیع را اندازه‌گیری می‌کند. هدف این مطالعه، تحلیل واگرایی KL بین دو توزیع نرمال با واریانس برابر و مقایسه عملکرد روش‌های مختلف برآورد این معیار است.
روش‌شناسی پژوهش: در این پژوهش ابتدا مقدار دقیق واگرایی کولبک–لیبلر بین دو توزیع نرمال با واریانس برابر به‌صورت تحلیلی به‌دست می‌آید، سپس سه روش مختلف برای برآورد این معیار پیشنهاد می‌شود؛ برآورد حداکثر درست‌نمایی، برآورد بیزی و برآورد شریونده عملکرد هر یک از این برآوردگرها از طریق شبیه‌سازی مونت‌کارلو و با استفاده از معیار میانگین مربعات خطا ارزیابی می‌شود.
یافته‌ها: نتایج شبیه‌سازی نشان می‌دهد که برآوردگر بیزی نسبت به MLE دقت بالاتری در برآورد دارد. علاوه بر این، برآوردگر شریونده بهترین عملکرد را دارد و کمترین مقدار MSE را در میان سه روش به‌دست می‌آورد. این یافته نشان می‌دهد که بهره‌گیری از اطلاعات پیشین یا تکنیک‌های جریمه‌گذاری می‌تواند به‌طور قابل‌توجهی کیفیت برآورد را بهبود بخشد.
اصالت/ارزش‌افزوده علمی: این مطالعه با ارایه مقایسه‌ای جامع بین تکنیک‌های کلاسیک و نوین برای برآورد واگرایی KL در زمینه توزیع‌های نرمال با واریانس برابر، به ادبیات علمی کمک می‌کند. نوآوری پژوهش در به‌کارگیری روش شریونده و عملکرد برتر آن است که به‌صورت کمی از طریق شبیه‌سازی تأیید شده است. این یافته‌ها کاربردهای عملی در حوزه‌هایی مانند یادگیری ماشین، پردازش سیگنال و نظریه اطلاعات دارند.