درک مفاهیم ریاضی مورد نیاز – قسمت ششم | لایه‌های مخفی یک داده پرت

این قسمت ششم از آموزش‌ مفاهیم ریاضی پشت ماشین‌های بردار پشتیبان است. در این پست درباره دوگان، مسأله‌های بهینه‌سازی و ضریب‌های لاگرانژ یاد می‌گیریم.

اگر قسمت‌های قبلی را هنوز مطالعه نکرده‌اید، می‌توانید آموزش را از قسمت اول با مطالعه مقاله:SVM – درک مفاهیم ریاضی مورد نیاز – قسمت اول شروع کنید.

دوگان

در تئوری بهینه‌سازی ریاضی، دوگان به این معنی است که به مسأله‌های بهینه‌سازی می توان از دو زاویه نگاه کرد، خود مسأله یا دوگان مسأله (اصل دوگان). حل مسأله دوگان، حل مسأله دوگان، یک حد پایین برای راه حل مسأله اصلی (کمینه‌سازی) فراهم می‌کند. (ویکی‌پدیا)

اگر بدانید که حد پایین چیست، درک مفهوم دوگان برای شما بسیار ساده خواهد بود.

حد پایین چیست؟

اگر یک مجموعه پاره مرتب (partially ordered) $K$ (مجموعه‌ای که المان‌های قابل مقایسه داشته باشد و در آن رابطه کمتر یا مساوی بتواند استفاده شود.) داشته باشید، حد پایین یک المان از $K$ است که کمتر یا مساوی هر المان از $S$ باشد.

جهت انتزاع کمتر (کلی گویی). اگر یک عدد حقیقی (از یک مجموعه پاره مرتب $R$ ) انتخاب کنیم و آن از هر المان زیر مجموعه‌ای از $R$ کمتر یا مساوی باشد، در این صورت می‌توانید آن المان را حد پایین بنامید.

مثال:

اجازه دهید زیر مجموعه‌ای از $R$ را در نظر بگیریم:

$S={2, 4, 8, 12}$

چون ۱ کمتر یا مساوی ۲، ۴، ۸ و ۱۲ است، می‌توان گفت که ۱ حد پایین $S$ است.
برای مثال همین جمله برای -۳ هم صحیح است.
وحتی اگر آن در $S$ هم باشد، می‌توان ۲ را حد پایین $S$ نامید.

علاوه بر آن، چون ۲ بزرگ‌تر از هر حد پایین دیگری است، می‌توانیم یک اسم خاص به آن اختصاص بدهیم و آن را infimum (بزرگ‌ترین حد پایین) می‌نامیم.

پس در مثال ما، می‌توان بی‌نهایت حد پایین انتخاب کرد ولی فقط یک infimum وجود دارد.

توجه: منطق یکسانی برای رابطه “بزرگ‌تر یا مساوی” اعمال می‌شود و مفهوم حد بالا (upper-bound) و سوپریمم (supremum) را خواهیم داشت.

برگردیم به دوگان

حال که می‌دانیم حد پایین چیست، از تعریف دوگان چه چیزی را می‌فهمیم؟ خب این تعریف به این معنی است که اگر یک مسأله کمینه‌سازی داشته باشیم، می‌توانیم همچنین آن را به صورت یک مسأله بیشینه‌سازی در نظر بگیریم و زمانی که ماکزیمم این مسأله را پیدا کنیم می‌تواند حد پایین در حل مسأله کمینه‌سازی باشد و همیشه کمتر یا مساوی مینیمم مسأله کمینه‌سازی است.

چرا دوگان برای ما مهم است؟

در بعضی از موارد، حل کردن دوگان مسأله ساده‌تر از حل کردن خود مسأله است.طبق مطلب‌هایی که درباره حدهای پایین دیدیم، می‌توانیم ببینیم که برای بعضی از مسأله‌های بهینه‌سازی، حل کردن دوگان مسأله به ما همان نتیجه حل کردن مسأله اصلی را می‌دهد! ولی چه زمانی؟

عکس زیر را در نظر بگیرید.

در شکل بالا، تصور کنید که در مسأله اصلی، ما سعی داریم که تابع بالایی را کمینه کنیم. کمینه آن نقطه $P$ است. اگر به دنبال تابع دوگان باشیم، می‌توانیم این کار از طریق تابع پایین نمودار انجام دهیم که ماکزیمم آن نقطه $D$ است. در این مورد می‌توانیم به طور واضح مشاهده می‌کنیم که $D$ حد پایین است. مقدار $P-D$ را تعریف می‌کنیم و به آن فاصله دوگان می‌گوییم. در این مثال، $P-D>0$ و به آن دوگان ضعیف (weak duality holds) می‌گوییم.

در شکل زیر، مشاهده می‌کنیم که $P-D=0$ ، فاصله دوگان وجود ندارد و به آن دوگان قوی (strong duality holds) می‌گوییم.

مسأله‌های بهینه‌سازی با قید

نشانه‌گذاری (نماد، علامت)

یک مسأله بهینه‌سازی معمولا به صورت زیر نوشته می‌شود:

$minimize \enspace f(x)$

$subject \enspace to \enspace g_i (x) = 0 ,\enspace i = 1, ..., p$

$h_i(x) \leq 0 ,\enspace i = 1,...,m$

این نشانه‌گذاری، فرم استاندارد نام دارد. البته نشانه‌گذاری‌های دیگری نیز وجود دارد.

در این نشانه‌گذاری، $f$ تابع هدف نامیده می‌شود (همچنین تابع هزینه هم نامیده می‌شود). با تغییر $x$ (متغیر بهینه‌سازی) امیدواریم مقدار $x^*$ را به گونه‌ای پیدا کنیم که مینیمم آن باشد.

همچنین به تعداد $p$ تابع $g_i$ وجود دارند که قیدهای تساوی و $m$ تابع $h_1$ وجود دارند که قیدهای نامساوی را تعریف می‌کنند.

مقدارهایی که ما پیدا کنیم، باید این قیدها را در نظر بگیرند!

در نظر گرفتن قیدها به چه معنی است؟

تصور کنید که سعی در حل کردن مسأله بهینه‌سازی زیر دارید:

$minimize \enspace x^2$

قیدی وجود ندارد، پس پیدا کردن مینیمم آسان خواهد بود. تابع $x^2$ زمانی که $x=0$ باشد برابر ۰ است. این با یک ستاره قرمز روی نمودار شکل زیر نشان داده شده است.

زمانی که قیدی نداشته باشیم، مینیمم برابر ۰ است.

قیدهای تساوی

با این حال، اگر سعی کنیم که یک قید تساوی اضافه کنیم چه می‌شود؟ برای مثال، می‌خواهیم که مینیمم را پیدا کنیم ولی باید مطمئن شویم که $x=1$ . این به این معنی است که ما باید مسأله بهینه‌سازی زیر را حل کنیم:

$minimize \enspace x^2$

$subject \enspace to \enspace x=1$

این‌بار زمانی که سعی کنیم $x=0$ قرار دهیم، می‌بینیم که تابع مینیمم خودش را بر می‌گرداند، با این حال نمی‌توانیم بگوییم که این راه‌حل مسأله بهینه‌سازی ما است. به علاوه، قید $x=1$ هم نقض شده است. در این مثال، تنها انتخاب ما، استفاده از $x=1$ است و این درواقع همان راه حل است.

با یک قید تساوی $x=1$ ، مینیمم برابر ۱ است

با نگاه به این مثال، ممکن است حس کنید که قیدهای تساوی به‌درد‌نخور هستند. چون بیشتر مسأله‌های بهینه‌سازی، بیشتر از یک بعد را در نظر می‌گیرند، این تفکر صحیح نیست.

قیدهای نامساوی

چه می‌شود اگر الآن از یک قید نامساوی استفاده کنیم؟ این کار ما را با مسأله‌ای به فرم زیر روبرو می‌کند:

$minimize \enspace x^2$

$subject \enspace to \enspace x\geq1$

این بار، می‌توانیم مقدارهای بیشتری از $x$ را امتحان کنیم. برای مثال، $x=2$ قید را در نظر می‌گیرد، پس می‌تواند راه حل بالقوه مسأله باشد. در آخر مشاهده می‌کنیم که تابع $f$ با توجه به قید مسأله، مینیمم خودش را باز هم در $x=1$ دارد.

قید نامساوی

در نمودار بالا، ناحیه جواب که به صورت سیاه و ضخیم نشان داده شده است، مجموعه‌ای از مقدارهای $x$ است که مجازیم از آن‌ها استفاده کنیم. این مجموعه همچنین مجموعه پاسخ نامیده می‌شود.

در نشانه‌گذاری ریاضی می‌توانیم آن را به صورت زیر بنویسیم:

$R=\{x\in R | x\geq 1\}$

$R$ مجموعه‌ای از مقدارها است که قیدها را در نظر می‌گیرند.

ترکیب قیدها

می‌توان چندین قید به یک مسأله بهینه‌سازی اضافه کرد. در این‌جا مثالی با دو قید نامساوی به همراه نمایش بصری آن داریم:

$minimize \enspace x^2$

$subject \enspace to \enspace x \geq 1 \& x \leq 2$

قیدهای مرکب ناحیه پاسخ را محدود می‌کنند

توجه کنید که همچنین می‌توانیم قیدهای تساوی و نامساوی را با هم ترکیب کنیم. تنها محدودیت این است که اگر از قیدهای نقض کننده استفاده کنیم، با مسأله‌ای روبرو می‌شویم که مجموعه پاسخ ندارد:

$minimize \enspace x^2$

$subject \enspace to \enspace x=1 \& x \leq 0$

به علاوه برای این که یک قید در نظر گرفته شود، باید درست باشد. زمانی که چندین قید داشته باشیم، همه آن‌ها باید درست باشند. در مثال بالا، غیر ممکن است که همزمان $x$ برابر با ۱ و کمتر یا مساوی ۰ باشد.

برای تابع $f:X\to Y$ با یک قید تساوی $g(x)$ و یک قید نامساوی $h(x)$ ، مجموعه جواب برابر است با:

$R=\{x\in X | g(x) =0, h(x) \leq 0 \}$

راه حل یک مسأله بهینه‌سازی چیست؟

مقدار بهینه $x^*$ برای یک مسأله بهینه‌سازی:

$minimize \enspace f(x)$

$subject \enspace to \enspace g_i (x)=0, i=1,...,p \& h_i(x) \leq 0,i=1,...,m$

$x^* =inf \{ f(x) | g_i (x) =0,i=1,...,p,h_i (x) \leq 0,i=1,...,m \}$

عبارت بالا می‌گوید: اساسا در علامت‌گذاری ریاضی، مقدار بهینه با در نظر گرفتن همه قیدها،همان اینفیمم $f(x)$ است.

چطور راه حل یک مسأله بهینه‌سازی با قید را پیدا کنیم؟

از ضریب‌های لاگرانژ استفاده می‌کنیم. این متد توسط ریاضی‌دان ایتالیایی، ژوزف لوییز لاگرانژ در سال سال ۱۸۰۶ میلادی ابداع شد.

ژوزف لوییز لاگرانژ

ضریب‌های لاگرانژ

مثل همیشه می‌توانیم یک تعریف خیلی واضح روی ویکی‌پدیا پیدا کنیم:

در بهینه‌سازی ریاضی، متد ضرائب لاگرانژ یک استراتژی برای پیدا کردن ماکزیمم و مینیمم تابع با توجه به قیدهای تساوی است. (ویکی‌پدیا)

یک مورد حساس و قابل توجه در این تعریف این است که ضریب‌های لاگرانژ فقط در مورد قیدهای تساوی صحیح هستند. در نتیجه می‌توانیم از آن‌ها استفاده کنیم تا بعضی از مسأله‌های بهینه‌سازی (آن‌هایی که یک یا چند قید تساوی دارند) را حل کنیم.

ولی نگران نباشید، ضریب‌های لاگرانژ همچنین پایه مورد استفاده در حل مسأله‌هایی با قیدهای نامساوی هستند. پس بد نیست که این مسأله ساده‌تر را درک کنیم 🙂

قبل از توضیح ضریب‌های لاگرانژ، اجازه دهید که ذهنمان را برای خط‌های کانتور (contour lines) آماده کنیم.

خط‌های کانتور

مهم است که خط‌های کانتور را بفهمیم تا ضریب‌های لاگرانژ را بهتر درک کنیم.

نمودار کانتور راهی برای مصورسازی تابع سه-بعدی در دو بعد است.

برای مثال: عکس زیر تابع $x+y$ را در سه بعد (سمت چپ) و با یک نمودار کانتور (سمت راست) نشان می‌دهد.

مفاهیم کلیدی در رابطه با خط‌های کانتور:

برای هر نقطه روی خط، تابع یک مقدار یکسان را بر می‌گرداند.
محدوده تاریک‌تر، کوچک‌ترین مقدار تابع است.

می‌توانیم آخرین نقطه نمایش داده شده در دو شکل زیر را مشاهده کنید. حتی اگر خط یکسانی داشته باشند، تغییر رنگ به ما اجازه می‌دهد تا تصویر سه-بعدی تابع را در ذهنمان تصور کنیم.

به علاوه، گرادیان تابع می‌تواند به صورت یک ناحیه برداری با یک پیکان که به جهت افزایش تابع اشاره می‌کند نشان داده باشد.

گرادیان تابع به صورت یک ناحیه برداری تصویر شده است (ویکی‌پدیا)

معلوم می‌شود که به راحتی می‌توانیم بردارهای گرادیان را روی نمودار کانتور رسم کنیم:

آن‌ها به خط کانتور عمود هستند
آن‌ها باید به جهت افزایش تابع اشاره کنند. (جهتی که تابع در آن افزایش پیدا می‌کند)

در شکل‌های زیر نمایش آن‌ها روی دو نمودار کانتور را می‌بینیم:

برگردیم به ضریب‌های لاگرانژ

مسأله بهینه‌سازی زیر را در نظر بگیرید:

$minimize \enspace f(x,y) = x^2 + y^2$

$subject \enspace to \enspace g_i (x,y) = x+y-1=0$

تابع هدف $f(x,y)$ و تابع قید $g(x,y)$ می‌توانند به صورت کانتور در شکل‌های زیر نمایش داده شوند:

جالب است که به این نکته توجه کنیم که می‌توانیم هر دو نمودار کانتور را ترکیب کنیم تا چگونگی رفتار هر دو تابع را روی یک نمودار مصورسازی کنیم. در زیر می‌توانید مشاهده کنید که تابع قید با خط‌های آبی نمایش داده شده است.

همچنین تعدادی بردار گرادیان از تابع هدف (مشکی) و تعدادی بردار گرادیان از تابع قید (سفید) رسم می کنیم.

با این حال ما علاقه‌ای به کل تابع قید نداریم. ما قفط به نقطه‌هایی علاقه‌مندیم که قید‌ها در آن‌ها رعایت شده باشند. مثال: $g(x,y)=0$ .

این یعنی ما نقطه‌هایی را می‌خواهیم که:

$x+y-1=0$

$x+y=1$

$y=1-x$

در شکل زیر، ما فقط خط $y=1-x$ را در بالای تابع هدف رسم می‌کنیم. قبلا دیدیم که این تابع همچنین مجموعه پاسخ نامیده می‌شود.

یافت لاگرانژ چه بود؟ او فهمید که مینیمم تابع $f(x,y)$ تحت قید $g(x,y)=0$ زمانی به دست می‌آید که گرادیان‌های آن‌ها به یک جهت اشاره کنند. اجازه دهدید ببینیم که ما چطور می‌توانیم به یک نتیجه مشابه دست پیدا کنیم.

در شکل زیر می‌توانیم نقطه‌ای را در جایی که تابع هدف و مجموعه پاسخ مماس هستند مشاهده کنیم. ما همچنین تعدادی بردار گرادیان تابع به رنگ مشکی و تعدادی بردار گرادیان قید به رنگ سفید اضافه کردیم.

می‌توانیم مشاهده کنیم که فقط یک نقطه است که در آن، دو بردار به یک جهت اشاره می‌کنند. (این همان مینیمم تابع هددف تحت قید است)

انگشت خود را روی نقطه اول در بالای شکل قرار دهید. این‌جا شما در حال ارزیابی تابع هدف هستید و متوجه خواهید شد که یک مقدار $v$ را بر می‌گرداند. حال می‌خواهید بدانید که آیا مقدار کوچک‌تری هم وجود دارد یا نه. شما باید روی خط آبی بمانید و در غیر این صورت قید نسأله نقض خواهد شد. پس شما فقط می‌توانید روی این خط به سمت راست و چپ حرکت کنید.

اگر شما به سمت چپ حرکت کنید مشاهده می‌کنید که گرادیان تابع هدف به سمت چپ اشاره می‌کند. (به خاطر داشته باشید که این بردار همیشه به سمت مقدارهای بیشتر اشاره می‌کند) پس این ایده خوبی نیست. برای اطمینان می‌توانید خودتان امتحان کنید و به سمت چپ حرکت کنید. مشاهده می کنید که تابع هدف $v+1$ را بر می‌گرداند. پس افزایش می‌یابد که قابل قبول نیست. این‌بار به سمت راست حرکت کنید. تابع هدف $v-1$ را بر می‌گرداند. این خوب است، شما دارید در جهت درست حرکت می‌کنید، پس ادامه دهید تا به نقطه مرکزی جایی که هر دو پیکان هم‌جهت هستند برسید. اما همین که کمی حرکت کنید، متوجه می‌شوید که تابع هدف دوباره افزایش می‌یابد و همین که شما دیگر با با حرکت کردن به سمت چپ یا راست باعث افزایش تابع نشوید، می‌توانید نتیجه بگیرید که این نقطه مینیمم است.

این چطور به زبان ریاضی ترجمه می‌شود؟

لاگرانژ به ما گفت که برای یافتن مینیمم یک تابع قیددار، ما باید به نقطه‌هایی توجه کنیم که در آن‌ها:

$\nabla f(x,y)=\lambda \nabla g(x,y)$

اما $\lambda$ چیست و از کجا می‌آید؟

این همان چیزی است که ما به آن ضریب لاگرانژ می‌گوییم. به علاوه اگر دو بردار گرادیان به یک جهت اشاره کنند، ممکن است که طول یا اندازه یکسانی نداشته باشند، پس باید ضریب(های) $\lambda$ وجود داشته باشد که اجازه دهد یکی به دیگری تبدیل شود.

توجه کنید که این فرمول نیاز ندارد تا گرادیان‌ها در یک جهت باشند (ضرب کردن در یک عدد منفی جهت را تغییر خواهد داد)، فقط باید موازی باشند. به همین دلیل است که می‌تواند برای پیدا کردن هم ماکزیمم و هم مینیمم باهم استفاده شود (اگر می خواهید بدانید چطور، مثال ۱ این مقاله را ببینید).

چطور نقطه‌هایی را پیدا کنیم که $\nabla f(x,y) = \lambda \nabla g(x,y)$ ؟

توجه کنید که، $\nabla f(x,y) = \lambda \nabla g(x,y)$ برابر است با:

$\nabla f(x,y) - \lambda \nabla g(x,y) = 0$

برای ساده‌تر شدن، توجه داریم که اگر یک تابع را به صورت زیر تعریف کنیم:

$L(x,y,\lambda)=f(x,y)-\lambda g(x,y)$ گرادیان برابر می‌شود با:

$\nabla L(x,y,\lambda)=\nabla f(x,y) - \lambda \nabla g(x,y)$

این تابع $L$ لاگرانژین نام دارد و حل کردن گرادیان لاگرانژین (حل کردن $\nabla L(x,y,\lambda)=0$ ) یعنی پیدا کردن نقطه‌هایی که در آن‌ها گرادیان‌های $f$ و $g$ موازی باشند.

اجازه دهید این مثال را با استفاده از روش ضریب‌های لاگرانژ حل کنیم!

به یاد داشته باشید، مسأله‌ای که سعی داریم آن را حل کنیم، به صورت زیر است:

$minimize \enspace f(x,y) = x^2 + y^2$

$subject \enspace to \enspace g_i (x,y) = x+ y -1 =0$

قدم اول: تابع لاگرانژین را معرفی می‌کنیم

$L(x,y,\lambda) = f(x,y) - \lambda g(x,y)$

و گرادیان آن به صورت زیر است:

$\nabla L(x,y, \lambda ) = \nabla f(x,y) - \lambda \nabla g(x,y)$

قدم دوم: گرادیان آن را حل می‌کنیم

معادله زیر را حل می‌کنیم:

$\nabla L(x,y,\lambda ) = 0$

که یعنی باید دستگاه معادلات زیر را حل کنیم:

$\begin{Bmatrix} \frac{\delta L}{\delta x}=0 \\ \frac{\delta L}{\delta y}=0 \\ \frac{\delta L}{\delta \lambda}=0 \end$

$\begin{Bmatrix} 2x - \lambda=0 \\ 2y - \lambda=0 \\ -x-y+1=0 \end$

با ضرب کردن معادله دوم در -۱ و جمع کردن معادله اول و دوم داریم:

$2x-2y=0$

در نتیجه:

$x=y$

$y$ را در معادله سوم جایگزین می‌کنیم:

$-x-x+1=0$

$-2x+1=0$

$-2x=-1$

$x=\frac{1}{2}$

در معادله اول $x$ را با $\frac{1}{2}$ جایگزین می‌کنیم:

$2\frac{1}{2} - \lambda = 0$

$1-\lambda = 0$

$\lambda = 1$

راه حلی پیدا کردیم که در آن $x=\frac{1}{2}$ ، $y = \frac{1}{2}$ و $\lambda = 1$ است.

نتیجه می‌گیریم که مینیمم $f$ تحت قید $g(x,y) = 0$ به ازای $x=\frac{1}{2}$ و $y=\frac{1}{2}$ به دست می‌آید.

اجازه دهید به کمک تحلیل گرافیکی، نشان دهیم که این راه حل روی نمودار شکل زیر نیز سازگار است:

مینیمم تابع $f$ در $x=\frac{1}{2}$ و $y=\frac{1}{2}$ است

می‌توانیم مشاهده کنیم که نقطه $(x,y)=(\frac{1}{2} , \frac{1}{2} )$ روی مجموعه پاسخ (خط آبی) قرار دارد و این همان نقطه‌ای است که ما قبلا پیدا کرده بودیم.

نتیجه‌گیری

در این پست، یک مفهوم مهم در بهینه‌سازی به نام دوگان را یاد گرفتیم. علاوه بر آن، کشف کردیم که یک مسأله بهین‌سازی می‌تواند قید تساوی و نامساوی نیز داشته باشد. در نهایت یاد گرفتیم که ضریب‌های لاگرانژ چیست و چطور می‌توانیم از آن‌ها استفاده کنیم تا یک مسأله بهینه‌سازی با یک قید را حل کنیم.

اگر بخواهید درباره ضریب‌های لاگرانژ در زمینه SVM بیشتر بدانید، می‌توانید این مقاله خیلی خوب که نحوه استفاده آن‌ها با قید‌های بیشتر را نشان می دهد مطالعه کنید.

قسمت بعدی چه زمانی آماده می‌شود؟

قسمت بعدی وجود ندارد، ولی در عوض درحال نوشتن کتابی درباره SVMها هستم که اگر قصد دارید درباره آن‌ها بیشتر بدانید، مطالعه آن می‌تواند قدم بعدی شما باشد.

پانوشت(ها):

ترجمه کردن بعضی از واژه‌ها به فارسی واقعا مشکل هست. من تا جایی که تونستم سعی کردم که این کار رو انجام بدم. خیلی خوشحال میشم و استقبال می‌کنم اگر معادل‌های فارسی مناسبی رو به من پیشنهاد بدید و معرفی کنید و البته پیشاپیش تشکر هم می‌کنم.

اشتراک‌گذاری

10 فکر می‌کنند “درک مفاهیم ریاضی مورد نیاز – قسمت ششم”

علی نوامبر 21, 2019 در 20:34

با سلام . کسایی که در مورد مباحث یادگیری ماشین مطالبی رو ارایه میدن زیادن و من سعی کردم یه نگاهی به بیشترشون بندازم . مطالبی رو که شما نوشتین علاوه بر زبان ساده و روان یه دید مفهومی رو برای خواننده شکل میده که کمتر مطلبی رو من به این زیبایی دیدم . واقعا جای تشکر داره و برای شما آرزوی موفقیت دارم .

پاسخ دادن ↓
1. پیمان برجوییان نویسندهنوامبر 22, 2019 در 03:27
  
  سلام علی.
  
  خیلی خوشحالم که همچین نظری رو نسبت به نوشته‌هام داری. امیدوارم در آینده بتونم ادامه بدم و کامل‌ترش کنم.
  
  موفق و سلامت باشی.
  
  پاسخ دادن ↓
بهمنی دسامبر 28, 2019 در 18:22

سلام.واقعا مردی خدایی دمت گرم.من کل آموزشتون مربوط به svm رو دقیق خوندم خیلی چیزها یاد گرفتم.واقعا مدیونتون هستم.خواهش می کنم ازتون کارهای اینچنینی در بقیه مباحث ریاضیات و علوم کامپیوتر باز هم انجام بدید. من رشتم هوش مصنوعی هست و مطالبتون واقعا برام مفید هست.بازم ممنون

پاسخ دادن ↓
1. پیمان برجوییان نویسندهژانویه 3, 2020 در 03:35
  
  سلام سجاد عزیز.
  
  خواهش می‌کنم، لطف داری. خیلی خوشحالم که چیزی که نوشتم براتون مفید بوده و استفاده کردین.اگر زمان بهم اجازه بده قصد دارم ادامه آموزش‌های مربوط به SVM رو بنویسم. هر موقع نوشتمشون حتما با ایمیل بهت اطلاع میدم.
  
  ممنون بابت نظرت.
  
  پاسخ دادن ↓
محمدرضا هادی پور مارس 19, 2020 در 15:18

بسیار عالی و مفید بود این مجموعه پست های شما! واقعا ممنون

پاسخ دادن ↓
1. پیمان برجوییان نویسندهمارس 27, 2020 در 15:19
  
  سلام. خوشحالم که براتون مفید بوده. امیدوارم بتونم ادامه مجموعه رو امسال بنویسم.
  
  پاسخ دادن ↓
علی محمودی درخش می 25, 2020 در 21:40

سلام من دانشجوی دکتری هستم مقالات وپنیک مرور کردم سر درنیاوردم تا اینکه مطلاب ارزتده ای که شما لطف کردین مطالعه کردم البته با دقت ما رو بند خودتون کردین استاد

پاسخ دادن ↓
1. پیمان برجوییان نویسندهمی 31, 2020 در 03:59
  
  سلام علی جان.
  
  نظر مثبت شما باعث خوشحالی و افتخار من هست و قطعا انگیزه‌ای هست برای نوشتن ادامه این مجموعه.
  
  امیدوارم که موفق باشید.
  
  پاسخ دادن ↓
سالار ژانویه 8, 2023 در 00:50

مرحبا به این فن بیان واقعا دست مریزاد استاد عزیز

پاسخ دادن ↓
1. پیمان برجوییان نویسندهژانویه 8, 2023 در 14:02
  
  سلام. ممنونم لطف دارید.
  
  پاسخ دادن ↓

لایه‌های مخفی یک داده پرت

روزنوشته‌های یک علاقمند به یادگیری انسان، ماشین و علم داده

درک مفاهیم ریاضی مورد نیاز – قسمت ششم

دوگان

حد پایین چیست؟

برگردیم به دوگان

چرا دوگان برای ما مهم است؟

مسأله‌های بهینه‌سازی با قید

در نظر گرفتن قیدها به چه معنی است؟

قیدهای تساوی

قیدهای نامساوی

ترکیب قیدها

راه حل یک مسأله بهینه‌سازی چیست؟

چطور راه حل یک مسأله بهینه‌سازی با قید را پیدا کنیم؟

ضریب‌های لاگرانژ

خط‌های کانتور

مفاهیم کلیدی در رابطه با خط‌های کانتور:

برگردیم به ضریب‌های لاگرانژ

این چطور به زبان ریاضی ترجمه می‌شود؟

چطور نقطه‌هایی را پیدا کنیم که $\nabla f(x,y) = \lambda \nabla g(x,y)$ ؟

اجازه دهید این مثال را با استفاده از روش ضریب‌های لاگرانژ حل کنیم!

قدم اول: تابع لاگرانژین را معرفی می‌کنیم

قدم دوم: گرادیان آن را حل می‌کنیم

نتیجه‌گیری

قسمت بعدی چه زمانی آماده می‌شود؟

10 فکر می‌کنند “درک مفاهیم ریاضی مورد نیاز – قسمت ششم”

دیدگاهتان را بنویسید لغو پاسخ

دوگان

حد پایین چیست؟

برگردیم به دوگان

چرا دوگان برای ما مهم است؟

مسأله‌های بهینه‌سازی با قید

در نظر گرفتن قیدها به چه معنی است؟

قیدهای تساوی

قیدهای نامساوی

ترکیب قیدها

راه حل یک مسأله بهینه‌سازی چیست؟

چطور راه حل یک مسأله بهینه‌سازی با قید را پیدا کنیم؟

ضریب‌های لاگرانژ

خط‌های کانتور

مفاهیم کلیدی در رابطه با خط‌های کانتور:

برگردیم به ضریب‌های لاگرانژ

این چطور به زبان ریاضی ترجمه می‌شود؟

چطور نقطه‌هایی را پیدا کنیم که ؟

اجازه دهید این مثال را با استفاده از روش ضریب‌های لاگرانژ حل کنیم!

قدم اول: تابع لاگرانژین را معرفی می‌کنیم

قدم دوم: گرادیان آن را حل می‌کنیم

نتیجه‌گیری

قسمت بعدی چه زمانی آماده می‌شود؟

10 فکر می‌کنند “درک مفاهیم ریاضی مورد نیاز – قسمت ششم”

دیدگاهتان را بنویسید لغو پاسخ

چطور نقطه‌هایی را پیدا کنیم که $\nabla f(x,y) = \lambda \nabla g(x,y)$ ؟