TO‘G‘RI GRADIENTLI OPTIMIZATSIYA ALGORITMI
Keywords:
Kalit so‘zlar: Gradient descent, optimallashtirish algoritmi, learning rate, neyron tarmoq, SGD, Adam, RMSProp, yo‘qotish funksiyasi, gradient, mashinaviy o‘rganish.Abstract
Annotatsiya. Ushbu maqolada gradientga asoslangan optimallashtirish
usullarining eng asosiy va keng qo‘llaniladigan turi — to‘g‘ri gradientli
optimallashtirish (Gradient Descent Optimization) algoritmi batafsil yoritiladi.
Algoritmning matematik mohiyati, uning ishlash tamoyillari, gradientni hisoblash
mexanizmi hamda learning rate parametrining o‘qitish jarayoniga ta’siri chuqur tahlil
qilindi. Shu bilan birga, mashinaviy o‘rganish va chuqur o‘rganish modellarida
parametrlar (vaznlar va biaslar)ni yangilashning nazariy asoslari ko‘rib chiqiladi.
Maqolada Gradient Descent algoritmining turli variantlari — Batch Gradient
Descent, Stochastic Gradient Descent (SGD), Momentum, RMSProp va Adam
optimallashtirish usullarining ishlash prinsiplari va ular o‘rtasidagi asosiy farqlar
tahlil qilindi. Gradient tushish algoritmi mashina va chuqur o‘rganish tizimlarining
markaziy komponenti bo‘lib, neyron tarmoqlarni samarali o‘qitishda muhim rol
o‘ynaydi. Ushbu maqola algoritmni nazariy tushunishga yordam beradi, amaliy
modellarni tuzishda va mavjud modellarni optimallashtirishda qo‘llaniladigan asosiy
tushunchalarni kengaytiradi.
References
Foydalanilgan adabiyotlar
1. Bekmuratov Q.A. , Sun’iy intellekt va neyron tarmoqlar. O‘quv qo‘llanma,
Samarqand – 2021.
2. Sadullayeva SH.A, Yusupov D.F., Yusupov F., Sun’iy intellect va neyronto‘rli
texnologiyalar. O‘quv qo‘llanma, Urganch – 2021.
3. H.N.Zayniddinov, T.A.Xo‘jaqulov, M.P.Atadjanov, “Sun’iy intellekt” fanidan
o‘quv qo‘llanma, Toshkent – 2018.
4. htpp://www.raii.org/library - Российская ассоциация искусственного
интеллекта 5. https://arxiv.org Ilmiy maqolalar arxivi.
6. https://www.coursera.org/learn/neural-networks-deep-learning
7. Stanford University CS231n: Convolutional Neural Networks for Visual
Recognition (Lecture Notes)
http://cs231n.stanford.edu/slides/2021/cs231n_2021_lecture_4.pdf
8. Towards Data Science — “A Beginner’s Guide to Gradient Descent and
Optimization Algorithms.” https://towardsdatascience.com/gradient-descent-
and-its-variants-10f652806a3
