Published April 8, 2023 | Version v1
Publication Open

A Modified Dai–Liao Conjugate Gradient Method Based on a Scalar Matrix Approximation of Hessian and Its Application

  • 1. University of Belgrade
  • 2. Serbian Academy of Sciences and Arts
  • 3. University of Nis
  • 4. Siberian Federal University
  • 5. King Mongkut's University of Technology Thonburi
  • 6. Gombe State University
  • 7. Kemerovo State University

Description

We introduce and investigate proper accelerations of the Dai–Liao (DL) conjugate gradient (CG) family of iterations for solving large-scale unconstrained optimization problems. The improvements are based on appropriate modifications of the CG update parameter in DL conjugate gradient methods. The leading idea is to combine search directions in accelerated gradient descent methods, defined based on the Hessian approximation by an appropriate diagonal matrix in quasi-Newton methods, with search directions in DL-type CG methods. The global convergence of the modified Dai–Liao conjugate gradient method has been proved on the set of uniformly convex functions. The efficiency and robustness of the newly presented methods are confirmed in comparison with similar methods, analyzing numerical results concerning the CPU time, a number of function evaluations, and the number of iterative steps. The proposed method is successfully applied to deal with an optimization problem arising in 2D robotic motion control.

⚠️ This is an automatic machine translation with an accuracy of 90-95%

Translated Description (Arabic)

نقدم ونحقق في التسارعات المناسبة لعائلة التدرج المتقارن Dai - Liao (DL) من التكرارات لحل مشكلات التحسين غير المقيدة واسعة النطاق. تعتمد التحسينات على التعديلات المناسبة لمعلمة تحديث CG في طرق تدرج مترافق DL. الفكرة الرئيسية هي الجمع بين اتجاهات البحث في طرق نزول التدرج المتسارع، المحددة بناءً على تقريب هيسين بواسطة مصفوفة قطرية مناسبة في طرق شبه نيوتن، مع اتجاهات البحث في طرق CG من نوع DL. وقد ثبت التقارب العالمي لطريقة التدرج المتقارن المعدلة داي لياو على مجموعة من الوظائف المحدبة بشكل موحد. يتم تأكيد كفاءة ومتانة الطرق المقدمة حديثًا مقارنة بالطرق المماثلة، وتحليل النتائج العددية المتعلقة بوقت وحدة المعالجة المركزية، وعدد من تقييمات الوظائف، وعدد الخطوات التكرارية. يتم تطبيق الطريقة المقترحة بنجاح للتعامل مع مشكلة التحسين الناشئة عن التحكم في الحركة الروبوتية ثنائية الأبعاد.

Translated Description (French)

Nous introduisons et étudions les accélérations appropriées de la famille d'itérations à gradient conjugué (CG) Dai-Liao (DL) pour résoudre des problèmes d'optimisation sans contrainte à grande échelle. Les améliorations sont basées sur des modifications appropriées du paramètre de mise à jour CG dans les méthodes de gradient conjugué DL. L'idée maîtresse est de combiner les directions de recherche dans les méthodes de descente de gradient accélérée, définies sur la base de l'approximation de Hesse par une matrice diagonale appropriée dans les méthodes quasi-Newton, avec les directions de recherche dans les méthodes CG de type DL. La convergence globale de la méthode du gradient conjugué Dai-Liao modifié a été prouvée sur l'ensemble des fonctions uniformément convexes. L'efficacité et la robustesse des méthodes nouvellement présentées sont confirmées en comparaison avec des méthodes similaires, en analysant les résultats numériques concernant le temps CPU, un certain nombre d'évaluations de fonctions et le nombre d'étapes itératives. La méthode proposée est appliquée avec succès pour traiter un problème d'optimisation survenant dans le contrôle de mouvement robotique 2D.

Translated Description (Spanish)

Presentamos e investigamos las aceleraciones adecuadas de la familia de iteraciones de gradiente conjugado (CG) Dai-Liao (DL) para resolver problemas de optimización sin restricciones a gran escala. Las mejoras se basan en modificaciones apropiadas del parámetro de actualización CG en los métodos de gradiente conjugado DL. La idea principal es combinar direcciones de búsqueda en métodos de descenso de gradiente acelerado, definidos en base a la aproximación de Hesse mediante una matriz diagonal apropiada en métodos cuasi-Newton, con direcciones de búsqueda en métodos CG de tipo DL. La convergencia global del método de gradiente conjugado Dai-Liao modificado se ha demostrado en el conjunto de funciones uniformemente convexas. La eficiencia y la solidez de los métodos recién presentados se confirman en comparación con métodos similares, analizando los resultados numéricos relativos al tiempo de CPU, una serie de evaluaciones de funciones y el número de pasos iterativos. El método propuesto se aplica con éxito para hacer frente a un problema de optimización que surge en el control de movimiento robótico 2D.

Files

9945581.pdf.pdf

Files (15.8 kB)

⚠️ Please wait a few minutes before your translated files are ready ⚠️ Note: Some files might be protected thus translations might not work.
Name Size Download all
md5:833a9906dbd26994d1a7c49a9fb152ee
15.8 kB
Preview Download

Additional details

Additional titles

Translated title (Arabic)
طريقة تدرج Dai - Liao مقترنة معدلة بناءً على تقريب المصفوفة العددية لـ Hessian وتطبيقها
Translated title (French)
Une méthode de gradient conjugué Dai-Liao modifiée basée sur une approximation matricielle scalaire de Hessian et son application
Translated title (Spanish)
Un método de gradiente conjugado Dai-Liao modificado basado en una aproximación de matriz escalar de arpillera y su aplicación

Identifiers

Other
https://openalex.org/W4362723302
DOI
10.1155/2023/9945581

GreSIS Basics Section

Is Global South Knowledge
Yes
Country
Thailand

References

  • https://openalex.org/W1676543742
  • https://openalex.org/W1968553199
  • https://openalex.org/W1974058930
  • https://openalex.org/W1975024103
  • https://openalex.org/W1975458638
  • https://openalex.org/W1981157520
  • https://openalex.org/W1999855318
  • https://openalex.org/W2012341322
  • https://openalex.org/W2014424370
  • https://openalex.org/W2016518303
  • https://openalex.org/W2018215034
  • https://openalex.org/W2020659205
  • https://openalex.org/W2031047766
  • https://openalex.org/W2050096287
  • https://openalex.org/W2057667107
  • https://openalex.org/W2075313995
  • https://openalex.org/W2076605490
  • https://openalex.org/W2091874256
  • https://openalex.org/W2094175538
  • https://openalex.org/W2136780394
  • https://openalex.org/W2149454052
  • https://openalex.org/W2184260687
  • https://openalex.org/W2340930132
  • https://openalex.org/W2735693966
  • https://openalex.org/W2736319691
  • https://openalex.org/W2739680746
  • https://openalex.org/W2761098424
  • https://openalex.org/W2810515883
  • https://openalex.org/W2888123880
  • https://openalex.org/W2893199587
  • https://openalex.org/W2969652412
  • https://openalex.org/W2970983190
  • https://openalex.org/W2974612556
  • https://openalex.org/W2992733435
  • https://openalex.org/W3000416633
  • https://openalex.org/W3005369555
  • https://openalex.org/W3021626914
  • https://openalex.org/W3102744735
  • https://openalex.org/W3112368155
  • https://openalex.org/W3127862007
  • https://openalex.org/W3135164466
  • https://openalex.org/W3143920138
  • https://openalex.org/W3154158382
  • https://openalex.org/W4210826698
  • https://openalex.org/W4249667877
  • https://openalex.org/W4293775970
  • https://openalex.org/W4311361601
  • https://openalex.org/W613054787