Published March 29, 2023
| Version v1
Publication
Open
Improving Continuous Hopfield Network Stability Using Runge-Kutta Method
Description
Continuous Hopfield network is a recurring network that has shown its ability to solve important optimization problems. Continuous Hopfield network dynamic system is characterized by a differential equation. This equation is difficult to solve, especially for large problems. This led researchers to discretize the differential equation using Euler's method. However, this method generally does not converge to a good solution because it is sensitive to the step size decision and initial conditions. In this work, we discretize the dynamic system of continuous Hopfield network by a new method of Runge-Kutta. This method is strong in terms of stability and performance in order to converge to a better solution. This new method introduces two phases for better network stability. The first phase targets to solve the dynamic equation by the Euler method, while the second phase allows refining the solution found in the first phase. Experimental results on benchmarks show that the proposed approach can effectively improve Hopfield neural network performance.
Translated Descriptions
⚠️
This is an automatic machine translation with an accuracy of 90-95%
Translated Description (Arabic)
شبكة هوبفيلد المستمرة هي شبكة متكررة أظهرت قدرتها على حل مشاكل التحسين المهمة. يتميز النظام الديناميكي لشبكة هوبفيلد المستمرة بمعادلة تفاضلية. من الصعب حل هذه المعادلة، خاصة بالنسبة للمشكلات الكبيرة. أدى هذا بالباحثين إلى تمييز المعادلة التفاضلية باستخدام طريقة أويلر. ومع ذلك، فإن هذه الطريقة لا تتلاقى بشكل عام مع حل جيد لأنها حساسة لقرار حجم الخطوة والظروف الأولية. في هذا العمل، نقوم بتقطيع النظام الديناميكي لشبكة هوبفيلد المستمرة من خلال طريقة جديدة لرونج كوتا. هذه الطريقة قوية من حيث الاستقرار والأداء من أجل التقارب إلى حل أفضل. تقدم هذه الطريقة الجديدة مرحلتين لتحسين استقرار الشبكة. تستهدف المرحلة الأولى حل المعادلة الديناميكية بطريقة أويلر، بينما تسمح المرحلة الثانية بتحسين الحل الموجود في المرحلة الأولى. تظهر النتائج التجريبية على المقارنات المعيارية أن النهج المقترح يمكن أن يحسن أداء الشبكة العصبية لهوبفيلد بشكل فعال.Translated Description (French)
Le réseau Hopfield continu est un réseau récurrent qui a montré sa capacité à résoudre d'importants problèmes d'optimisation. Le système dynamique de réseau Hopfield continu est caractérisé par une équation différentielle. Cette équation est difficile à résoudre, en particulier pour les grands problèmes. Cela a conduit les chercheurs à discrétiser l'équation différentielle en utilisant la méthode d'Euler. Cependant, cette méthode ne converge généralement pas vers une bonne solution car elle est sensible à la décision de taille de pas et aux conditions initiales. Dans ce travail, nous discrétisons le système dynamique du réseau continu de Hopfield par une nouvelle méthode de Runge-Kutta. Cette méthode est forte en termes de stabilité et de performance afin de converger vers une meilleure solution. Cette nouvelle méthode introduit deux phases pour une meilleure stabilité du réseau. La première phase vise à résoudre l'équation dynamique par la méthode d'Euler, tandis que la deuxième phase permet d'affiner la solution trouvée dans la première phase. Les résultats expérimentaux sur les benchmarks montrent que l'approche proposée peut améliorer efficacement les performances du réseau neuronal de Hopfield.Translated Description (Spanish)
La red Hopfield continua es una red recurrente que ha demostrado su capacidad para resolver importantes problemas de optimización. El sistema dinámico de red continua de Hopfield se caracteriza por una ecuación diferencial. Esta ecuación es difícil de resolver, especialmente para problemas grandes. Esto llevó a los investigadores a discretizar la ecuación diferencial utilizando el método de Euler. Sin embargo, este método generalmente no converge en una buena solución porque es sensible a la decisión del tamaño del paso y las condiciones iniciales. En este trabajo, discretizamos el sistema dinámico de la red continua de Hopfield mediante un nuevo método de Runge-Kutta. Este método es fuerte en términos de estabilidad y rendimiento para converger en una mejor solución. Este nuevo método introduce dos fases para una mejor estabilidad de la red. La primera fase tiene como objetivo resolver la ecuación dinámica mediante el método de Euler, mientras que la segunda fase permite refinar la solución encontrada en la primera fase. Los resultados experimentales sobre los puntos de referencia muestran que el enfoque propuesto puede mejorar eficazmente el rendimiento de la red neuronal Hopfield.Files
1079.pdf
Files
(995.3 kB)
| Name | Size | Download all |
|---|---|---|
|
md5:14cc721c6f5ff0fa34e90a22b8c0964b
|
995.3 kB | Preview Download |
Additional details
Additional titles
- Translated title (Arabic)
- تحسين استقرار شبكة هوبفيلد المستمر باستخدام طريقة رونج كوتا
- Translated title (French)
- Amélioration de la stabilité continue du réseau Hopfield à l'aide de la méthode Runge-Kutta
- Translated title (Spanish)
- Mejora de la estabilidad continua de la red Hopfield utilizando el método Runge-Kutta
Identifiers
- Other
- https://openalex.org/W4362468310
- DOI
- 10.47839/ijc.22.1.2876
References
- https://openalex.org/W126268375
- https://openalex.org/W1427293421
- https://openalex.org/W1482482423
- https://openalex.org/W1555834419
- https://openalex.org/W1567047942
- https://openalex.org/W1596213854
- https://openalex.org/W1936612556
- https://openalex.org/W1977282728
- https://openalex.org/W1986477811
- https://openalex.org/W1993749793
- https://openalex.org/W2000920559
- https://openalex.org/W2083025541
- https://openalex.org/W2089071369
- https://openalex.org/W2091587930
- https://openalex.org/W2121498459
- https://openalex.org/W2167679350
- https://openalex.org/W2260028708
- https://openalex.org/W2604438066
- https://openalex.org/W2902386756
- https://openalex.org/W2950100795
- https://openalex.org/W3090053944