MbGWO-SFS: Modified Binary Grey Wolf Optimizer Based on Stochastic Fractal Search for Feature Selection
Creators
- 1. Delta University for Science and Technology
- 2. Mansoura University
Description
Grey Wolf Optimizer (GWO) simulates the grey wolves' nature in leadership and hunting manners. GWO showed a good performance in the literature as a meta-heuristic algorithm for feature selection problems, however, it shows low precision and slow convergence. This paper proposes a Modified Binary GWO (MbGWO) based on Stochastic Fractal Search (SFS) to identify the main features by achieving the exploration and exploitation balance. First, the modified GWO is developed by applying an exponential form for the number of iterations of the original GWO to increase the search space accordingly exploitation and the crossover/mutation operations to increase the diversity of the population to enhance exploitation capability. Then, the diffusion procedure of SFS is applied for the best solution of the modified GWO by using the Gaussian distribution method for random walk in a growth process. The continuous values of the proposed algorithm are then converted into binary values so that it can be used for the problem of feature selection. To ensure the stability and robustness of the proposed MbGWO-SFS algorithm, nineteen datasets from the UCI machine learning repository are tested. The K-Nearest Neighbor (KNN) is used for classification tasks to measure the quality of the selected subset of features. The results, compared to binary versions of the-state-of-the-art optimization techniques such as the original GWO, SFS, Particle Swarm Optimization (PSO), hybrid of PSO and GWO, Satin Bowerbird Optimizer (SBO), Whale Optimization Algorithm (WOA), Multiverse Optimization (MVO), Firefly Algorithm (FA), and Genetic Algorithm (GA), show the superiority of the proposed algorithm. The statistical analysis by Wilcoxon's rank-sum test is done at the 0.05 significance level to verify that the proposed algorithm can work significantly better than its competitors in a statistical way.
Translated Descriptions
Translated Description (Arabic)
محسن الذئاب الرمادية (GWO) يحاكي طبيعة الذئاب الرمادية في القيادة والصيد. أظهر GWO أداءً جيدًا في الأدبيات كخوارزمية استدلالية لمشاكل اختيار الميزات، ومع ذلك، فإنه يظهر دقة منخفضة وتقاربًا بطيئًا. تقترح هذه الورقة GWO الثنائية المعدلة (MbGWO) بناءً على البحث الكسري العشوائي (SFS) لتحديد السمات الرئيسية من خلال تحقيق توازن الاستكشاف والاستغلال. أولاً، يتم تطوير GWO المعدل من خلال تطبيق نموذج أسي لعدد تكرارات GWO الأصلي لزيادة مساحة البحث وفقًا للاستغلال وعمليات الانتقال/الطفرة لزيادة تنوع السكان لتعزيز القدرة على الاستغلال. بعد ذلك، يتم تطبيق إجراء الانتشار الخاص بـ SFS للحصول على أفضل حل لـ GWO المعدل باستخدام طريقة توزيع Gaussian للمشي العشوائي في عملية النمو. ثم يتم تحويل القيم المستمرة للخوارزمية المقترحة إلى قيم ثنائية بحيث يمكن استخدامها لمشكلة اختيار الميزة. لضمان استقرار وقوة خوارزمية MbGWO - SFS المقترحة، يتم اختبار تسعة عشر مجموعة بيانات من مستودع التعلم الآلي UCI. يتم استخدام K - Nearest Neighbor (KNN) لمهام التصنيف لقياس جودة المجموعة الفرعية المحددة من الميزات. تُظهر النتائج، مقارنة بالإصدارات الثنائية من تقنيات التحسين المتطورة مثل GWO الأصلي و SFS و تحسين سرب الجسيمات (PSO) والهجين من PSO و GWO و محسن طيور الباور بيرد الساتان (SBO) وخوارزمية تحسين الحيتان (WOA) وتحسين الأكوان المتعددة (MVO) وخوارزمية Firefly (FA) والخوارزمية الجينية (GA)، تفوق الخوارزمية المقترحة. يتم إجراء التحليل الإحصائي بواسطة اختبار ويلكوكسون لمجموع الرتب عند مستوى دلالة 0.05 للتحقق من أن الخوارزمية المقترحة يمكن أن تعمل بشكل أفضل بكثير من منافسيها بطريقة إحصائية.Translated Description (French)
Grey Wolf Optimizer (GWO) simule la nature des loups gris en termes de leadership et de manières de chasse. Le GWO a montré une bonne performance dans la littérature en tant qu'algorithme méta-heuristique pour les problèmes de sélection de caractéristiques, mais il montre une faible précision et une convergence lente. Cet article propose un GWO binaire modifié (MbGWO) basé sur la recherche fractale stochastique (SFS) pour identifier les principales caractéristiques en atteignant l'équilibre d'exploration et d'exploitation. Tout d'abord, le GWO modifié est développé en appliquant une forme exponentielle pour le nombre d'itérations du GWO original afin d'augmenter l'espace de recherche en conséquence, l'exploitation et les opérations de croisement/mutation pour augmenter la diversité de la population afin d'améliorer la capacité d'exploitation. Ensuite, la procédure de diffusion de SFS est appliquée pour la meilleure solution du GWO modifié en utilisant la méthode de distribution gaussienne pour la marche aléatoire dans un processus de croissance. Les valeurs continues de l'algorithme proposé sont ensuite converties en valeurs binaires afin qu'il puisse être utilisé pour le problème de sélection de caractéristiques. Pour assurer la stabilité et la robustesse de l'algorithme MbGWO-SFS proposé, dix-neuf ensembles de données du référentiel d'apprentissage automatique UCI sont testés. Le K-Nearest Neighbor (KNN) est utilisé pour les tâches de classification afin de mesurer la qualité du sous-ensemble de fonctionnalités sélectionné. Les résultats, comparés aux versions binaires des techniques d'optimisation de pointe telles que GWO, SFS, Particle Swarm Optimization (PSO), hybride de PSO et GWO, Satin Bowerbird Optimizer (SBO), Whale Optimization Algorithm (WOA), Multiverse Optimization (MVO), Firefly Algorithm (FA) et Genetic Algorithm (GA), montrent la supériorité de l'algorithme proposé. L'analyse statistique par le test de somme des rangs de Wilcoxon est effectuée au niveau de signification 0,05 pour vérifier que l'algorithme proposé peut fonctionner significativement mieux que ses concurrents de manière statistique.Translated Description (Spanish)
Grey Wolf Optimizer (GWO) simula la naturaleza de los lobos grises en liderazgo y modales de caza. GWO mostró un buen desempeño en la literatura como un algoritmo meta-heurístico para problemas de selección de características, sin embargo, muestra baja precisión y convergencia lenta. Este trabajo propone un GWO Binario Modificado (MbGWO) basado en la Búsqueda Fractal Estocástica (SFS) para identificar las principales características logrando el equilibrio de exploración y explotación. En primer lugar, el GWO modificado se desarrolla aplicando una forma exponencial para el número de iteraciones del GWO original para aumentar el espacio de búsqueda en consecuencia de la explotación y las operaciones de cruce/mutación para aumentar la diversidad de la población para mejorar la capacidad de explotación. Luego, se aplica el procedimiento de difusión de SFS para la mejor solución del GWO modificado utilizando el método de distribución gaussiana para el paseo aleatorio en un proceso de crecimiento. Los valores continuos del algoritmo propuesto se convierten en valores binarios para que pueda usarse para el problema de la selección de características. Para garantizar la estabilidad y solidez del algoritmo MbGWO-SFS propuesto, se prueban diecinueve conjuntos de datos del repositorio de aprendizaje automático UCI. El K-Nearest Neighbor (KNN) se utiliza para tareas de clasificación para medir la calidad del subconjunto de características seleccionado. Los resultados, en comparación con las versiones binarias de las técnicas de optimización de última generación, como GWO original, SFS, Particle Swarm Optimization (PSO), híbrido de PSO y GWO, Satin Bowerbird Optimizer (SBO), Whale Optimization Algorithm (WOA), Multiverse Optimization (MVO), Firefly Algorithm (FA) y Genetic Algorithm (GA), muestran la superioridad del algoritmo propuesto. El análisis estadístico mediante la prueba de suma de rangos de Wilcoxon se realiza al nivel de significancia de 0.05 para verificar que el algoritmo propuesto puede funcionar significativamente mejor que sus competidores de manera estadística.Files
09112194.pdf.pdf
Files
(245 Bytes)
| Name | Size | Download all |
|---|---|---|
|
md5:8ede6f5d254613133ee44a475640efe1
|
245 Bytes | Preview Download |
Additional details
Additional titles
- Translated title (Arabic)
- MbGWO - SSF: محسن الذئب الرمادي الثنائي المعدل استنادًا إلى البحث الكسري العشوائي عن اختيار الميزات
- Translated title (French)
- MbGWO-SFS : Optimiseur de loup gris binaire modifié basé sur la recherche fractale stochastique pour la sélection de caractéristiques
- Translated title (Spanish)
- MbGWO-SFS: Optimizador de lobo gris binario modificado basado en la búsqueda fractal estocástica para la selección de características
Identifiers
- Other
- https://openalex.org/W3035533770
- DOI
- 10.1109/access.2020.3001151
References
- https://openalex.org/W14070459
- https://openalex.org/W1444952417
- https://openalex.org/W1566557213
- https://openalex.org/W1929219710
- https://openalex.org/W2002979815
- https://openalex.org/W2031183907
- https://openalex.org/W2038523443
- https://openalex.org/W2061438946
- https://openalex.org/W2100231112
- https://openalex.org/W2207946253
- https://openalex.org/W2261079877
- https://openalex.org/W2290883490
- https://openalex.org/W2425099725
- https://openalex.org/W2508541099
- https://openalex.org/W2553852618
- https://openalex.org/W2571820952
- https://openalex.org/W2746418572
- https://openalex.org/W2766047633
- https://openalex.org/W2770595689
- https://openalex.org/W2776226778
- https://openalex.org/W2785201102
- https://openalex.org/W2801536506
- https://openalex.org/W2810858421
- https://openalex.org/W2901864827
- https://openalex.org/W2902016849
- https://openalex.org/W2903133439
- https://openalex.org/W2904861085
- https://openalex.org/W2917573535
- https://openalex.org/W2922396237
- https://openalex.org/W2924610876
- https://openalex.org/W2944618700
- https://openalex.org/W2945932635
- https://openalex.org/W2949161208
- https://openalex.org/W2965837582
- https://openalex.org/W2972038862
- https://openalex.org/W2979831826
- https://openalex.org/W2986805221
- https://openalex.org/W2991479668
- https://openalex.org/W3002641258
- https://openalex.org/W3010701680
- https://openalex.org/W3010922905