A pre-trained convolutional neural network with optimized capsule networks for chest X-rays COVID-19 diagnosis
- 1. Scientific Research Group in Egypt
 - 2. Helwan University
 - 3. VSB - Technical University of Ostrava
 - 4. Cairo University
 
Description
Abstract Coronavirus disease (COVID-19) is rapidly spreading worldwide. Recent studies show that radiological images contain accurate data for detecting the coronavirus. This paper proposes a pre-trained convolutional neural network (VGG16) with Capsule Neural Networks (CapsNet) to detect COVID-19 with unbalanced data sets. The CapsNet is proposed due to its ability to define features such as perspective, orientation, and size. Synthetic Minority Over-sampling Technique (SMOTE) was employed to ensure that new samples were generated close to the sample center, avoiding the production of outliers or changes in data distribution. As the results may change by changing capsule network parameters (Capsule dimensionality and routing number), the Gaussian optimization method has been used to optimize these parameters. Four experiments have been done, (1) CapsNet with the unbalanced data sets, (2) CapsNet with balanced data sets based on class weight, (3) CapsNet with balanced data sets based on SMOTE, and (4) CapsNet hyperparameters optimization with balanced data sets based on SMOTE. The performance has improved and achieved an accuracy rate of 96.58% and an F1- score of 97.08%, a competitive optimized model compared to other related models.
Translated Descriptions
Translated Description (Arabic)
ينتشر مرض فيروس كورونا المستجد (COVID -19) بسرعة في جميع أنحاء العالم. تظهر الدراسات الحديثة أن الصور الإشعاعية تحتوي على بيانات دقيقة للكشف عن فيروس كورونا. تقترح هذه الورقة شبكة عصبية تلافيفية مدربة مسبقًا (VGG16) مع شبكات عصبية كبسولة (CapsNet) للكشف عن COVID -19 باستخدام مجموعات بيانات غير متوازنة. تم اقتراح CapsNet نظرًا لقدرتها على تحديد ميزات مثل المنظور والتوجه والحجم. تم استخدام تقنية أخذ العينات الزائدة للأقلية الاصطناعية (SMOTE) لضمان إنشاء عينات جديدة بالقرب من مركز العينة، وتجنب إنتاج القيم المتطرفة أو التغييرات في توزيع البيانات. نظرًا لأن النتائج قد تتغير عن طريق تغيير معلمات شبكة الكبسولة (أبعاد الكبسولة ورقم التوجيه)، فقد تم استخدام طريقة التحسين الغاوسي لتحسين هذه المعلمات. تم إجراء أربع تجارب، (1) CapsNet مع مجموعات البيانات غير المتوازنة، (2) CapsNet مع مجموعات بيانات متوازنة بناءً على وزن الفئة، (3) CapsNet مع مجموعات بيانات متوازنة بناءً على SMOTE، و (4) تحسين معلمات CapsNet الفائقة مع مجموعات بيانات متوازنة بناءً على SMOTE. تحسن الأداء وحقق معدل دقة 96.58 ٪ ودرجة F1 - 97.08 ٪، وهو نموذج تنافسي محسّن مقارنة بالنماذج الأخرى ذات الصلة.Translated Description (French)
Résumé La maladie à coronavirus (COVID-19) se propage rapidement dans le monde entier. Des études récentes montrent que les images radiologiques contiennent des données précises pour détecter le coronavirus. Cet article propose un réseau neuronal convolutionnel pré-entraîné (VGG16) avec des réseaux neuronaux à capsules (CapsNet) pour détecter la COVID-19 avec des ensembles de données déséquilibrés. Le CapsNet est proposé en raison de sa capacité à définir des caractéristiques telles que la perspective, l'orientation et la taille. La technique de suréchantillonnage des minorités synthétiques (smote) A été utilisée pour s'assurer que de nouveaux échantillons étaient générés à proximité du centre d'échantillonnage, évitant ainsi la production de valeurs aberrantes ou de changements dans la distribution des données. Comme les résultats peuvent changer en changeant les paramètres du réseau de capsules (dimensionnalité de la capsule et numéro de routage), la méthode d'optimisation gaussienne a été utilisée pour optimiser ces paramètres. Quatre expériences ont été réalisées, (1) CapsNet avec les ensembles de données déséquilibrés, (2) CapsNet avec des ensembles de données équilibrés basés sur le poids de la classe, (3) CapsNet avec des ensembles de données équilibrés basés sur smote et (4) Optimisation des hyperparamètres CapsNet avec des ensembles de données équilibrés basés sur SMOTE. Les performances se sont améliorées et ont atteint un taux de précision de 96,58 % et un score F1 de 97,08 %, un modèle optimisé compétitif par rapport à d'autres modèles connexes.Translated Description (Spanish)
Resumen La enfermedad por coronavirus (COVID-19) se está extendiendo rápidamente por todo el mundo. Estudios recientes muestran que las imágenes radiológicas contienen datos precisos para detectar el coronavirus. Este documento propone una red neuronal convolucional preentrenada (VGG16) con redes neuronales de cápsula (CapsNet) para detectar COVID-19 con conjuntos de datos desequilibrados. CapsNet se propone debido a su capacidad para definir características como la perspectiva, la orientación y el tamaño. Se empleó la técnica de sobremuestreo de minorías sintéticas (STOT) para garantizar que se generaran nuevas muestras cerca del centro de muestras, evitando la producción de valores atípicos o cambios en la distribución de datos. Como los resultados pueden cambiar al cambiar los parámetros de la red de la cápsula (dimensionalidad de la cápsula y número de ruta), se ha utilizado el método de optimización gaussiana para optimizar estos parámetros. Se han realizado cuatro experimentos, (1) CapsNet con los conjuntos de datos desequilibrados, (2) CapsNet con conjuntos de datos equilibrados basados en el peso de la clase, (3) CapsNet con conjuntos de datos equilibrados basados en SMOTE y (4) optimización de hiperparámetros CapsNet con conjuntos de datos equilibrados basados en SMOTE. El rendimiento ha mejorado y ha alcanzado una tasa de precisión del 96,58% y una puntuación F1- del 97,08%, un modelo competitivo optimizado en comparación con otros modelos relacionados.Files
      
        s10586-022-03703-2.pdf.pdf
        
      
    
    
      
        Files
         (3.5 MB)
        
      
    
    | Name | Size | Download all | 
|---|---|---|
| 
          
          md5:9828db9630373e572d6ec2618fc43a68
           | 
        
        3.5 MB | Preview Download | 
Additional details
Additional titles
- Translated title (Arabic)
 - شبكة عصبية ملتفة مدربة مسبقًا مع شبكات كبسولات محسنة لتشخيص كوفيد-19 بالأشعة السينية للصدر
 - Translated title (French)
 - Un réseau neuronal convolutionnel pré-entraîné avec des réseaux de capsules optimisés pour le diagnostic de la COVID-19 par radiographie pulmonaire
 - Translated title (Spanish)
 - Una red neuronal convolucional preentrenada con redes de cápsulas optimizadas para el diagnóstico de COVID-19 por radiografías de tórax
 
Identifiers
- Other
 - https://openalex.org/W4292722432
 - DOI
 - 10.1007/s10586-022-03703-2
 
            
              References
            
          
        - https://openalex.org/W2028798134
 - https://openalex.org/W2112796928
 - https://openalex.org/W2148143831
 - https://openalex.org/W2580087858
 - https://openalex.org/W2914201981
 - https://openalex.org/W2956897601
 - https://openalex.org/W2966661
 - https://openalex.org/W2972332050
 - https://openalex.org/W2977883271
 - https://openalex.org/W3014524604
 - https://openalex.org/W3015538848
 - https://openalex.org/W3017855299
 - https://openalex.org/W3021001507
 - https://openalex.org/W3028488836
 - https://openalex.org/W3030621456
 - https://openalex.org/W3036019546
 - https://openalex.org/W3044240928
 - https://openalex.org/W3048886990
 - https://openalex.org/W3080833865
 - https://openalex.org/W3083753334
 - https://openalex.org/W3091770411
 - https://openalex.org/W3131666147
 - https://openalex.org/W4211049957
 - https://openalex.org/W4213308398
 - https://openalex.org/W4221092042