Published January 1, 2023
| Version v1
Publication
Open
A comparison study between different kernel functions in the least square support vector regression model for penicillin fermentation process
- 1. Curtin University Sarawak
Description
Soft sensors are becoming increasingly important in our world today as tools for inferring difficult-to-measure process variables to achieve good operational performance and economic benefits. Recent advancement in machine learning provides an opportunity to integrate machine learning models for soft sensing applications, such as Least Square Support Vector Regression (LSSVR) which copes well with nonlinear process data. However, the LSSVR model usually uses the radial basis function (RBF) kernel function for prediction, which has demonstrated its usefulness in numerous applications. Thus, this study extends the use of non-conventional kernel functions in the LSSVR model with a comparative study against widely used partial least square (PLS) and principal component regression (PCR) models, measured with root mean square error (RMSE), mean absolute error (MAE) and error of approximation (E a ) as the performance benchmark. Based on the empirical result from the case study of the penicillin fermentation process, the Ea of the multiquadric kernel (MQ) is lowered by 63.44% as compared to the RBF kernel for the prediction of penicillin concentration. Hence, the MQ kernel LSSVR has outperformed the RBF kernel LSSVR. The study serves as empirical evidence of LSSVR performance as a machine learning model in soft sensing applications and as reference material for further development of non-conventional kernels in LSSVR-based models because many other functions can be used as well in the hope to increase the prediction accuracy.
Translated Descriptions
⚠️
This is an automatic machine translation with an accuracy of 90-95%
Translated Description (Arabic)
أصبحت أجهزة الاستشعار اللينة ذات أهمية متزايدة في عالمنا اليوم كأدوات لاستنتاج متغيرات العملية التي يصعب قياسها لتحقيق أداء تشغيلي جيد وفوائد اقتصادية. يوفر التقدم الأخير في التعلم الآلي فرصة لدمج نماذج التعلم الآلي لتطبيقات الاستشعار الناعم، مثل انحدار ناقلات دعم المربعات الصغرى (LSSVR) الذي يتواءم بشكل جيد مع بيانات العمليات غير الخطية. ومع ذلك، يستخدم نموذج LSSVR عادةً وظيفة نواة دالة الأساس الشعاعي (RBF) للتنبؤ، والتي أثبتت فائدتها في العديد من التطبيقات. وبالتالي، فإن هذه الدراسة توسع نطاق استخدام وظائف النواة غير التقليدية في نموذج LSSVR مع دراسة مقارنة مقابل نماذج المربع الأصغر الجزئي (PLS) ونماذج انحدار المكون الرئيسي (PCR) المستخدمة على نطاق واسع، والتي تقاس بالخطأ التربيعي لمتوسط الجذر (RMSE)، متوسط الخطأ المطلق (MAE) وخطأ التقريب (E a ) كمعيار للأداء. بناءً على النتيجة التجريبية من دراسة حالة عملية تخمير البنسلين، يتم تخفيض Ea للنواة متعددة الأقطاب (MQ) بنسبة 63.44 ٪ مقارنة بنواة RBF للتنبؤ بتركيز البنسلين. وبالتالي، تفوقت نواة MQ LSSVR على نواة RBF LSSVR. تعمل الدراسة كدليل تجريبي على أداء LSSVR كنموذج للتعلم الآلي في تطبيقات الاستشعار الناعم وكمواد مرجعية لمزيد من التطوير للنوى غير التقليدية في النماذج القائمة على LSSVR لأنه يمكن استخدام العديد من الوظائف الأخرى أيضًا على أمل زيادة دقة التنبؤ.Translated Description (French)
Les capteurs souples sont de plus en plus importants dans notre monde d'aujourd' hui en tant qu'outils pour déduire des variables de processus difficiles à mesurer afin d'obtenir de bonnes performances opérationnelles et des avantages économiques. Les progrès récents dans l'apprentissage automatique offrent la possibilité d'intégrer des modèles d'apprentissage automatique pour les applications de détection douce, telles que la régression vectorielle de support par les moindres carrés (LSSVR), qui s'adapte bien aux données de processus non linéaires. Cependant, le modèle LSSVR utilise généralement la fonction de noyau de la fonction de base radiale (RBF) pour la prédiction, ce qui a démontré son utilité dans de nombreuses applications. Ainsi, cette étude étend l'utilisation de fonctions de noyau non conventionnelles dans le modèle LSSVR avec une étude comparative contre des modèles de régression aux moindres carrés partiels (PLS) et en composantes principales (PCR) largement utilisés, mesurés avec l'erreur quadratique moyenne (RMSE), l'erreur absolue moyenne (MAE) et l'erreur d'approximation (E a) comme référence de performance. Sur la base du résultat empirique de l'étude de cas du processus de fermentation de la pénicilline, l'Ea du noyau multiquadrique (MQ) est abaissé de 63,44 % par rapport au noyau RBF pour la prédiction de la concentration de pénicilline. Par conséquent, le LSSVR du noyau MQ a surpassé le LSSVR du noyau RBF. L'étude sert de preuve empirique de la performance du LSSVR en tant que modèle d'apprentissage automatique dans les applications de détection douce et en tant que matériau de référence pour le développement ultérieur de noyaux non conventionnels dans les modèles basés sur le LSSVR, car de nombreuses autres fonctions peuvent également être utilisées dans l'espoir d'augmenter la précision de la prédiction.Translated Description (Spanish)
Los sensores blandos son cada vez más importantes en nuestro mundo actual como herramientas para inferir variables de proceso difíciles de medir para lograr un buen rendimiento operativo y beneficios económicos. Los recientes avances en el aprendizaje automático brindan la oportunidad de integrar modelos de aprendizaje automático para aplicaciones de detección suave, como la regresión vectorial de soporte de mínimos cuadrados (LSSVR), que se adapta bien a los datos de procesos no lineales. Sin embargo, el modelo LSSVR suele utilizar la función de núcleo de base radial (RBF) para la predicción, lo que ha demostrado su utilidad en numerosas aplicaciones. Por lo tanto, este estudio amplía el uso de funciones de núcleo no convencionales en el modelo LSSVR con un estudio comparativo contra los modelos de mínimos cuadrados parciales (PLS) y regresión de componentes principales (PCR) ampliamente utilizados, medidos con error cuadrático medio (RMSE), error absoluto medio (MAE) y error de aproximación (E a) como punto de referencia de rendimiento. Con base en el resultado empírico del estudio de caso del proceso de fermentación de penicilina, la Ea del grano multicuádrico (MQ) se reduce en un 63.44% en comparación con el grano RBF para la predicción de la concentración de penicilina. Por lo tanto, el núcleo MQ LSSVR ha superado al núcleo RBF LSSVR. El estudio sirve como evidencia empírica del rendimiento de LSSVR como modelo de aprendizaje automático en aplicaciones de detección suave y como material de referencia para un mayor desarrollo de núcleos no convencionales en modelos basados en LSSVR porque también se pueden usar muchas otras funciones con la esperanza de aumentar la precisión de la predicción.Files
matecconf_cgchdrc2022_01025.pdf.pdf
Files
(24 Bytes)
| Name | Size | Download all |
|---|---|---|
|
md5:7624dcbc096921e31a1da610e19a546e
|
24 Bytes | Preview Download |
Additional details
Additional titles
- Translated title (Arabic)
- دراسة مقارنة بين وظائف النواة المختلفة في نموذج انحدار ناقلات الدعم الأقل مربعًا لعملية تخمير البنسلين
- Translated title (French)
- Une étude comparative entre différentes fonctions du noyau dans le modèle de régression du vecteur de support des moindres carrés pour le processus de fermentation de la pénicilline
- Translated title (Spanish)
- Un estudio de comparación entre diferentes funciones del núcleo en el modelo de regresión del vector de soporte de mínimos cuadrados para el proceso de fermentación de penicilina
Identifiers
- Other
- https://openalex.org/W4366216034
- DOI
- 10.1051/matecconf/202337701025
References
- https://openalex.org/W1164930623
- https://openalex.org/W1609311112
- https://openalex.org/W1978996791
- https://openalex.org/W1986795354
- https://openalex.org/W1988748730
- https://openalex.org/W2003656702
- https://openalex.org/W2201252546
- https://openalex.org/W2216444323
- https://openalex.org/W2614728593
- https://openalex.org/W2755602972
- https://openalex.org/W2762605864
- https://openalex.org/W2782404771
- https://openalex.org/W2796358601
- https://openalex.org/W2884168847
- https://openalex.org/W2910507857
- https://openalex.org/W2948010527
- https://openalex.org/W2956383203
- https://openalex.org/W2989162132
- https://openalex.org/W2990506481
- https://openalex.org/W2995319000
- https://openalex.org/W3015790446
- https://openalex.org/W3033765142
- https://openalex.org/W3036643198
- https://openalex.org/W3083888592
- https://openalex.org/W3094908726
- https://openalex.org/W3185736450
- https://openalex.org/W4223635487