Published December 14, 2023
| Version v1
Publication
Open
Continuous Engineering for Trustworthy Learning-Enabled Autonomous Systems
Creators
- Saddek Bensalem1, 2
-
Panagiotis Katsaros3
-
Dejan Ničković4
-
Brian Liao5
- Ricardo Ruiz Nolasco6
-
Mohamed M. Ahmed
- Tewodros A. Beyene7
-
Filip Cano8
- Antoine Delacourt9
-
Hasan Esen5
- Alexandru Forrai10
- Weicheng He1, 2
-
Xiaowei Huang11
- Nikolaos Kekatos3
-
Bettina Könighofer8
-
Michael Paulitsch12
-
Doron Peled13
- Matthieu Ponchant9
-
Lev Sorokin7
-
S. Y. Tong14
- Changshun Wu1, 2
- 1. Verimag
- 2. Université Grenoble Alpes
- 3. Aristotle University of Thessaloniki
- 4. Austrian Institute of Technology
- 5. Denso (Germany)
- 6. RGB Medical Devices (Spain)
- 7. Fortiss
- 8. Graz University of Technology
- 9. Siemens (France)
- 10. Siemens (Netherlands)
- 11. University of Liverpool
- 12. Intel (Germany)
- 13. Bar-Ilan University
- 14. Siemens (Belgium)
Description
Abstract Learning-enabled autonomous systems (LEAS) use machine learning (ML) components for essential functions of autonomous operation, such as perception and control. LEAS are often safety-critical. The development and integration of trustworthy ML components present new challenges that extend beyond the boundaries of system's design to the system's operation in its real environment. This paper introduces the methodology and tools developed within the frame of the FOCETA European project towards the continuous engineering of trustworthy LEAS. Continuous engineering includes iterations between two alternating phases, namely: (i) design and virtual testing, and (ii) deployment and operation. Phase (i) encompasses the design of trustworthy ML components and the system's validation with respect to formal specifications of its requirements via modeling and simulation. An integral part of both the simulation-based testing and the operation of LEAS is the monitoring and enforcement of safety, security and performance properties and the acquisition of information for the system's operation in its environment. Finally, we show how the FOCETA approach has been applied to realistic continuous engineering workflowsfor three different LEAS from automotive and medical application domains.
Translated Descriptions
⚠️
This is an automatic machine translation with an accuracy of 90-95%
Translated Description (Arabic)
تستخدم الأنظمة المستقلة القائمة على التعلم التجريدي (LEAS) مكونات التعلم الآلي (ML) للوظائف الأساسية للتشغيل الذاتي، مثل الإدراك والتحكم. غالبًا ما تكون LEA حرجة للسلامة. يمثل تطوير وتكامل مكونات غسل الأموال الجديرة بالثقة تحديات جديدة تتجاوز حدود تصميم النظام إلى تشغيل النظام في بيئته الحقيقية. تقدم هذه الورقة المنهجية والأدوات التي تم تطويرها في إطار مشروع FOCETA الأوروبي نحو الهندسة المستمرة للمحاسبين القانونيين الجديرين بالثقة. تتضمن الهندسة المستمرة التكرارات بين مرحلتين متناوبتين، وهما: (1) التصميم والاختبار الافتراضي، و (2) النشر والتشغيل. المرحلة (1) تشمل تصميم مكونات غسل الأموال الجديرة بالثقة والتحقق من صحة النظام فيما يتعلق بالمواصفات الرسمية لمتطلباته من خلال النمذجة والمحاكاة. جزء لا يتجزأ من كل من الاختبار القائم على المحاكاة وتشغيل LEAS هو مراقبة وإنفاذ خصائص السلامة والأمن والأداء والحصول على المعلومات لتشغيل النظام في بيئته. أخيرًا، نوضح كيف تم تطبيق نهج FOCETA على سير العمل الهندسي المستمر الواقعي لثلاث LEAS مختلفة من مجالات تطبيقات السيارات والتطبيقات الطبية.Translated Description (French)
Les systèmes autonomes (LEA) basés sur l'apprentissage abstrait utilisent des composants d'apprentissage automatique (ML) pour les fonctions essentielles du fonctionnement autonome, telles que la perception et le contrôle. LES LEA sont souvent critiques pour la sécurité. Le développement et l'intégration de composants de ML fiables présentent de nouveaux défis qui s'étendent au-delà des limites de la conception du système jusqu'au fonctionnement du système dans son environnement réel. Cet article présente la méthodologie et les outils développés dans le cadre du projet européen FOCETA vers l'ingénierie continue de LEA dignes de confiance. L'ingénierie continue comprend des itérations entre deux phases alternées, à savoir : (i) la conception et les tests virtuels, et (ii) le déploiement et l'exploitation. La phase (i) englobe la conception de composants ML fiables et la validation du système par rapport aux spécifications formelles de ses exigences via la modélisation et la simulation. Une partie intégrante des tests basés sur la simulation et de l'exploitation des LEA est la surveillance et l'application des propriétés de sûreté, de sécurité et de performance et l'acquisition d'informations pour le fonctionnement du système dans son environnement. Enfin, nous montrons comment l'approche FOCETA a été appliquée à des flux de travail d'ingénierie continue réalistes pour trois LEA différents des domaines d'application automobile et médicale.Translated Description (Spanish)
Los sistemas autónomos habilitados para el aprendizaje (Lea, por sus siglas en INGLÉS) utilizan componentes de aprendizaje automático (ML, por sus siglas en inglés) para funciones esenciales de la operación autónoma, como la percepción y el control. LAS lea a menudo son críticas para la seguridad. El desarrollo y la integración de componentes de ML confiables presentan nuevos desafíos que se extienden más allá de los límites del diseño del sistema hasta la operación del sistema en su entorno real. Este documento presenta la metodología y las herramientas desarrolladas en el marco del proyecto europeo FOCETA hacia la ingeniería continua de lea confiables. La ingeniería continua incluye iteraciones entre dos fases alternas, a saber: (i) diseño y pruebas virtuales, y (ii) implementación y operación. La fase (i) abarca el diseño de componentes de ML confiables y la validación del sistema con respecto a las especificaciones formales de sus requisitos a través del modelado y la simulación. Una parte integral tanto de las pruebas basadas en simulación como de la operación de LAS lea es el monitoreo y la aplicación de las propiedades de seguridad y rendimiento y la adquisición de información para la operación del sistema en su entorno. Finalmente, mostramos cómo se ha aplicado el enfoque FOCETA a flujos de trabajo de ingeniería continuos realistas para tres lea diferentes de los dominios de aplicaciones automotrices y médicas.Files
978-3-031-46002-9_15.pdf.pdf
Files
(5.2 MB)
| Name | Size | Download all |
|---|---|---|
|
md5:f010bcbd5406bad5ab13dc196689203e
|
5.2 MB | Preview Download |
Additional details
Additional titles
- Translated title (Arabic)
- الهندسة المستمرة للأنظمة المستقلة الجديرة بالثقة القائمة على التعلم
- Translated title (French)
- Ingénierie continue pour des systèmes autonomes d'apprentissage fiables
- Translated title (Spanish)
- Ingeniería Continua para Sistemas Autónomos Habilitados para el Aprendizaje Confiable
Identifiers
- Other
- https://openalex.org/W4389671730
- DOI
- 10.1007/978-3-031-46002-9_15
References
- https://openalex.org/W1535094225
- https://openalex.org/W1547304883
- https://openalex.org/W2126105956
- https://openalex.org/W214267840
- https://openalex.org/W2238711819
- https://openalex.org/W2885332205
- https://openalex.org/W3046764219
- https://openalex.org/W3096990961
- https://openalex.org/W3103557498
- https://openalex.org/W3150454424
- https://openalex.org/W3172091474
- https://openalex.org/W3183338929
- https://openalex.org/W3206830000
- https://openalex.org/W4226058100
- https://openalex.org/W4290715569
- https://openalex.org/W4293272168
- https://openalex.org/W4293399511
- https://openalex.org/W4295850088
- https://openalex.org/W4296823901
- https://openalex.org/W4296900445
- https://openalex.org/W4312391565
- https://openalex.org/W4321231430
- https://openalex.org/W4367591963
- https://openalex.org/W4367664943
- https://openalex.org/W4367665016
- https://openalex.org/W4375868996
- https://openalex.org/W4385730857
- https://openalex.org/W4386574778
- https://openalex.org/W4386585729
- https://openalex.org/W4386609513
- https://openalex.org/W4386998279