Published April 17, 2024
| Version v1
Publication
Open
Developing trustworthy artificial intelligence: insights from research on interpersonal, human-automation, and human-AI trust
Creators
- 1. Institute of Psychology, Chinese Academy of Sciences
Description
The rapid advancement of artificial intelligence (AI) has impacted society in many aspects. Alongside this progress, concerns such as privacy violation, discriminatory bias, and safety risks have also surfaced, highlighting the need for the development of ethical, responsible, and socially beneficial AI. In response, the concept of trustworthy AI has gained prominence, and several guidelines for developing trustworthy AI have been proposed. Against this background, we demonstrate the significance of psychological research in identifying factors that contribute to the formation of trust in AI. Specifically, we review research findings on interpersonal, human-automation, and human-AI trust from the perspective of a three-dimension framework (i.e., the trustor, the trustee, and their interactive context). The framework synthesizes common factors related to trust formation and maintenance across different trust types. These factors point out the foundational requirements for building trustworthy AI and provide pivotal guidance for its development that also involves communication, education, and training for users. We conclude by discussing how the insights in trust research can help enhance AI's trustworthiness and foster its adoption and application.
Translated Descriptions
⚠️
This is an automatic machine translation with an accuracy of 90-95%
Translated Description (Arabic)
أثر التقدم السريع للذكاء الاصطناعي على المجتمع في العديد من الجوانب. إلى جانب هذا التقدم، ظهرت أيضًا مخاوف مثل انتهاك الخصوصية والتحيز التمييزي ومخاطر السلامة، مما يسلط الضوء على الحاجة إلى تطوير الذكاء الاصطناعي الأخلاقي والمسؤول والمفيد اجتماعيًا. واستجابة لذلك، اكتسب مفهوم الذكاء الاصطناعي الجدير بالثقة مكانة بارزة، وتم اقتراح العديد من المبادئ التوجيهية لتطوير الذكاء الاصطناعي الجدير بالثقة. على هذه الخلفية، نوضح أهمية البحث النفسي في تحديد العوامل التي تساهم في تكوين الثقة في الذكاء الاصطناعي. على وجه التحديد، نقوم بمراجعة نتائج الأبحاث حول الثقة بين الأشخاص والأتمتة البشرية والذكاء الاصطناعي البشري من منظور إطار ثلاثي الأبعاد (أي الوصي والوصي وسياقهم التفاعلي). يجمع الإطار العوامل المشتركة المتعلقة بتكوين الثقة والحفاظ عليها عبر أنواع الثقة المختلفة. تشير هذه العوامل إلى المتطلبات الأساسية لبناء ذكاء اصطناعي جدير بالثقة وتوفر إرشادات محورية لتطويره تتضمن أيضًا التواصل والتعليم والتدريب للمستخدمين. نختتم بمناقشة كيف يمكن للرؤى في أبحاث الثقة أن تساعد في تعزيز موثوقية الذكاء الاصطناعي وتعزيز اعتماده وتطبيقه.Translated Description (French)
Les progrès rapides de l'intelligence artificielle (IA) ont eu un impact sur la société à bien des égards. Parallèlement à ces progrès, des préoccupations telles que la violation de la vie privée, les préjugés discriminatoires et les risques pour la sécurité ont également fait surface, soulignant la nécessité de développer une IA éthique, responsable et socialement bénéfique. En réponse, le concept d'IA digne de confiance a pris de l'importance, et plusieurs lignes directrices pour développer une IA digne de confiance ont été proposées. Dans ce contexte, nous démontrons l'importance de la recherche psychologique dans l'identification des facteurs qui contribuent à la formation de la confiance en l'IA. Plus précisément, nous examinons les résultats de la recherche sur la confiance interpersonnelle, l'automatisation humaine et l'IA humaine du point de vue d'un cadre tridimensionnel (c.-à-d. le fiduciaire, le fiduciaire et leur contexte interactif). Le cadre synthétise les facteurs communs liés à la formation et au maintien de la confiance entre différents types de confiance. Ces facteurs soulignent les exigences fondamentales pour construire une IA digne de confiance et fournissent des conseils essentiels pour son développement qui implique également la communication, l'éducation et la formation des utilisateurs. Nous concluons en discutant de la façon dont les informations issues de la recherche sur la confiance peuvent aider à améliorer la fiabilité de l'IA et à favoriser son adoption et son application.Translated Description (Spanish)
El rápido avance de la inteligencia artificial (IA) ha impactado a la sociedad en muchos aspectos. Junto con este progreso, también han surgido preocupaciones como la violación de la privacidad, el sesgo discriminatorio y los riesgos de seguridad, lo que destaca la necesidad de desarrollar una IA ética, responsable y socialmente beneficiosa. En respuesta, el concepto de IA confiable ha ganado prominencia y se han propuesto varias pautas para desarrollar una IA confiable. En este contexto, demostramos la importancia de la investigación psicológica para identificar los factores que contribuyen a la formación de confianza en la IA. Específicamente, revisamos los hallazgos de la investigación sobre la confianza interpersonal, la automatización humana y la IA humana desde la perspectiva de un marco tridimensional (es decir, el fideicomitente, el fideicomisario y su contexto interactivo). El marco sintetiza factores comunes relacionados con la formación y el mantenimiento de la confianza en diferentes tipos de confianza. Estos factores señalan los requisitos fundamentales para construir una IA confiable y proporcionan una guía fundamental para su desarrollo que también implica comunicación, educación y capacitación para los usuarios. Concluimos discutiendo cómo los conocimientos en la investigación de la confianza pueden ayudar a mejorar la confiabilidad de la IA y fomentar su adopción y aplicación.Files
pdf.pdf
Files
(738.6 kB)
| Name | Size | Download all |
|---|---|---|
|
md5:3cfb50ca688be5f8cc21dce9a693b600
|
738.6 kB | Preview Download |
Additional details
Additional titles
- Translated title (Arabic)
- تطوير ذكاء اصطناعي جدير بالثقة: رؤى من الأبحاث حول الثقة بين الأشخاص والأتمتة البشرية والذكاء الاصطناعي البشري
- Translated title (French)
- Développer une intelligence artificielle digne de confiance : les enseignements de la recherche sur la confiance interpersonnelle, l'automatisation humaine et l'IA humaine
- Translated title (Spanish)
- Desarrollar una inteligencia artificial confiable: conocimientos de la investigación sobre la confianza interpersonal, la automatización humana y la IA humana
Identifiers
- Other
- https://openalex.org/W4394890386
- DOI
- 10.3389/fpsyg.2024.1382693
References
- https://openalex.org/W1467280384
- https://openalex.org/W1574235309
- https://openalex.org/W1592140955
- https://openalex.org/W1967641825
- https://openalex.org/W1973213502
- https://openalex.org/W1975073310
- https://openalex.org/W1979004942
- https://openalex.org/W1984361612
- https://openalex.org/W1994213885
- https://openalex.org/W1994833890
- https://openalex.org/W1995017547
- https://openalex.org/W2004845716
- https://openalex.org/W2009720268
- https://openalex.org/W2010158189
- https://openalex.org/W2017288619
- https://openalex.org/W2020785866
- https://openalex.org/W2032568497
- https://openalex.org/W2034235631
- https://openalex.org/W2035833057
- https://openalex.org/W2044140042
- https://openalex.org/W2045633722
- https://openalex.org/W2048569028
- https://openalex.org/W2063052894
- https://openalex.org/W2090668966
- https://openalex.org/W2093212244
- https://openalex.org/W2093548531
- https://openalex.org/W2094409166
- https://openalex.org/W2100379340
- https://openalex.org/W2109453861
- https://openalex.org/W2110078189
- https://openalex.org/W2110171129
- https://openalex.org/W2115950915
- https://openalex.org/W2118502934
- https://openalex.org/W2123179704
- https://openalex.org/W2135907989
- https://openalex.org/W2142175015
- https://openalex.org/W2143074722
- https://openalex.org/W2162739331
- https://openalex.org/W2169453353
- https://openalex.org/W2188426035
- https://openalex.org/W2470063825
- https://openalex.org/W2472482981
- https://openalex.org/W2595324173
- https://openalex.org/W2723224414
- https://openalex.org/W2789952784
- https://openalex.org/W2792183666
- https://openalex.org/W2795813178
- https://openalex.org/W2806233644
- https://openalex.org/W2886363025
- https://openalex.org/W2904425693
- https://openalex.org/W2913916101
- https://openalex.org/W2929617241
- https://openalex.org/W2942109571
- https://openalex.org/W2947308709
- https://openalex.org/W2954197146
- https://openalex.org/W2966507099
- https://openalex.org/W2968357651
- https://openalex.org/W2970526411
- https://openalex.org/W2981686111
- https://openalex.org/W2991032650
- https://openalex.org/W2996127966
- https://openalex.org/W3001508716
- https://openalex.org/W3008152611
- https://openalex.org/W3013998503
- https://openalex.org/W3032597603
- https://openalex.org/W3033094275
- https://openalex.org/W3033209670
- https://openalex.org/W3046496872
- https://openalex.org/W3046786385
- https://openalex.org/W3048492267
- https://openalex.org/W3048870688
- https://openalex.org/W3063426404
- https://openalex.org/W3081778980
- https://openalex.org/W3082818995
- https://openalex.org/W3085537935
- https://openalex.org/W3091572767
- https://openalex.org/W3093987005
- https://openalex.org/W3095345514
- https://openalex.org/W3098131776
- https://openalex.org/W3111959847
- https://openalex.org/W3120646040
- https://openalex.org/W3121705224
- https://openalex.org/W3124654436
- https://openalex.org/W3125976894
- https://openalex.org/W3134155506
- https://openalex.org/W3153072488
- https://openalex.org/W3158023256
- https://openalex.org/W3158476941
- https://openalex.org/W3163582547
- https://openalex.org/W3163805553
- https://openalex.org/W3165767308
- https://openalex.org/W3172614686
- https://openalex.org/W3176596586
- https://openalex.org/W3186758345
- https://openalex.org/W3200005887
- https://openalex.org/W3201024510
- https://openalex.org/W3202183072
- https://openalex.org/W3206297794
- https://openalex.org/W3207723231
- https://openalex.org/W4200471156
- https://openalex.org/W4221045317
- https://openalex.org/W4225095662
- https://openalex.org/W4239411774
- https://openalex.org/W4245527624
- https://openalex.org/W4283644487
- https://openalex.org/W4298179821
- https://openalex.org/W4307570589
- https://openalex.org/W4308211935
- https://openalex.org/W4310383793
- https://openalex.org/W4311913981
- https://openalex.org/W4317513928
- https://openalex.org/W4317669872
- https://openalex.org/W4379508379
- https://openalex.org/W4385453451
- https://openalex.org/W4387688022
- https://openalex.org/W4392822124