Published January 1, 2021
| Version v1
Publication
Open
Topic-Driven and Knowledge-Aware Transformer for Dialogue Emotion Detection
- 1. University of Warwick
- 2. Ministry of Education of the People's Republic of China
- 3. Southeast University
Description
Emotion detection in dialogues is challenging as it often requires the identification of thematic topics underlying a conversation, the relevant commonsense knowledge, and the intricate transition patterns between the affective states.In this paper, we propose a Topic-Driven Knowledge-Aware Transformer to handle the challenges above.We firstly design a topic-augmented language model (LM) with an additional layer specialized for topic detection.The topic-augmented LM is then combined with commonsense statements derived from a knowledge base based on the dialogue contextual information.Finally, a transformerbased encoder-decoder architecture fuses the topical and commonsense information, and performs the emotion label sequence prediction.The model has been experimented on four datasets in dialogue emotion detection, demonstrating its superiority empirically over the existing state-of-the-art approaches.Quantitative and qualitative results show that the model can discover topics which help in distinguishing emotion categories.
Translated Descriptions
⚠️
This is an automatic machine translation with an accuracy of 90-95%
Translated Description (Arabic)
يمثل اكتشاف العاطفة في الحوارات تحديًا لأنه يتطلب غالبًا تحديد الموضوعات الأساسية للمحادثة، والمعرفة المنطقية ذات الصلة، وأنماط الانتقال المعقدة بين الحالات العاطفية. في هذه الورقة، نقترح محولًا مدركًا للمعرفة يحركه الموضوع للتعامل مع التحديات المذكورة أعلاه. نقوم أولاً بتصميم نموذج لغوي معزز بالموضوع (LM) مع طبقة إضافية متخصصة للكشف عن الموضوع. ثم يتم دمج LM المعزز بالموضوع مع عبارات منطقية مستمدة من قاعدة معرفية تستند إلى المعلومات السياقية للحوار. أخيرًا، تدمج بنية فك التشفير والتشفير القائمة على المحولات المعلومات الموضعية والمعقولة، وتؤدي التنبؤ بتسلسل تسمية العاطفة. تم اختبار النموذج على أربع مجموعات بيانات في الكشف عن العاطفة للحوار، مما يدل على تفوقه تجريبيًا على أحدث الأساليب الحالية. تُظهر النتائج الكمية والنوعية أن النموذج يمكنه اكتشاف الموضوعات التي تساعد في تمييز فئات العاطفة.Translated Description (French)
La détection des émotions dans les dialogues est difficile car elle nécessite souvent l'identification de sujets thématiques sous-jacents à une conversation, les connaissances pertinentes de bon sens et les modèles de transition complexes entre les états affectifs. Dans cet article, nous proposons un transformateur de connaissances axé sur le sujet pour relever les défis ci-dessus. Nous concevons d'abord un modèle de langage (LM) augmenté par sujet avec une couche supplémentaire spécialisée pour la détection de sujet. Le LM augmenté par sujet est ensuite combiné avec des énoncés de bon sens dérivés d'une base de connaissances basée sur les informations contextuelles du dialogue. Enfin, une architecture d'encodeur-décodeur basée sur un transformateur fusionne les informations topiques et de bon sens et effectue la prédiction de séquence d'étiquette d'émotion. Le modèle a été expérimenté sur quatre ensembles de données dans la détection d'émotion de dialogue, démontrant sa supériorité empirique sur les approches existantes de l'état de l'art. Les résultats quantitatifs et qualitatifs montrent que le modèle peut découvrir des sujets qui aident à distinguer les catégories d'émotion.Translated Description (Spanish)
La detección de emociones en los diálogos es un desafío, ya que a menudo requiere la identificación de temas temáticos subyacentes a una conversación, el conocimiento relevante de sentido común y los intrincados patrones de transición entre los estados afectivos. En este documento, proponemos un Transformador consciente del conocimiento basado en temas para manejar los desafíos anteriores. En primer lugar, diseñamos un modelo de lenguaje aumentado por temas (LM) con una capa adicional especializada para la detección de temas. El LM aumentado por temas se combina con declaraciones de sentido común derivadas de una base de conocimientos basada en la información contextual del diálogo. Finalmente, una arquitectura codificador-decodificador basada en transformadores fusiona la información tópica y de sentido común, y realiza la predicción de la secuencia de etiquetas de emociones. El modelo se ha experimentado en cuatro conjuntos de datos en la detección de emociones por diálogo, demostrando su superioridad empírica sobre los enfoques de vanguardia existentes. Los resultados cuantitativos y cualitativos muestran que el modelo puede descubrir temas que ayudan a distinguir categorías de emociones.Files
2021.acl-long.125.pdf.pdf
Files
(2.1 MB)
| Name | Size | Download all |
|---|---|---|
|
md5:401a756e76fcb0dbef1a66a90055b8ce
|
2.1 MB | Preview Download |
Additional details
Additional titles
- Translated title (Arabic)
- محول يحركه الموضوع والمعرفة للكشف عن العاطفة الحوارية
- Translated title (French)
- Transformateur axé sur les sujets et conscient des connaissances pour la détection des émotions du dialogue
- Translated title (Spanish)
- Transformador basado en temas y consciente del conocimiento para la detección de emociones en el diálogo
Identifiers
- Other
- https://openalex.org/W3176849538
- DOI
- 10.18653/v1/2021.acl-long.125
References
- https://openalex.org/W2033702744
- https://openalex.org/W2130942839
- https://openalex.org/W2146334809
- https://openalex.org/W2187089797
- https://openalex.org/W2188365844
- https://openalex.org/W2507756961
- https://openalex.org/W2547875792
- https://openalex.org/W2594155836
- https://openalex.org/W2761590056
- https://openalex.org/W2885949735
- https://openalex.org/W2950339735
- https://openalex.org/W2962830617
- https://openalex.org/W2963223306
- https://openalex.org/W2963403868
- https://openalex.org/W2963686995
- https://openalex.org/W2963773425
- https://openalex.org/W2963790827
- https://openalex.org/W2963879591
- https://openalex.org/W2964042872
- https://openalex.org/W2964207259
- https://openalex.org/W2964230360
- https://openalex.org/W2964300796
- https://openalex.org/W2964308564
- https://openalex.org/W2964331476
- https://openalex.org/W2965373594
- https://openalex.org/W2965453734
- https://openalex.org/W2970431814
- https://openalex.org/W2970476646
- https://openalex.org/W2971199636
- https://openalex.org/W2996849360
- https://openalex.org/W2997195635
- https://openalex.org/W3030674566
- https://openalex.org/W3035317046
- https://openalex.org/W3049143069
- https://openalex.org/W3098196265
- https://openalex.org/W3098556456
- https://openalex.org/W3098708719
- https://openalex.org/W3098824823
- https://openalex.org/W3205498744