Published January 1, 2024
| Version v1
Publication
Open
Pick the Better and Leave the Rest: Leveraging Multiple Retrieved Results to Guide Response Generation
Creators
- 1. Peking University
- 2. Tencent (China)
Description
Significant progress has been made on the Neural Response Generation (NRG) task. However, there still exist great challenges on results' diversity. Compared to the End-to-End generation architecture, the retrieval-based models can usually provide responses with better diversity, although the relevance of results is more difficult to be guaranteed. Consequently, it is natural and reasonable to leverage the advantage of retrieval-based conversation systems to enhance NRG ones so as to generate responses with satisfying diversity and controllable relevance. This paper proposes a deep neural framework to adopt and utilize multiple retrieved responses to guide the End-to-End generation. Especially, a mechanism is designed to pick the more important retrieved results as guidance explicitly. Meanwhile, if all the retrieved results fail to provide sufficient information, the framework also can let the model regress to a regular query-based NRG automatically. According to the thorough experimental comparisons with other retrieval-guided models, our proposed model can better utilize the useful information of retrieved results to generate appropriate and diverse responses.
Translated Descriptions
⚠️
This is an automatic machine translation with an accuracy of 90-95%
Translated Description (Arabic)
تم إحراز تقدم كبير في مهمة توليد الاستجابة العصبية (NRG). ومع ذلك، لا تزال هناك تحديات كبيرة بشأن تنوع النتائج. بالمقارنة مع بنية الجيل من البداية إلى النهاية، يمكن أن توفر النماذج القائمة على الاسترجاع عادة استجابات ذات تنوع أفضل، على الرغم من صعوبة ضمان أهمية النتائج. وبالتالي، من الطبيعي والمعقول الاستفادة من ميزة أنظمة المحادثة القائمة على الاسترجاع لتعزيز أنظمة NRG من أجل توليد استجابات ذات تنوع مرضٍ وأهمية يمكن التحكم فيها. تقترح هذه الورقة إطارًا عصبيًا عميقًا لتبني واستخدام استجابات مسترجعة متعددة لتوجيه الجيل من البداية إلى النهاية. على وجه الخصوص، تم تصميم آلية لاختيار النتائج المسترجعة الأكثر أهمية كدليل صريح. وفي الوقت نفسه، إذا فشلت جميع النتائج المستردة في توفير معلومات كافية، يمكن للإطار أيضًا أن يسمح للنموذج بالتراجع إلى NRG منتظم قائم على الاستعلام تلقائيًا. وفقًا للمقارنات التجريبية الشاملة مع النماذج الأخرى الموجهة بالاسترجاع، يمكن لنموذجنا المقترح الاستفادة بشكل أفضل من المعلومات المفيدة للنتائج المستردة لتوليد استجابات مناسبة ومتنوعة.Translated Description (French)
Des progrès significatifs ont été réalisés dans la tâche de génération de réponse neuronale (NRG). Cependant, il existe encore de grands défis sur la diversité des résultats. Par rapport à l'architecture de génération de bout en bout, les modèles basés sur la récupération peuvent généralement fournir des réponses avec une meilleure diversité, bien que la pertinence des résultats soit plus difficile à garantir. Par conséquent, il est naturel et raisonnable de tirer parti des avantages des systèmes de conversation basés sur la récupération pour améliorer ceux NRG afin de générer des réponses avec une diversité satisfaisante et une pertinence contrôlable. Cet article propose un cadre neuronal profond pour adopter et utiliser de multiples réponses récupérées pour guider la génération de bout en bout. En particulier, un mécanisme est conçu pour choisir explicitement les résultats récupérés les plus importants à titre d'orientation. Pendant ce temps, si tous les résultats récupérés ne fournissent pas suffisamment d'informations, le cadre peut également laisser le modèle régresser automatiquement vers un NRG basé sur une requête régulière. Selon les comparaisons expérimentales approfondies avec d'autres modèles guidés par la récupération, notre modèle proposé peut mieux utiliser les informations utiles des résultats récupérés pour générer des réponses appropriées et diverses.Translated Description (Spanish)
Se ha logrado un progreso significativo en la tarea de Generación de Respuesta Neural (NRG). Sin embargo, todavía existen grandes desafíos en la diversidad de los resultados. En comparación con la arquitectura de generación de extremo a extremo, los modelos basados en la recuperación generalmente pueden proporcionar respuestas con una mejor diversidad, aunque la relevancia de los resultados es más difícil de garantizar. En consecuencia, es natural y razonable aprovechar la ventaja de los sistemas de conversación basados en la recuperación para mejorar los de NRG a fin de generar respuestas con diversidad satisfactoria y relevancia controlable. Este documento propone un marco neuronal profundo para adoptar y utilizar múltiples respuestas recuperadas para guiar a la generación de extremo a extremo. Especialmente, un mecanismo está diseñado para elegir explícitamente los resultados recuperados más importantes como guía. Mientras tanto, si todos los resultados recuperados no proporcionan información suficiente, el marco también puede permitir que el modelo regrese automáticamente a una NRG basada en consultas regulares. De acuerdo con las exhaustivas comparaciones experimentales con otros modelos guiados por recuperación, nuestro modelo propuesto puede utilizar mejor la información útil de los resultados recuperados para generar respuestas apropiadas y diversas.Files
10209242.pdf.pdf
Files
(245 Bytes)
| Name | Size | Download all |
|---|---|---|
|
md5:4ce2f4da4703ac5179aa8dc999715fd5
|
245 Bytes | Preview Download |
Additional details
Additional titles
- Translated title (Arabic)
- اختر الأفضل واترك الباقي: الاستفادة من النتائج المسترجعة المتعددة لتوجيه توليد الاستجابة
- Translated title (French)
- Choisissez le meilleur et laissez le reste : tirer parti de plusieurs résultats récupérés pour guider la génération de réponses
- Translated title (Spanish)
- Elija lo mejor y deje el resto: aprovechamiento de múltiples resultados recuperados para guiar la generación de respuestas
Identifiers
- Other
- https://openalex.org/W4385569533
- DOI
- 10.1109/taslp.2023.3302231