Published January 1, 2018
| Version v1
Publication
Open
Large-scale Exploration of Neural Relation Classification Architectures
Creators
- 1. VNU University of Science
- 2. University of Cambridge
Description
Experimental performance on the task of relation classification has generally improved using deep neural network architectures. One major drawback of reported studies is that individual models have been evaluated on a very narrow range of datasets, raising questions about the adaptability of the architectures, while making comparisons between approaches difficult. In this work, we present a systematic large-scale analysis of neural relation classification architectures on six benchmark datasets with widely varying characteristics. We propose a novel multi-channel LSTM model combined with a CNN that takes advantage of all currently popular linguistic and architectural features. Our 'Man for All Seasons' approach achieves state-of-the-art performance on two datasets. More importantly, in our view, the model allowed us to obtain direct insights into the continued challenges faced by neural language models on this task.
Translated Descriptions
⚠️
This is an automatic machine translation with an accuracy of 90-95%
Translated Description (Arabic)
تحسن الأداء التجريبي في مهمة تصنيف العلاقات بشكل عام باستخدام بنيات الشبكة العصبية العميقة. يتمثل أحد العيوب الرئيسية للدراسات المبلغ عنها في أن النماذج الفردية قد تم تقييمها على نطاق ضيق جدًا من مجموعات البيانات، مما يثير تساؤلات حول قابلية البنى للتكيف، مع إجراء مقارنات بين الأساليب الصعبة. في هذا العمل، نقدم تحليلًا منهجيًا واسع النطاق لبنى تصنيف العلاقات العصبية على ست مجموعات بيانات مرجعية ذات خصائص متباينة على نطاق واسع. نقترح نموذج LSTM جديدًا متعدد القنوات جنبًا إلى جنب مع CNN يستفيد من جميع الميزات اللغوية والمعمارية الشائعة حاليًا. يحقق نهج "Man for All Seasons" الخاص بنا أداءً متطورًا على مجموعتين من البيانات. والأهم من ذلك، من وجهة نظرنا، سمح لنا النموذج بالحصول على رؤى مباشرة حول التحديات المستمرة التي تواجهها نماذج اللغة العصبية في هذه المهمة.Translated Description (French)
Les performances expérimentales sur la tâche de classification des relations se sont généralement améliorées en utilisant des architectures de réseaux neuronaux profonds. Un inconvénient majeur des études rapportées est que les modèles individuels ont été évalués sur une gamme très étroite d'ensembles de données, ce qui soulève des questions sur l'adaptabilité des architectures, tout en rendant les comparaisons entre les approches difficiles. Dans ce travail, nous présentons une analyse systématique à grande échelle des architectures de classification des relations neuronales sur six ensembles de données de référence avec des caractéristiques très variables. Nous proposons un nouveau modèle LSTM multicanal combiné à un CNN qui tire parti de toutes les caractéristiques linguistiques et architecturales actuellement populaires. Notre approche « Man for All Seasons » atteint des performances de pointe sur deux ensembles de données. Plus important encore, à notre avis, le modèle nous a permis d'obtenir des informations directes sur les défis continus auxquels sont confrontés les modèles de langage neuronal dans cette tâche.Translated Description (Spanish)
El rendimiento experimental en la tarea de clasificación de relaciones ha mejorado en general utilizando arquitecturas de redes neuronales profundas. Un inconveniente importante de los estudios informados es que los modelos individuales se han evaluado en una gama muy estrecha de conjuntos de datos, lo que plantea preguntas sobre la adaptabilidad de las arquitecturas, al tiempo que dificulta las comparaciones entre los enfoques. En este trabajo, presentamos un análisis sistemático a gran escala de las arquitecturas de clasificación de relaciones neuronales en seis conjuntos de datos de referencia con características muy variables. Proponemos un novedoso modelo LSTM multicanal combinado con una CNN que aprovecha todas las características lingüísticas y arquitectónicas actualmente populares. Nuestro enfoque 'Man for All Seasons' logra un rendimiento de vanguardia en dos conjuntos de datos. Más importante aún, en nuestra opinión, el modelo nos permitió obtener información directa sobre los desafíos continuos que enfrentan los modelos de lenguaje neuronal en esta tarea.Files
D18-1250.pdf.pdf
Files
(226 Bytes)
| Name | Size | Download all |
|---|---|---|
|
md5:5360980bad11bf9723da89687501effc
|
226 Bytes | Preview Download |
Additional details
Additional titles
- Translated title (Arabic)
- استكشاف واسع النطاق لبنى تصنيف العلاقات العصبية
- Translated title (French)
- Exploration à grande échelle des architectures de classification des relations neuronales
- Translated title (Spanish)
- Exploración a gran escala de arquitecturas de clasificación de relaciones neuronales
Identifiers
- Other
- https://openalex.org/W2890988490
- DOI
- 10.18653/v1/d18-1250
References
- https://openalex.org/W1533861849
- https://openalex.org/W1551842868
- https://openalex.org/W1832693441
- https://openalex.org/W1887754209
- https://openalex.org/W2095705004
- https://openalex.org/W2106191791
- https://openalex.org/W2107598941
- https://openalex.org/W2108706252
- https://openalex.org/W2108745425
- https://openalex.org/W2118978333
- https://openalex.org/W2135192531
- https://openalex.org/W2138627627
- https://openalex.org/W2138768461
- https://openalex.org/W2156876426
- https://openalex.org/W2162931300
- https://openalex.org/W2170189740
- https://openalex.org/W2181042685
- https://openalex.org/W2234895705
- https://openalex.org/W2251622960
- https://openalex.org/W2251756410
- https://openalex.org/W2346452181
- https://openalex.org/W2493916176
- https://openalex.org/W2507883388
- https://openalex.org/W2511500211
- https://openalex.org/W2511964075
- https://openalex.org/W2514172335
- https://openalex.org/W2518463060
- https://openalex.org/W2560748602
- https://openalex.org/W2572908757
- https://openalex.org/W2604372572
- https://openalex.org/W2605089588
- https://openalex.org/W2611162052
- https://openalex.org/W2753023842
- https://openalex.org/W2785001576
- https://openalex.org/W2790602452
- https://openalex.org/W2794309877
- https://openalex.org/W2800535933
- https://openalex.org/W2800726910
- https://openalex.org/W2805089341
- https://openalex.org/W2806882588
- https://openalex.org/W2949563612
- https://openalex.org/W2963021258
- https://openalex.org/W2964059756
- https://openalex.org/W2997617958
- https://openalex.org/W4232078820
- https://openalex.org/W4247663525
- https://openalex.org/W4294214983
- https://openalex.org/W4299912061
- https://openalex.org/W4302549302