Published October 13, 2022 | Version v1
Publication Open

Distribution matching and structure preservation for domain adaptation

  • 1. Fuyang Normal University
  • 2. Hefei University of Technology
  • 3. Ministry of Education of the People's Republic of China

Description

Abstract Cross-domain classification refers to completing the corresponding classification task in a target domain which lacks label information, by exploring useful knowledge in a related source domain but with different data distribution. Domain adaptation can deal with such cross-domain classification, by reducing divergence of domains and transferring the relevant knowledge from the source to the target. To mine the discriminant information of the source domain samples and the geometric structure information of domains, and thus improve domain adaptation performance, this paper proposes a novel method involving distribution matching and structure preservation for domain adaptation (DMSP). First, it aligns the subspaces of the source domain and target domain on the Grassmann manifold; and learns the non-distorted embedded feature representations of the two domains. Second, in this embedded feature space, the empirical structure risk minimization method with distribution adaptation regularization and intra-domain graph regularization is used to learn an adaptive classifier, further adapting the source and target domains. Finally, we perform extensive experiments on widely used cross-domain classification datasets to validate the superiority of DMSP. The average classification accuracy of DMSP on these datasets is the highest compared with several state-of-the-art domain adaptation methods.

⚠️ This is an automatic machine translation with an accuracy of 90-95%

Translated Description (Arabic)

يشير التصنيف التجريدي عبر المجالات إلى إكمال مهمة التصنيف المقابلة في مجال مستهدف يفتقر إلى معلومات التسمية، من خلال استكشاف المعرفة المفيدة في مجال مصدر ذي صلة ولكن مع توزيع بيانات مختلف. يمكن أن يتعامل تكييف المجال مع هذا التصنيف عبر المجالات، من خلال الحد من تباعد المجالات ونقل المعرفة ذات الصلة من المصدر إلى الهدف. لاستخراج المعلومات التمييزية لعينات المجال المصدر ومعلومات البنية الهندسية للنطاقات، وبالتالي تحسين أداء تكييف المجال، تقترح هذه الورقة طريقة جديدة تتضمن مطابقة التوزيع والحفاظ على البنية لتكييف المجال (DMSP). أولاً، يقوم بمحاذاة المساحات الفرعية للمجال المصدر والمجال المستهدف على مشعب جراسمان ؛ ويتعلم تمثيلات الميزات المضمنة غير المشوهة للمجالين. ثانيًا، في مساحة الميزة المضمنة هذه، يتم استخدام طريقة تقليل مخاطر البنية التجريبية مع تنظيم تكييف التوزيع وتنظيم الرسم البياني داخل النطاق لتعلم مصنف تكيفي، مما يزيد من تكييف المصدر والمجالات المستهدفة. أخيرًا، نقوم بإجراء تجارب مكثفة على مجموعات بيانات التصنيف عبر المجالات المستخدمة على نطاق واسع للتحقق من تفوق DMSP. متوسط دقة تصنيف DMSP على مجموعات البيانات هذه هو الأعلى مقارنة بالعديد من أحدث طرق تكييف المجال.

Translated Description (French)

La classification inter-domaines abstraite fait référence à l'achèvement de la tâche de classification correspondante dans un domaine cible qui manque d'informations d'étiquette, en explorant des connaissances utiles dans un domaine source connexe mais avec une distribution de données différente. L'adaptation des domaines peut traiter une telle classification inter-domaines, en réduisant la divergence des domaines et en transférant les connaissances pertinentes de la source à la cible. Pour extraire les informations discriminantes des échantillons du domaine source et les informations de structure géométrique des domaines, et ainsi améliorer les performances d'adaptation du domaine, cet article propose une nouvelle méthode impliquant l'appariement de la distribution et la préservation de la structure pour l'adaptation du domaine (DMSP). Tout d'abord, il aligne les sous-espaces du domaine source et du domaine cible sur la variété de Grassmann ; et apprend les représentations de caractéristiques intégrées non déformées des deux domaines. Deuxièmement, dans cet espace de caractéristiques intégré, la méthode de minimisation des risques de structure empirique avec régularisation d'adaptation de distribution et régularisation de graphe intra-domaine est utilisée pour apprendre un classificateur adaptatif, adaptant davantage les domaines source et cible. Enfin, nous effectuons des expériences approfondies sur des ensembles de données de classification inter-domaines largement utilisés pour valider la supériorité du DMSP. La précision de classification moyenne du DMSP sur ces ensembles de données est la plus élevée par rapport à plusieurs méthodes d'adaptation de domaine de pointe.

Translated Description (Spanish)

La clasificación abstracta entre dominios se refiere a completar la tarea de clasificación correspondiente en un dominio de destino que carece de información de etiqueta, explorando conocimientos útiles en un dominio de origen relacionado pero con una distribución de datos diferente. La adaptación de dominios puede abordar dicha clasificación entre dominios, reduciendo la divergencia de dominios y transfiriendo el conocimiento relevante de la fuente al objetivo. Para extraer la información discriminante de las muestras del dominio fuente y la información de la estructura geométrica de los dominios, y así mejorar el rendimiento de la adaptación del dominio, este documento propone un método novedoso que implica el emparejamiento de la distribución y la preservación de la estructura para la adaptación del dominio (DMSP). Primero, alinea los subespacios del dominio de origen y el dominio de destino en la variedad de Grassmann; y aprende las representaciones de características incrustadas no distorsionadas de los dos dominios. En segundo lugar, en este espacio de características integrado, se utiliza el método de minimización de riesgos de estructura empírica con regularización de adaptación de distribución y regularización de gráficos intradominio para aprender un clasificador adaptativo, adaptando aún más los dominios de origen y destino. Finalmente, realizamos extensos experimentos en conjuntos de datos de clasificación de dominios cruzados ampliamente utilizados para validar la superioridad de DMSP. La precisión de clasificación promedio de DMSP en estos conjuntos de datos es la más alta en comparación con varios métodos de adaptación de dominio de última generación.

Files

s40747-022-00887-3.pdf.pdf

Files (1.4 MB)

⚠️ Please wait a few minutes before your translated files are ready ⚠️ Note: Some files might be protected thus translations might not work.
Name Size Download all
md5:95192b004b6cf67ef45967fd71ac6555
1.4 MB
Preview Download

Additional details

Additional titles

Translated title (Arabic)
مطابقة التوزيع والحفاظ على الهيكل لتكييف المجال
Translated title (French)
Correspondance de distribution et préservation de la structure pour l'adaptation du domaine
Translated title (Spanish)
Adaptación de la distribución y preservación de la estructura para la adaptación del dominio

Identifiers

Other
https://openalex.org/W4304806563
DOI
10.1007/s40747-022-00887-3

GreSIS Basics Section

Is Global South Knowledge
Yes
Country
China

References

  • https://openalex.org/W1540155273
  • https://openalex.org/W1594039573
  • https://openalex.org/W1722318740
  • https://openalex.org/W2096943734
  • https://openalex.org/W2100664256
  • https://openalex.org/W2104068492
  • https://openalex.org/W2115403315
  • https://openalex.org/W2131953535
  • https://openalex.org/W2149466042
  • https://openalex.org/W2159570078
  • https://openalex.org/W2194775991
  • https://openalex.org/W2249161032
  • https://openalex.org/W2583367159
  • https://openalex.org/W2616287544
  • https://openalex.org/W2788305286
  • https://openalex.org/W2798681837
  • https://openalex.org/W2801477643
  • https://openalex.org/W2803106019
  • https://openalex.org/W2884771968
  • https://openalex.org/W2910041138
  • https://openalex.org/W2914733877
  • https://openalex.org/W2914951395
  • https://openalex.org/W2963168418
  • https://openalex.org/W2963693396
  • https://openalex.org/W2968584961
  • https://openalex.org/W2969372261
  • https://openalex.org/W2996386983
  • https://openalex.org/W2997064279
  • https://openalex.org/W2998846139
  • https://openalex.org/W3017751871
  • https://openalex.org/W3034632552
  • https://openalex.org/W3047518573
  • https://openalex.org/W3091902759
  • https://openalex.org/W3094117011
  • https://openalex.org/W3125172651