Published November 24, 2022
| Version v1
Publication
Open
Inteligência Artificial, moderação de conteúdos no YouTube e a proteção de direitos: características, problemas e impactos políticos
Description
Este artigo tem como principal objetivo caracterizar o papel de sistemas de inteligência artificial na moderação de conteúdos de usuários no YouTube, seus problemas e impactos políticos, especialmente no horizonte da proteção de direitos individuais. A pesquisa utilizou o método de rastreamento de processo, baseado na coleta e análise de dados qualitativos para estabelecer relações causais e compreender como ocorre a moderação de conteúdos na plataforma. Foram analisados 79 textos dentre notas e informações publicadas pela plataforma em seu blog corporativo; documentos de políticas de moderação de conteúdos e relatórios de transparência da empresa. Os resultados demonstram que há uma crescente centralização da Inteligência Artificial (IA) no processo de moderação de conteúdo, transformando a moderação humana em um dispositivo do sistema automatizado. Isso tem gerado um crescimento substancial do número de remoções de conteúdo potencialmente nocivo que traz, por outro lado, efeitos colaterais como o aumento das violações de direitos individuais pela plataforma. Opacidade; acirramento no problema da escala; moderação guiada por princípios comerciais; falhas na captação de contexto; fragilidade nos processos de participação e accountability são outros problemas também identificados
Translated Descriptions
⚠️
This is an automatic machine translation with an accuracy of 90-95%
Translated Description (Arabic)
تهدف هذه المقالة إلى توصيف دور أنظمة الذكاء الاصطناعي في اعتدال محتوى المستخدم على اليوتيوب ومشاكله وآثاره السياسية، خاصة في سياق حماية الحقوق الفردية. استخدم البحث طريقة تتبع العملية، بناءً على جمع وتحليل البيانات النوعية لإنشاء علاقات سببية وفهم كيفية حدوث الإشراف على المحتوى على المنصة. تم تحليل 79 نصًا بين الملاحظات والمعلومات التي نشرتها المنصة على مدونتها المؤسسية ؛ وثائق سياسات الإشراف على المحتوى وتقارير الشفافية للشركة. تُظهر النتائج أن هناك مركزية متزايدة للذكاء الاصطناعي في عملية الإشراف على المحتوى، مما يحول الاعتدال البشري إلى جهاز نظام آلي. وقد أدى ذلك إلى نمو كبير في عدد عمليات إزالة المحتوى الذي يحتمل أن يكون ضارًا، والذي له، من ناحية أخرى، آثار جانبية مثل زيادة انتهاكات الحقوق الفردية من قبل المنصة. الغموض ؛ تكثيف مشكلة الحجم ؛ الاعتدال الذي تسترشد به المبادئ التجارية ؛ الإخفاقات في التقاط السياق ؛ الهشاشة في عمليات المشاركة والمساءلة هي مشاكل أخرى تم تحديدها أيضًاTranslated Description (English)
This article aims to characterize the role of artificial intelligence systems in the moderation of user content on YouTube, its problems and political impacts, especially in the context of the protection of individual rights. The research used the process tracking method, based on the collection and analysis of qualitative data to establish causal relationships and understand how content moderation occurs on the platform. 79 texts were analyzed among notes and information published by the platform on its corporate blog; documents of content moderation policies and transparency reports of the company. The results demonstrate that there is a growing centralization of Artificial Intelligence (AI) in the content moderation process, transforming human moderation into an automated system device. This has generated a substantial growth in the number of removals of potentially harmful content, which has, on the other hand, side effects such as the increase in violations of individual rights by the platform. Opacity; intensification in the problem of scale; moderation guided by commercial principles; failures in capturing context; fragility in the processes of participation and accountability are other problems also identifiedTranslated Description (French)
Cet article vise à caractériser le rôle des systèmes d'intelligence artificielle dans la modération du contenu des utilisateurs sur YouTube, ses problèmes et ses impacts politiques, notamment dans le cadre de la protection des droits individuels. La recherche a utilisé la méthode de suivi des processus, basée sur la collecte et l'analyse de données qualitatives pour établir des relations de causalité et comprendre comment la modération de contenu se produit sur la plateforme. 79 textes ont été analysés parmi les notes et informations publiées par la plateforme sur son blog d'entreprise ; documents de politiques de modération de contenu et rapports de transparence de l'entreprise. Les résultats démontrent qu'il existe une centralisation croissante de l'intelligence artificielle (IA) dans le processus de modération de contenu, transformant la modération humaine en un dispositif de système automatisé. Cela a généré une augmentation substantielle du nombre de suppressions de contenus potentiellement préjudiciables, ce qui a, d'autre part, des effets secondaires tels que l'augmentation des violations des droits individuels par la plateforme. L'opacité ; l'intensification du problème d'échelle ; la modération guidée par les principes commerciaux ; les échecs dans la saisie du contexte ; la fragilité des processus de participation et de responsabilisation sont d'autres problèmes également identifiésTranslated Description (Spanish)
Este artículo tiene como objetivo caracterizar el papel de los sistemas de inteligencia artificial en la moderación del contenido de los usuarios en YouTube, sus problemas e impactos políticos, especialmente en el contexto de la protección de los derechos individuales. La investigación utilizó el método de seguimiento de procesos, basado en la recopilación y análisis de datos cualitativos para establecer relaciones causales y comprender cómo se produce la moderación de contenido en la plataforma. Se analizaron 79 textos entre notas e información publicada por la plataforma en su blog corporativo; documentos de políticas de moderación de contenidos e informes de transparencia de la empresa. Los resultados demuestran que existe una creciente centralización de la Inteligencia Artificial (IA) en el proceso de moderación de contenidos, transformando la moderación humana en un dispositivo de sistema automatizado. Esto ha generado un crecimiento sustancial en el número de eliminaciones de contenido potencialmente dañino, lo que tiene, por otro lado, efectos secundarios como el aumento de las violaciones de los derechos individuales por parte de la plataforma. Opacidad; intensificación en el problema de escala; moderación guiada por principios comerciales; fallas en la captura de contexto; fragilidad en los procesos de participación y rendición de cuentas son otros problemas también identificadosFiles
5719.pdf
Files
(369.8 kB)
| Name | Size | Download all |
|---|---|---|
|
md5:6d91de3760b14cfd0cb1cd4d2a200ea8
|
369.8 kB | Preview Download |
Additional details
Additional titles
- Translated title (Arabic)
- الذكاء الاصطناعي والاعتدال في المحتوى على اليوتيوب وحماية الحقوق: الخصائص والمشاكل والآثار السياسية
- Translated title (English)
- Artificial Intelligence, content moderation on YouTube and the protection of rights: characteristics, problems and political impacts
- Translated title (French)
- Intelligence artificielle, modération de contenu sur YouTube et protection des droits : caractéristiques, problèmes et impacts politiques
- Translated title (Spanish)
- Inteligencia artificial, moderación de contenidos en YouTube y protección de derechos: características, problemas e impactos políticos
Identifiers
- Other
- https://openalex.org/W4313474850
- DOI
- 10.18617/liinc.v18i2.6080