Unsupervised detection of contextualized embedding bias with application to ideology

Unsupervised detection of contextualized embedding bias with application to ideology

We propose a fully unsupervised method to detect bias in contextualized embeddings. The method leverages the assortative information latently encoded by social networks and combines orthogonality regularization, structured sparsity learning, and graph neural networks to find the embedding subspace c...

Mô tả đầy đủ

Chi tiết về thư mục
Những tác giả chính:	Hofmann, V, Pierrehumbert, J, Schütze, H
Định dạng:	Conference item
Ngôn ngữ:	English
Được phát hành:	Journal of Machine Learning Research 2022

Những quyển sách tương tự

Dynamic contextualized word embeddings
Bằng: Hofmann, V, et al.
Được phát hành: (2021)

Leveraging Bias in Pre-trained Word Embeddings for Unsupervised Microaggression Detection
Bằng: Tolúlọpẹ́ Ògúnrẹ̀mí, et al.
Được phát hành: (2022-12-01)

Unsupervised Bitext Mining and Translation via Self-Trained Contextual Embeddings
Bằng: Phillip Keung, et al.
Được phát hành: (2021-03-01)

Forecasting COVID-19 caseloads using unsupervised embedding clusters of social media posts
Bằng: Drinkall, F, et al.
Được phát hành: (2022)

Modeling ideological salience and framing in polarized online groups with graph neural networks and structured sparsity
Bằng: Hofmann, V, et al.
Được phát hành: (2022)

The Reddit Politosphere: a large-scale text and network resource of online political discourse
Bằng: Hofmann, V, et al.
Được phát hành: (2022)

DagoBERT: generating derivational morphology with a pretrained language model
Bằng: Hofmann, V, et al.
Được phát hành: (2020)

Predicting the growth of morphological families from social and linguistic factors
Bằng: Hofmann, V, et al.
Được phát hành: (2020)

A graph auto-encoder model of derivational morphology
Bằng: Hofmann, V, et al.
Được phát hành: (2020)

Unsupervised Modeling of Objects and Their Hierarchical Contextual Interactions
Bằng: Tsuhan Chen, et al.
Được phát hành: (2009-01-01)

Contextualized embeddings for semantic change detection: Lessons learned
Bằng: Andrey Kutuzov, et al.
Được phát hành: (2022-08-01)

(Predictable) performance bias in unsupervised anomaly detectionResearch in context
Bằng: Felix Meissen, et al.
Được phát hành: (2024-03-01)

Unsupervised anomaly detection via dual transformation‐aware embeddings
Bằng: Zhipeng Wang, et al.
Được phát hành: (2022-05-01)

Neural Network Pruning in Unsupervised Aspect Detection based on Aspect Embedding
Bằng: Muhammad Haris Maulana, et al.
Được phát hành: (2022-10-01)

Unsupervised learning of object landmarks by factorized spatial embeddings
Bằng: Thewlis, J, et al.
Được phát hành: (2017)

Contextual semantic embeddings for ontology subsumption prediction
Bằng: Chen, J, et al.
Được phát hành: (2023)

Application of unsupervised clustering model based on graph embedding in water environment
Bằng: Meng Fang, et al.
Được phát hành: (2023-12-01)

Social salience discriminates learnability of contextual cues in an artificial language
Bằng: Rácz, P, et al.
Được phát hành: (2017)

Emotion Detection on Indonesian Tweets Using CNN and Contextualized Word Embedding
Bằng: Heldiansyah, Muhammad Fikri, et al.
Được phát hành: (2022)

CNN Feature-Based Image Copy Detection with Contextual Hash Embedding
Bằng: Zhili Zhou, et al.
Được phát hành: (2020-07-01)

Hate Speech Detection in Indonesian Twitter using Contextual Embedding Approach
Bằng: Guntur Budi Herwanto, et al.
Được phát hành: (2021-04-01)

Embedding quantum into classical: contextualization vs conditionalization.
Bằng: Ehtibar N Dzhafarov, et al.
Được phát hành: (2014-01-01)

Unsupervised land-use change detection using multi-temporal POI embedding
Bằng: Yao, Yao, et al.
Được phát hành: (2024)

Contextual modulation of biases in face recognition.
Bằng: Fatima Maria Felisberti, et al.
Được phát hành: (2010-09-01)

Geographic adaptation of pretrained language models
Bằng: Hofmann, V, et al.
Được phát hành: (2024)

Fully-Unsupervised Embeddings-Based Hypernym Discovery
Bằng: Maurizio Atzori, et al.
Được phát hành: (2020-05-01)

Principal Tensor Embedding for Unsupervised Tensor Learning
Bằng: Claudio Turchetti, et al.
Được phát hành: (2020-01-01)

Unsupervised network embeddings with node identity awareness
Bằng: Leonardo Gutiérrez-Gómez, et al.
Được phát hành: (2019-10-01)

Fast Unsupervised Graph Embedding Based on Anchors
Bằng: YANG Hui, TAO Li-hong, ZHU Jian-yong, NIE Fei-ping
Được phát hành: (2022-04-01)

Unsupervised Named Entity Recognition Using Syntactic and Semantic Contextual Evidence
Bằng: Alessandro Cucchiarelli, et al.
Được phát hành: (2021-03-01)

TransConv: Transformer Meets Contextual Convolution for Unsupervised Domain Adaptation
Bằng: Junchi Liu, et al.
Được phát hành: (2024-05-01)

Quantum device fine-tuning using unsupervised embedding learning
Bằng: van Esbroeck, NM, et al.
Được phát hành: (2020)

Quantum device fine-tuning using unsupervised embedding learning
Bằng: N M van Esbroeck, et al.
Được phát hành: (2020-01-01)

Contextual Biasing for End-to-End Chinese ASR
Bằng: Kai Zhang, et al.
Được phát hành: (2024-01-01)

Implicit prosody and contextual bias in silent reading
Bằng: Kate McCurdy, et al.
Được phát hành: (2013-07-01)

Approximate personalized propagation for unsupervised embedding in heterogeneous graphs
Bằng: Chen, Yibi, et al.
Được phát hành: (2022)

Unsupervised spatially embedded deep representation of spatial transcriptomics
Bằng: Hang Xu, et al.
Được phát hành: (2024-01-01)

Unsupervised online multitask learning of behavioral sentence embeddings
Bằng: Shao-Yen Tseng, et al.
Được phát hành: (2019-06-01)

Unsupervised Word Sense Disambiguation Using Word Embeddings
Bằng: Behzad Moradi, et al.
Được phát hành: (2019-11-01)

Unsupervised Learning of Paragraph Embeddings for Context-Aware Recommendation
Bằng: Jin Xie, et al.
Được phát hành: (2019-01-01)