Cross-lingual emotion analysis using large language models

dc.abstract.en	In this thesis I consider the problem of multilingual emotion recognition. Primarily, I explore the challenges of performing this task using large language models. For most languages, they are the lack of good quality labelled data and pre-trained emotion classifiers. I investigate two approaches based on transfer learning, to establish whether they could mitigate those issues. That is, I compare direct fine-tuning on each language to sequential fine-tuning and multilingual training. Additionally, I conduct a cross-lingual Part of Speech analysis. I leverage the observed patterns to explore further both the data, and the best-performing model configurations for each language. I chose Twitter as the source of my data, because of its accessibility, topicality and uniqueness in emotional expression. The tweets came from emotion-labelled datasets in seven different languages (Polish, English, Spanish, Indonesian, Arabic, Turkish and Persian). After discussing the results, I outline the limitations and include suggestions for further studies. I hope to emphasize the importance of conducting research on emotion recognition, especially with low-resource languages.
dc.abstract.pl	W tej pracy rozważam problem rozpoznawania emocji w kontekście wielu języków. Przede wszystkim, rozpatruję trudności wynikające z używania do tego zadania dużych modeli językowych. Tymi problemami, dla większości języków, jest brak ręcznie oznaczonych zbiorów danych o wysokiej jakości, a także pretrenowanych klasyfikatorów emocji. Próbuję na dwa sposoby sprawdzić, czy uczenie transferowe może okazać się dobrym rozwiązaniem w tym przypadku. Mianowicie, porównuję bezpośredni fine-tuning dla każdego języka do sekwencyjnego dopasowywania, oraz treningu wielojęzycznego. Dodatkowo, przeprowadzam międzyjęzykową analizę części mowy. Na podstawie zaobserwowanych tam wzorców pogłębiam zarówno zrozumienie samego zbioru danych, jak i uzyskanych wyników w różnych konfiguracjach modeli dla każdego języka. Wybrałam Twittera jako źródło moich danych, ze względu na jego dostępność, aktualność oraz wyjątkowość w wyrażaniu emocji. Wpisy pochodzą ze zbiorów danych oznaczonych emocjami w siedmiu różnych językach (polski, angielski, hiszpański, indonezyjski, arabski, turecki oraz perski). Po dyskusji wyników, przedstawiam napotkane ograniczenia oraz sugestie w kierunku przyszłych badań. W pracy mam nadzieję podkreślić istotność prowadzenia badań nad problemem rozpoznawania emocji, zwłaszcza w kontekście języków z mniejszą ilością zasobów.
dc.affiliation	Uniwersytet Warszawski
dc.affiliation.department	Wydział Psychologii
dc.contributor.author	Rajtor, Magdalena
dc.contributor.promoter	Kobyliński, Łukasz
dc.contributor.promoter	Zubek, Julian
dc.contributor.reviewer	Kobyliński, Łukasz
dc.contributor.reviewer	Zadrożny, Adam
dc.date.defence	2024-09-26
dc.date.issued	2024
dc.date.submitted	2024-09-04
dc.identifier.apd	228226
dc.language	en
dc.language.other	pl
dc.publisher	Uniwersytet Warszawski
dc.rights	ClosedAccess
dc.subject.en	transfer learning
dc.subject.en	emotion classification
dc.subject.en	multilingual
dc.subject.en	Twitter
dc.subject.en	XLM-RoBERTa
dc.subject.pl	uczenie transferowe
dc.subject.pl	klasyfikacja emocji
dc.subject.pl	wielojęzyczne
dc.subject.pl	Twitter
dc.subject.pl	XLM-RoBERTa
dc.title	Cross-lingual emotion analysis using large language models
dc.title.alternative	Analiza emocji pomiędzy językami z wykorzystaniem dużych modeli językowych
dc.type	MasterThesis