Psychologiczne przyczyny i etyczne konsekwencje antropomorfizowania sztucznej inteligencji

Celem pracy było zbadanie czynników wpływających na antropomorfizowanie przez ludzi sztucznej inteligencji (AI) oraz przedstawienie problemów etycznych wynikających z tego zjawiska. Na początku skupiłam się na przedstawieniu psychologicznych mechanizmów ludzkich, które wywołują antropomorfizm. Teorie próbujące wyjaśnić to zjawisko odnoszą się do ludzkiej ewolucji, mechanizmów poznawczych oraz języka. Następnie przeanalizowałam cechy sztucznej inteligencji, które nasilają to zjawisko – m.in. rozpoznawanie emocji, dostosowywanie odpowiedzi do stanu mentalnego odbiorcy, a w przypadku modeli językowych występuje także sykofancja i tezy o posiadaniu przez nie teorii umysłu. W ostatniej części pracy przedstawiłam etyczne konsekwencje i dylematy, jakie tworzy zjawisko antropomorfizmu AI. Pojawia się pytanie o to, czy relacje ze sztuczną inteligencją mogą być autentyczne oraz czy są jednostronne. To z kolei prowadzi do pytania, czy takie relacje są moralne. Na końcu pracy przedstawiłam zagrożenia wynikające z wykorzystywania ludzkiej zdolności do antropomorfizmu AI oraz sprawdziłam, czy obecne prawo powstrzymuje takie sytuacje. Praca wykazuje, że antropomorfizm jest naturalną ludzką reakcją w interakcji ze sztuczną inteligencją. Twórcy systemów AI często celowo implementują w swoich botach/chatbotach cechy upodabniające je do ludzi w celu łatwiejszej ich obsługi. Antropomorfizowanie AI może prowadzić do powstawania dylematów moralnych, a także zagrożeń, takich jak ograniczanie autonomii użytkowników, nadmierne zaufanie czy utrata prywatności. Ponadto, samo zastosowanie się do obecnych wymagań prawnych (AI Act) nie wystarcza, aby zapobiec wykorzystywaniu ludzkiej zdolności do antropomorfizmu. W celu opracowania skutecznych rozwiązań tego problemu potrzebne są dalsze badania i analizy.

The aim of this paper was to investigate the factors affecting the anthropomorphization of artificial intelligence (AI) by humans and to present the ethical issues resulting from this phenomenon. At the beginning, I focused on the psychological mechanisms behind human anthropomorphism. Theories that explain this behawior are connected to the human evolution, cognitive mechanisms and language. Next, I analyzed the features of AI that increase this phenomenon. These include emotion recognition, adapting answers to the user’s mental state, and, in the case of language models, sycophancy and claims that AI possesses a Theory of Mind. In the final part I presented the ethical consequences and dillemas created by AI anthropomorphism. It raises the question of whether relationships with AI can be authentic and whether they are one-sided. It raises another question: are such relationships moral? Finally, I described the dangers of exploiting the human tendency to anthropomorphize AI and checked if current laws can prevent these situations. The paper shows that anthropomorphism is a natural human reaction when interacting with AI. Developers of AI system often intentionally give their bots and robots human-like features to make them easier to use. Anthropomorphizing AI may lead to moral dilemmas and risks, such as limited user autonomy, misplaced trust and loss of privacy. Besides, current legal regulations (AI Act) are not enough to stop the exploitation of human anthropomorphism. To find effective solutions to this problem, further research and analysis are needed.