Wpływ sztucznej inteligencji na poczucie bezpieczeństwa cyfrowego obywatela

Niniejsza praca magisterska analizuje wpływ sztucznej inteligencji (AI) na bezpieczeństwo cyfrowe obywatela. Gwałtowny rozwój modeli generatywnych zdemokratyzował dostęp do wyrafinowanych narzędzi perswazji, obniżając koszty i barierę wejścia do świata cyberprzestępczości. Głównym celem badawczym pracy jest identyfikacja nowych zagrożeń socjotechnicznych, ocena skuteczności systemów obronnych opartych na uczeniu maszynowym oraz analiza ram prawnych regulujących tę sferę. W części teoretycznej zrekonstruowano pojęcia uczenia maszynowego, głębokiego oraz przetwarzania języka naturalnego. Sklasyfikowano techniki cyberprzestępcze, w tym manipulacje deepfake oraz ewolucję phishingu. Opisano także transformację systemów obronnych opartych na detekcji anomalii, analizie behawioralnej i predykcji, uwzględniając rolę człowieka jako ostatniej linii obrony. Część badawcza zawiera studium przypadku sporu sądowego, dotyczącego samobójstwa nastolatka w następstwie interakcji z chatbotem. Przeprowadzoną analizę zestawiono z przepisami unijnego aktu o sztucznej inteligencji (AI Act). Badania wykazały istnienie głębokiej luki regulacyjnej. Europejski AI Act wprowadza obowiązki transparentności, lecz nie rozstrzyga kwestii autonomicznego autorstwa wypowiedzi algorytmicznych. Przeprowadzono także badanie ankietowe dot. rozpoznawalności grafik generowanych przez AI, oraz empirycznych zmian w postrzeganiu bezpieczeństwa cyfrowego. Obecne reżimy odpowiedzialności cywilnej za produkt niebezpieczny oraz przepisy prawa karnego pozostają niedostosowane do specyfiki szkód generowanych bezpośrednio przez systemy probabilistyczne. Wnioski wskazują na konieczność wdrażania hybrydowych modeli ochrony, łączących automatyzację techniczną z edukacją i krytycznym myśleniem użytkowników, także wykazano że popularyzacja AI przyczyniała się do załamania wiarygodności Internetu.

This master’s thesis analyses the impact of artificial intelligence (AI) on citizens’ digital security. The rapid development of generative models has democratised access to sophisticated tools of persuasion, lowering the costs and barriers to entry into the world of cybercrime. The main research objective of this thesis is to identify new social engineering threats, assess the effectiveness of machine learning-based defence systems, and analyse the legal framework governing this area. The theoretical section reconstructs the concepts of machine learning, deep learning and natural language processing. Cybercriminal techniques are classified, including deepfake manipulations and the evolution of phishing. The transformation of defence systems based on anomaly detection, behavioural analysis and prediction is also described, taking into account the role of humans as the last line of defence. The research section includes a case study of a legal dispute concerning a teenager’s suicide following an interaction with a chatbot. The analysis was compared with the provisions of the EU’s Artificial Intelligence Act (AI Act). The research revealed a significant regulatory gap. The European AI Act introduces transparency obligations but does not address the issue of autonomous authorship of algorithmic statements. A survey was also conducted on the recognisability of AI-generated graphics and empirical changes in the perception of digital security. Current regimes governing civil liability for dangerous products and criminal law provisions remain ill-suited to the specific nature of the harm caused directly by probabilistic systems. The findings point to the need to implement hybrid protection models, combining technical automation with user education and critical thinking; it has also been demonstrated that the popularisation of AI has contributed to a breakdown in the credibility of the Internet.