The Homo Rationalis in the Digital Society: An Announced Tragedy

Niniejsza rozprawa porównuje pojęcia homo rationalis w filozofii i homo oeconomicus w ekonomii. W szczególności, w części I rozprawy twierdzimy, że oba pojęcia są bliskimi substytutami metodologicznymi. W związku z tym wskazujemy, że ograniczenia związane z pojęciem racjonalności ekonomicznej odnoszą się do filozoficznego pojęcia racjonalności. Na tej podstawie badamy związki między pojęciami racjonalności kantowskiej i heglowskiej w filozofii oraz odpowiednio konstruktywistycznym i ekologicznym podejściem do racjonalności w ekonomii. W szczególności pokazujemy, że ograniczenia występujące w obu podejściach do racjonalności w ekonomii odnoszą się do pojęć racjonalności kantowskiej i heglowskiej. Z tego też względu, wprowadzamy pojęcie minimalnej racjonalności globalnej. W skrócie, niniejsze pojęcie wiąże racjonalność osoby z jej zdolnością do dobrego wykorzystania aparatu poznawczego do przetwarzania zmiennych kontekstowych. Na tej podstawie, w części II przedstawiamy dwa testy empiryczne pokazujące, że w eksperymentach filozoficznych działa minimalna racjonalność globalna, ponieważ systematyczne manipulacje zmiennymi kontekstowymi w przewidywalny sposób wpływają na sądy filozoficzne w Dylemacie wagonika oraz w niektórych winietach typu Knobe. W pierwszym przypadku, manipulacja informacjami dostarczanymi badanym w przewidywalny sposób powoduje niespójność sądów. Dokładniej, reakcja osób badanych na szok informacyjny w sposób przewidywalny powoduje niespójność ich sądów. Natomiast w drugim przypadku, nasze wyniki eksperymentalne ujawniają, że Efekt Knoba uaktywnia się tylko wtedy, gdy sprawca działania może być postrzegany jako zły i nieprzyjazny. Ponadto, gdy winiety typu Knobe zawierają probabilistyczne wyniki, efekt Knoba nie uaktywnia się lub jest mniejszy. Z tych powodów twierdzimy, że heurystyka dostępności prawdopodobnie wpływa na osąd w warunkach eksperymentu typu Knobe. Na koniec, w części III, analizujemy ogólne implikacje wyników badań przedstawionych w części II. Przede wszystkim pokazujemy, że gdy algorytmy mediów społecznościowych wytwarzają kaskady dostępności o szerokim zasięgu, agenci w przewidywalny sposób reagują na te kaskady, gromadząc się wokół stronniczych twierdzeń. Co ciekawe, okazuje się, że ekspozycja na podobnie redundantne treści w sieci sprawia, że nowe grupy społeczne powstają bez przeszkód. To dlatego populiści i zwolennicy teorii spiskowych zdobywają tak dużą popularność w sieci. Po drugie, stwierdzamy, że algorytmy mediów społecznościowych obsługiwane przez człowieka mogą wykorzystywać wady minimalnej globalnej racjonalności w szybszym tempie niż ludzie. Jednak biorąc pod uwagę, że algorytmy nie są w stanie zrobić tego samodzielnie, twierdzimy, że Test Turinga jest nadal otwartą dyskusją. Twierdzimy tak w szczególności dlatego, że najnowocześniejsza technologia może żądać dostarczenia usługi (np. Google Duplex), ale nie może prowadzić sprzedaży bezpośredniej. To ograniczenie najnowocześniejszej technologii jest związane z jej niezdolnością do wykorzystania wad globalnej minimalnej racjonalności tak dobrze, jak może to zrobić człowiek. Co ważne, pokazujemy, że gdyby algorytmy były w stanie to zrobić, związane z tym ryzyko społeczno-polityczne byłoby wysokie. Dlatego twierdzimy, że tylko jakaś forma regulacji najnowocześniejszych technologii może zapobiec takiemu ryzyku społeczno-politycznemu i je ograniczyć.

This dissertation compares the notions of homo rationalis in Philosophy and homo oeconomicus in Economics. Particularly, in Part I, we claim that both notions are close methodological substitutes. Accordingly, we show that the constraints involved in the notion of economic rationality also apply to the philosophical notion of rationality. On these premises, we explore the links between the notions of Kantian and Humean rationality in Philosophy and the constructivist and ecological approaches to rationality in economics, respectively. Particularly, we show that the constraints involved in both approaches to rationality in economics apply to the notions of Kantian and Humean rationality. That is why we introduce the notion of minimal global rationality. In a nutshell, the latter links one’s rationality to one’s ability to make good use of their cognitive apparatus to process contextual variables. On this basis, in Part II, we present two empirical tests showing that minimal global rationality is at work in philosophical experiments because systematic manipulations of contextual variables predictably affect philosophical judgment in the Trolley Problem and in some Knobe-like vignettes. In the first case, the manipulation of the information provided to subjects predictably causes inconsistent judgments. More precisely, subjects’ response to information shocks predictably causes them to issue inconsistent judgments. Instead, in the second case, our experimental results reveal that the Knobe Effect activates only if the perpetrator of an action is likely to be perceived as evil and unfriendly. Besides, when the Knobe-like vignettes include probabilistic outcomes, the Knobe Effect does not activate or is reduced in magnitude. For these reasons, we maintain that the availability heuristic bias arguably affects one’s judgment in Knobe-like experiment settings. Eventually, in Part III, we survey the general implications of the findings presented in Part II. First and foremost, we show that when manned social media algorithms produce wide-ranging availability cascades, agents predictably respond to those cascades by herding around biased claims. Interestingly, we find that the exposure to similarly redundant online content makes new social groups emerge unhindered. That is why populists and conspiracy theorists obtain such a large follow-up online. Secondly, we find that manned social media algorithms can exploit the flaws of minimal global rationality at a faster pace than humans can. Yet, given that latter algorithms cannot do so on their own, we argue that the Turing Test is still an open game. Specifically, we argue so because state-of-the-art technology can request a service to be supplied (e.g., Google Duplex) but cannot operate direct sales. This constraint of state-of-the-art technology is linked to its inability to exploit the flaws of global minimal rationality as well as humans can. Importantly, we show that if algorithms were able to do so, the involved sociopolitical risk would be high. Therefore, we argue that only some form of regulation over state-of-the-art technology can prevent and reduce such sociopolitical risks.