A Dynamical Systems Perspective on the Role of Persistence in Processing vs. Learning
A Dynamical Systems Perspective on the Role of Persistence in Processing vs. Learning
Abstrakt (PL)
Koszty przełączania — wolniejsze i mniej dokładne reakcje po zmianie zadania — są zwykle przypisywane utrzymywaniu się reprezentacji poprzedniego zadania i traktowane jako ograniczenie. Argumentuję, że to zjawisko pełni również określoną funkcję. Ponieważ nagroda zazwyczaj pojawia się już po ustaniu wskazówki, reprezentacja zadania musi pozostawać aktywna, aby sygnał nagrody mógł do niej dotrzeć; utrzymywanie reprezentacji jest zatem warunkiem koniecznym przypisywania zasługi (credit assignment), a nie ubocznym kosztem. Testuję tę hipotezę w rekurencyjnym, dwujednostkowym modelu przełączania zadań Musslicka i Bizyaevej (2024), uzupełnionym o stałą czasową oraz regułę uczenia opartą na błędzie predykcji. Podtrzymywanie reprezentacji jest manipulowane dwiema drogami: poprzez rekurencyjną wagę pobudzającą, która przekształca krajobraz energetyczny, oraz poprzez stałą czasową, która spowalnia dynamikę bez przesuwania punktów stałych. W obu przypadkach dłuższe utrzymywanie reprezentacji prowadzi do większych aktualizacji wartości przy opóźnionej nagrodzie, a korzyść ta rośnie wraz z wydłużaniem opóźnienia. Koszty przełączania rosną wraz ze wzrostem utrzymywania się reprezentacji, jednak uczenie je kompensuje, a na drodze rekurencyjnej wagi pobudzającej — odwraca. Koszty przełączania mogą więc stanowić cenę za zachowanie zdolności uczenia się na podstawie opóźnionych nagród.
Abstrakt (EN)
Switch costs — slower, less accurate responses when the task changes — are usually attributed to the persistence of the preceding task representation and treated as a limitation. I argue that this persistence also serves a function. Because reward typically arrives after the cue has gone, a task representation must still be active for the reward signal to reach it; persistence is therefore a precondition for credit assignment rather than an incidental cost. I test this in a recurrent two-unit model of task switching, extending the model of Musslick and Bizyaeva (2024) with a time constant and a prediction error learning rule. Persistence is varied along two routes: the recurrent excitatory weight, which reshapes the energy landscape, and the time constant, which slows the dynamics without moving the fixed points. Along both, greater persistence produces larger value updates under delayed reward, and the advantage grows with the delay. Task-switching performance declines as persistence increases, but learning offsets this cost and, under the excitatory-weight route, reverses it. Switch costs may thus be the price of remaining able to learn from delayed outcomes.
Rola stabilności w uczeniu vs. przetwarzaniu w perspektywie systemów dynamicznych