Od września 1939 roku Rymanów znalazł się pod okupacją niemiecką i wcielony został administracyjnie do Generalnego Gubernatorstwa. Wiosną 1940 roku na Terenie majątku Potockich przy obecnej ulicy Osiedle na zlecenie władz niemieckich rozpoczęto budowę obozu. Miał on być pierwotnie miejscem stacjonowania pułku artylerii Wermachtu, a później, tj. po agresji Niemiec na ZSRR latem 1941 roku, stał się więzieniem dla przywożonych tu jeńców z Armii Czerwonej. Przez obóz przewinęło się kilkanaście tysięcy oficerów i żołnierzy, których trzymano w nieludzkich warunkach. Ciasnota, brak urządzeń sanitarnych i opieki medycznej, a przede wszystkim głód i niewolnicza praca powodowały wysoką śmiertelność wśród więźniów.
Późną jesienią 1941 roku wybuchła w rymanowskim obozie epidemia tyfusu plamistego. Dziennie umierało nawet po 100 osób, których ciała grzebano na powstającym właśnie cmentarzu. W wyniku epidemii choroby trwającej do lutego1942 roku zmarło około 8000 jeńców oraz kilkudziesięciu mieszkańców Rymanowa i okolicznych wsi.
Obóz jeniecki w Rymanowie istniał niespełna rok. Ocenia się, że w wyniku nieludzkiego traktowania i tyfusu zmarło ponad 10 000 ludzi.
 Tablica upamiętniająca żołnierzy radzieckich |  Cmentarz żołnierzy radzieckich w Rymanowie |
Nie ma już śladów po obozie. Dziś stoją tu domy i hale fabryczne. Tylko cmentarz jeńców radzieckich zawsze przypominał będzie ten bolesny epizod z wojennej historii Rymanowa.