Piastował również wysokie stanowiska w SLD - był między innymi wiceprzewodniczącym i przewodniczącym tej partii.

Dziesięć lat temu lekarze zdiagnozowali u niego raka prostaty, potem nowotwór dał przerzuty na kręgosłup. Drugiego stycznia polityk trafił w ciężkim stanie do warszawskiego Centrum Onkologii.

Jeszcze niedawno, udzielając ostatniego w swoim życiu wywiadu, dla "Rzeczpospolitej" Józef Oleksy tak podsumował samego siebie - „Żyłem porządnie, starałem się nie wyrządzać ludziom zła, nie krzywdzić ich. Nawet jak byłem w reżimie komuny, unikałem sytuacji, w których bym czegokolwiek nadużył, kogoś sponiewierał. Ja nie mam zawziętych wrogów, przynajmniej tak mi się wydaje”.

W 2012 roku był również gościem "Rozmów pod krawatem" w Radiu Szczecin. W czasie rozmowy opisywał swoją wizję politykę idealnego.

- Polscy politycy stali się wyrobnikami w rzeczywistości bieżącej, mnie to nie odpowiada. Polityk musi być wizjonerem, który rozumie innych ludzi, a jeżeli nie rozumie lub ich nie lubi, to jest już patologia. Ale jeżeli polityk spełnia te wymogi to on nie będzie niecierpliwy i kłótliwy, on będzie zamyślony i zatroskany tym, jak tym ludziom lepiej służyć, skoro już się wziął za ich reprezentowanie - mówił Oleksy.

Józef Oleksy miał 68 lat.