W roku 1869 hrabia Karol Wolfgang von Ballestrem wybudował kościół pod wezwaniem Matki Bożej Różańcowej. Pierwszymi duszpasterzami byli Jezuici. W roku 1922 Jezuici zostali wypędzeni.
1 stycznia 1929 roku erygowana została parafia Matki Bożej Różańcowej, wydzielona z parafii św. Józefa
W roku 1983 z części południowej parafii Matki Bożej Różańcowej została wydzielona Parafia św. Piusa X w Rudzie Śląskiej.
12 lutego 1987 roku dekretem Ojca Generała zakonu Jezuitów rozwiązano rezydencję tegoż zakonu przy parafii M.B. Różańcowej i Parafię przejęli księża diecezjalni.

Jak czytamy w książce Antoniego Ratka  “Gdy liczba mieszkańców Rudy osiągnęła blisko 5000, stojący wciąż na czele majoratu hr. Karol Wolfgang Ballestrem, gorliwy katolik, postanowił zbudować kościół aby ułatwić rudzkim katolikom, przeważnie pracownikom jego zakładów przemysłowych spełnianie praktyk religijnych. Rozumiał bowiem, że ludność zamieszkująca Rudę potrzebuje nie tylko pracy i mieszkań lecz także zaspokojenia potrzeb duchowych. Świątynię zlokalizował w ówczesnym centrum miejscowości, w pobliżu dworu i w bezpośrednim sąsiedztwie najstarszej części Rudy, wznoszącej się na terenach otoczonych ulicami: Gutsstrasse (teraz ul. Kościelna) od południa, Schlosstrasse (teraz ul. Marii Skłodowskiej-Curie) od zachodu, Schulstrasse (obecnie ul. Wincentego Janasa) od północy i Hauptsttasse (dzisiaj ul. Wolności) od wschodu.Projekt kościoła i towarzyszących mu budynków opracował budowniczy i mistrz murarski Wachtel z Gliwic. Budowę rozpoczęto w kwietniu 1869 roku. Po poświęceniu fundamentów przez starszego wikarego parafii Biskupickiej ks. Jaroschka, który (dokonał tego aktu w zastępstwie proboszcza Karola Pressfreunda, w tym czasie obłożnie chorego, budowa ruszyła w szybkim tempie. Prowadził ją wykonawca projektu Wachtel, ale pod specjalnym nadzorem dyrektora generalnego dóbr ballestremowskich Andrzeja Vüllersa. Prace budowlane zakończono szczęśliwie, bez wypadku, już na początku listopada tego samego roku! Tak oto został wzniesiony zaledwie w okresie ośmiu miesięcy, ten bezwieżowy, o cechach neogotyckich, pierwszy kościół w Rudzie, o całkowitej długości wewnętrznej (przedsionek + nawa + prezbiterium) 46 i szerokości 14 metrów. Solidne mury zewnętrzne świątyni o grubości 90 centymetrów, wykonane zostały z kamienia łamanego i cegły, której użyto jedynie do budowy filarów przyściennych.”

(Rys historyczny napisany z pomocą książki Antoniego Ratka )