Wysiłek władz komunistycznych ZSRR zmierzał do unicestwienia życia religijnego i całkowitej likwidacji struktur organizacyjnych życia religijnego. Dlatego już w 1919 r. do opuszczenia Rosji został zmuszony metropolita mohylewski abp Edward Ropp, a zarządzający archidiecezją wikariusz generalny abp Jan Cieplak został w 1922 r. uwięziony, a następnie w słynnym procesie moskiewskim (21-25 marca 1923 r.) skazany na karę śmierci, którą zamieniono na 10 lat więzienia; w 1924 r. wydalono go do Polski. Próbę ratowania Kościoła katolickiego podjął w 1926 r. papież Pius XI. Za pośrednictwem bp. Michela d’Herbigny SJ zreorganizował dotychczasową administrację.
Na terytorium archidiecezji mohylewskiej utworzone zostały administratury apostolskie. Potajemnie konsekrowano wtedy czterech biskupów, ale przedsięwzięcie nie powiodło się i prawie wszyscy biskupi (z wyjątkiem bp. P.E. Neveu, pozostającego pod opieką ambasady francuskiej) zostali uwięzieni, zesłani, wydaleni z kraju, a jeden rozstrzelany (A. Frison). Należy stwierdzić, że w wyniku prześladowań katoliccy księża zostali wyeliminowani z życia duszpasterskiego, a wielu z nich poniosło śmierć męczeńską. Zamknięte zostały prawie wszystkie kościoły, z wyjątkiem tzw. francuskiego w Moskwie i Leningradzie. Życie religijne zeszło do katakumb. I chociaż Kościół w swoich strukturach przestał prawie istnieć, to jednak wciąż wzrastał w duszach swoich wiernych, na podobieństwo chrześcijan pierwszych wieków: Semen est sanguis christianorum (Tertulian).
W 1990 r. rozpoczął się dla Kościoła w Rosji okres odrodzenia – także w jego strukturach widzialnych. Papież Jan Paweł II utworzył wtedy
(13 kwietnia 1991 r.) dwie administratury apostolskie: w europejskiej części Rosji ( terytorium 4 mln km kw., czyli 40 proc. całej Europy), z siedzibą w Moskwie (na tym terenie było oficjalnie zarejestrowanych sześć parafii, ale tylko dwa kościoły, dwie kaplice i trzech księży), oraz na Syberii, ze stolicą w Nowosybirsku. Kolejna reorganizacja struktur Kościoła w Federacji Rosyjskiej nastąpiła w 1999 r. Wtedy to Jan Paweł II przekształcił jednostki administracyjne w administratury apostolskie Syberii Wschodniej i Syberii Zachodniej (18 maja 1999 r.), z siedzibami odpowiednio w Irkucku i Nowosybirsku, oraz w administratury apostolskie południowoeuropejskiej części Rosji ze stolicą w Saratowie i północnoeuropejskiej części Rosji – w Moskwie (23 listopada 1999 r.). Utworzona też została Konferencja Episkopatu Rosji, której przewodnictwo objął abp Tadeusz Kondrusiewicz; funkcję tę pełnił do 2005 r. (obecnie przewodniczącym jest bp Joseph Werth).
W celu usprawnienia działalności duszpasterskiej Jan Paweł II, decyzją z 11 lutego 2002 r., podniósł administratury apostolskie dla katolików obrządku łacińskiego w Rosji do godności diecezji. Na czele rzymskokatolickiej archidiecezji Matki Bożej z ośrodkiem w Moskwie stanął abp Tadeusz Kondrusiewicz, a ordynariuszami zostali mianowani: diecezji Przemienienia Pańskiego z ośrodkiem w Nowosybirsku bp Josiph Werth, diecezji św. Klemensa z ośrodkiem w Saratowie, bp Klemens Pickel i diecezji św. Józefa z ośrodkiem w Irkucku,
bp Jerzy Mazur (obecnie bp Cyryl Klimowicz). Podniesienie administratur apostolskich do rangi diecezji miało na celu znormalizowanie sytuacji Kościoła katolickiego w Rosji i urzeczywistnienie prawa do wolności sumienia, u którego podstaw leży godność osoby ludzkiej.
Społeczność katolicka Federacji Rosyjskiej na dziś liczy ok. 600 tys. wiernych. Na terytorium Rosji działa 220 parafii katolickich, w których posługę sprawuje 270 księży. Wielkim problemem były i będą w Rosji odległości, i tak np. do dekanatu moskiewskiego, do którego należy m.in. parafia w Permie na Uralu, jedzie się z Moskwy pociągiem 23 godz. Oczywiście nie są to rekordowe odległości. Największe są we wschodniej Syberii.