1917年俄國十月革命後，在遠東地區，白俄軍隊得到日本的幫助，堅持抵抗布爾什維克，直到1922年秋天失敗，俄國內戰結束。斯塔爾克將軍率領一支擁有30艘軍艦的龐大艦隊，將近2000難民逃離海參崴，經過朝鮮元山，於12月5日駛進吳淞口。

雖然到1923年1月艦隊撤往菲律賓，但是有1200名難民獲准登岸，此後又有大批白俄難民逃入中國境內，大部分經過陸路進入已經俄國僑民聚居的哈爾濱，但是也有總數達7000名的俄國難民經過海路陸續逃亡抵滬，其中不乏貴族、將軍。他們大多數來自俄國的遠東地區。

1931年，日本占領東北後，大批哈爾濱白俄日益陷入窘境，由於距離和經濟原因，他們無法前往巴黎和柏林的俄國社區，而上海的經濟發展遠遠優於哈爾濱，作為自由港又無需簽證或工作許可證（第二次世界大戰期間大批猶太人也由於同樣的原因前往上海避難），於是紛紛從哈爾濱轉移到上海。

到1930年代，上海俄僑總數為1.5萬到2萬人。1934年，法租界有俄僑8260人。（公共租界1935年有俄僑3017人）。使上海成為除哈爾濱以外一個重要的俄國人聚居地，同時也構成了上海人數最多的白種人群體。

雖然上海租界是一個相對自由與安全的地方，但是那裡的生存條件還是與白俄難民最初的設想相差甚遠。首先，由於蘇俄政府在1921年廢除了所有政治流亡者的公民身份，他們全都是無國籍者，他們中大部分人所持有的唯一旅行證件，只有國際聯盟簽發的南森護照。與在華的其他外國人不同，他們不享有中外條約賦予的治外法權的特權。

雖然地位較低，經歷了許多困難，上海的俄國社區不僅維持了強大的凝聚力，而且確實開始在經濟上和文化上走向繁榮。到1930年代中葉，他們在上海創辦了2所俄國學校，以及各種各樣的文化和體育俱樂部。上海還擁有《上海柴拉報》（1936年發行量達6000份，在外文報紙中僅次於《字林西報》（North China Daily News）和《大美晚報》（Shanghai Evening Post and Mercury），與《上海泰晤士報》（Shanghai Times）並列第三）、《斯羅沃報》（1936年發行量達5000份）等俄語報紙和俄語廣播電台。當然，俄國東正教也構成上海俄僑生活的一個重要部分。1930年代，他們在法租界還修建了2座美麗的東正教堂：聖母大堂和聖尼古拉斯堂，建築物都保留至今。前者還是東正教上海教區的主教座堂，位於亨利路（新樂路）和勞而東路（襄陽北路）路口西南轉角，緊鄰今日的襄陽公園。後者位於高乃依路（皋蘭路），現在是一個飯店。

白俄在上海虹口提籃橋一帶站穩腳跟後，都設法移居到法租界居住。1920年，法租界僅有210名俄僑，1934年，增至8260人。他們多數居住在法租界中部呂班路、環龍路、金神父路一帶，在霞飛路中段，所謂的小俄羅斯區域，開設服裝店、麵包房、咖啡館，使得霞飛路成為上海最浪漫的一條商業街。

白俄移民中有不少音樂家、舞蹈家和畫家。在他們的帶動下，歌劇、芭蕾舞在上海盛極一時。公共租界工部局和法租界公董局的樂隊成員大部分都是俄國人。1934年，工部局交響樂隊的45名隊員中，有24名為俄國僑民。還有不少俄僑音樂家任教於中國的最高音樂學府——國立上海音樂專科學校。如著名鋼琴家鮑里斯·查哈羅夫(Борис Захаров，1888-1943/畢業自聖彼得堡音樂學院/與普羅科菲耶夫及涅高茲(Генрих Густавович Нейгауз)熟識)旅居上海，於1929年經工部局樂隊首席小提琴富華(後為國立上海音樂專科學校老師)推薦由校長蕭友梅聘請擔任鋼琴科主任，月薪400元（普通教授約為200元）。其他如大提琴科主任舍夫佐夫，聲樂科教授蘇石林等。他們培養了一批出色的中國音樂家。

上海白俄渡過了日本占領的艱難時期，但是在1949年中華人民共和國成立後，上海白俄不得不陸續遷出，經由菲律賓前往美國或澳大利亞等地。上海的俄國建築也沒能逃脫文化大革命的破壞。1966年，畢勛路口為紀念詩人去世一百周年而建的普希金像被紅衛兵打得粉碎，1987年，普希金像得到重建，是中國極為罕見的外國作家紀念物。目前上海白俄及後裔分布於俄國、美國及南美國家。

歷史影響：

由於大多數白俄不具備在上海這個國際城市謀生的最基本的技能—掌握英語，無法在外資企業中得到像樣的職位；由於不通漢語，又不善於從事體力勞動，也無法同中國苦力競爭。有許多俄國難民就依靠妻子或女兒當舞女來維持全家的生計。1935年，國際聯盟還發現在上海，16歲到45歲之間的俄國婦女中，有22%從事賣淫業。其他人，包括男性和女性，則從事犯罪活動。1929年，上海公共租界巡捕房估計有多達85%的上海外國罪犯都是俄國人。

正是因為俄國婦女投身於娛樂業、舞蹈等，當時的城市指南中經常強調上海這座城市的異國情調。許多人尋求成為其他外僑的妻子或情婦，詹姆斯·艾佛瑞（James Ivory）導演的電影《伯爵夫人》（The White Countess ，2005年）就描繪了這種處境。

白俄也對上海造成某些程度的影響，比如東歐及中歐的濃菜湯—羅宋湯這一時期被廣泛傳入上海，這一名稱據說是來自Russian soup的中文音譯（羅宋 = Russian，源自早年上海的洋涇濱英語）。而上海話火腿店，暗指白俄的妓院。這些酒吧妓院在英語世界中被稱作ham shop，暗指有「大腿出售」，被上海人意譯成為「火腿店」。