擊潰張勳復辟後，孫中山呼籲回到憲政，恢復1912年臨時約法，恢復1917年5月被軍政府解散的議會。段其瑞及其支持者認為舊議會已過時，應重新選舉產生新議會。眼看1911年革命成果被北洋軍閥串奪，孫中山呼籲中國人民團結在他的周圍，復興革命精神，第一個回應者是海軍將領陳將軍，他用軍艦將孫中山及其追隨者運至廣州；孫中山要求舊議會議員前往廣州，約130位舊議員回應，他們廣州組建了特別議會；8月底通過中華軍政府組織條例，選舉孫中山任大元帥，雲南軍閥盧永庭和廣東軍頭唐詩堯任副元帥。1917年9月10日 中華軍政府正式成立，宣稱其目的是推翻北方軍閥。南、北政府實際上對各地四分五裂的地方軍閥均無實際控制力。廣東軍政府是雲南，廣東，廣西，貴州的鬆散聯盟，四川和湖南亦不時與南方政府結盟。南方與北方政府一樣，亦無真正意義上的統一，妒忌和陰謀充斥。雲南和貴州是唐詩堯的私人領域，他的主要利益在於擴充 其影響力；盧永庭是廣東和廣西的軍頭，即便孫中山的大本營廣州也控制在廣西軍閥手中。在此種情況下，孫中山步履維艱處處受阻。欲達到他的目的，必須有一支 受他指揮和控制的可靠忠誠的軍隊。1917年11月日廣東都督朱清蘭同意撥給孫中山20個營的廣東員警，重組成廣東軍，孫中山將其置歸陳炯明指揮。

段其瑞視廣東政府為叛亂行為，決定用軍隊鎮壓孫中山的軍政府。段其瑞派吳廣新任副代總司令，從長江流域進攻南方政府，但在吳調集軍隊進軍重慶之前，四川軍第 五師熊克武部繳了吳軍的械，吳隻身逃到船上，丟掉了全部武器和彈藥。北洋軍在湖南的軍事行動順利得多，眼看似乎就要攻入兩廣之際，北京馮國章發難，因為馮國章反對以武力統一中國。他無力反對制約段其瑞，故煽動直系軍主要將領反對武力統一。1917年11月13日長江流域三個重要的都督呼籲和平解決南北爭議。次日湖南前線兩個主要將領加入和平呼籲，因此似乎勝利在望的反南方軍政府的戰爭迅速瓦解。湖南亦落入南方軍手中。這對段其瑞的威望是致命的打擊，故他於11月15日遞交辭呈。但段辭職不到一個月，不少各省軍頭聚集天津，要求立即啟動另一場反南方政府的戰爭。徐書增從中操縱，導致直系軍與皖系軍閥爭奪戰爭領導權。

1918年1月親南方政府的湖南軍頭曹恒蒂對北方軍發動進攻，段其瑞及其追隨者趁機反攻；段第五次任總理，段之軍事統一夢眼看又有希望，但其註定失敗的命運卻不可逆轉。北洋軍第三師打得順心順手，業已插入敵方陣地，卻突然收手。因為日後成為中國著名軍事領袖的吳佩俘與曹恒蒂簽定了一份互不侵犯協定。

南方國民黨議員也非團結一致。有些國民黨人亦反對孫中山，政學會陰謀反孫。1918年4月唐詩堯和盧永庭秘密與馮國章接觸，進而提出建議要求重組軍政府。5月4日孫中山向議會遞交辭去大元帥的辭呈，隨即南方軍政府廢除大元帥職位，由一個七人委員會取代。孫中山的敵人為了羞辱他，故意選舉了一個前清庭舊官員任該委員會主任。孫暗然離開廣東至日本短息後回到上海，花了兩年時間寫其政治理論。

1918年北方經新的大選，產生了新議會。其成員多為段其瑞的安徽幫的安福俱樂部成員。10月馮國章總統任期屆滿，徐世昌當選總統，徐是傳統學者和舊官僚出身，他是袁世凱的密友，他當選總統主要是安福系的功勞，段因此有足夠的理由希望徐世昌支持他的武力統一中國。

段其瑞辭總理職但仍保留參戰委員會主任職位。但徐世昌並非任人擺佈的工具，他力主和平政治解決國內紛爭而反對武力統一。
1918年11月11日徐世昌總統下令北洋軍停止所有對南方政權的敵對行動，同時南方軍政府亦下令停戰。1918年12月3日日本新內閣宣佈：在中國統一以前不再向中國提供貸款和軍備。1919年2月南北雙方代表在上海舉行和平談判。