经过民国初年风云变幻的政治斗争的磨炼，孙中山的政治眼光更为深邃。正如他自己所说：“由于对人性有更深之理解，兼得以往经验之助，我们应付各种事务之才智已大有长进”。当袁世凯被迫宣布撤销帝制后，孙中山就曾告诫人们，斗争的目标不能仅着眼于袁世凯一人的去留。
1913年3月宋教仁被刺后，孙中山主张武力讨袁，黄兴主张持冷静态度，谋法律解决。其后，孙中山命陈其美、章梓分别在上海、南京起义，黄兴认为孙中山不善用兵，自请挂帅。7月29日，黄兴认为败局已定，离军他走。事后，孙中山认为黄兴出走，导致二次革命失败，因此，对黄兴大为不满。1914年8月14日，他在致美国人戴德律的信中说：“他在第二次革命期间竟然弃南京而逃，曾使我痛失所望。”二次革命失败，革命党人纷纷流亡日本。孙中山、黄兴之间的矛盾进一步发展并加深。
孙中山主张解散本已十分松散的国民党，组织中华革命党，振作精神，“一致猛进”，迅速发动三次革命，以武力推翻袁世凯的统治；黄兴则主张保存国民党，加以整理扩充，宣传党义，培养干部，长期准备。支持孙中山的有陈其美、居正、田桐、戴季陶、谢持等；支持黄兴的有李烈钧、柏文蔚、陈炯明、钮永建、谭人凤、李根源、林虎等。
当时，孙中山认为二次革命失败的原因在于：党员散漫，不统一，不肯服从领袖的命令，因此，在组织中华革命党时，力图加强组织性、纪律性，树立领袖的绝对权威，在誓约中规定：入党者必须“牺牲一己之生命、自由、权利，附从孙先生”，保证“服从命令，尽忠职守”，“如有二心，甘受极刑”，除填写誓约外，还要加盖指模。黄兴、李烈钧等人反对孙中山的这些做法，拒绝加入中华革命党。柏文蔚虽曾一度加入，但不久即不再过问党务；陈炯明在南洋，孙中山几次写信，邀他来日，均置之不理。
中华革命党成立前夕，黄兴虽然远走美国，但祖国的危难仍无时无刻不在他心中萦绕。孙中山也一直惦记着他。
筹安会登台后，袁世凯称帝的野心昭然若揭，黄兴遣长子黄一欧向孙中山面交信函，认为袁将帝制自为，发难机会已到，如有所命，亟愿效力。孙中山再次表示希望黄兴早日去日本，共商反袁事宜。1916年5月，黄兴从美国抵达日本。这时，孙中山已返回国内。他在上海致函黄兴，希望黄兴协助向日本“借购军械之事”。
孙中山目睹护国运动结束后军阀、政客纷争不已，共和制度形同虚设，反动势力日益猖獗，国家一天不如一天，内心十分激愤。当“府院之争”白热化，张勋以调停为名，率兵北上时，孙中山敏锐地看到了复辟阴云的迫近，决定采取切实措施，予以抵制。
6月23日，孙中山主动约见程璧光会商大计。7月1日，张勋策动的帝制复辟丑剧开场，孙中山于3日再邀程璧光等人会商，决定通电全国，南下护法，讨伐叛逆。
7月6日，孙中山乘“海琛号”军舰由上海启程赴广州，组织护法运动。同行者有廖仲恺、朱执信、何香凝、章太炎等人。但孙中山尚未到达广州，复辟丑剧即告结束，而重新掌握北京政府大权的段祺瑞却在宪法研究会的鼓噪下，顽固地拒绝恢复《临时约法》和召集国会。在这种情况下，孙中山便将斗争矛头直指以段祺瑞为代表的北洋军阀。在广州黄埔欢迎会上，孙中山再次指出：“中国共和垂六年，国民未有享过共和幸福，非共和之罪也；执共和国政之人，以假共和之面孔，行真专制之手段也。故今日变乱，非帝政与民政之争，非新旧潮流之争，非南北意见之争，实真共和与假共和之争。”
7月22日，程璧光率海军部分舰只南抵广州，并和第一舰队司令林葆怿通电全国，发表海军护法宣言，提出“拥护约法，恢复国会，惩办祸首”的三项主张。于8月5日到达黄埔，同行者有唐绍仪、汪精卫等。当时控制滇、黔两省的滇系军阀头目唐继尧也为对抗段祺瑞，确保地盘，并向四川扩充势力，于8月11日通电加入护法行列。
由于段祺瑞打败张勋重新掌握政权后，拒绝恢复约法和国会，采纳梁启超建议，准备另行召集“临时参议院”，重新制定国会组织法和选举法，选举新国会，以达到他取消国民党议员占优势的旧国会和废除临时约法的目的，从而引起旧国会议员的不满，他们响应孙中山择地另开国会的号召，纷纷南下赴粤。至8月中旬，到达广州的国会议员已达120余人。
8月18日，孙中山在黄埔公园宴请国会议员，商讨召开国会问题。考虑到来粤议员不足法定人数，决定效法法国大革命前夕第三等级代表举行国民议会的先例，召开“国会非常会议”（俗称“非常国会”）。25日非常国会开幕，31日通过《中华民国军政府组织大纲》13条，规定中华民国为戡定叛乱、恢复《临时约法》，特组织中华民国军政府。军政府设大元帅一人，元帅三人，由国会非常会议分别选举之。《临时约法》的效力完全恢复以前，中华民国之行政权由大元帅行使，大元帅对外代表中华民国，元帅协助大元帅筹商政务。军政府设外交、内务、财政、陆军、海军、交通六部。为了适应护法戡乱的战争需要，军政府没有采纳《临临时约法》规定的内阁制，而采取中华革命党《革命方略》中提出的党、政、军权合一的大元帅制方案，实行军事、内政、外交合一的元首制，体现了孙中山为首的中华革命党人希望通过护法运动建立本党单独执政的资产阶级革命政权的意图。
9月1日非常国会选举孙中山为海陆军大元帅，陆荣廷和唐继尧为元帅。10日，孙中山宣誓就职。同日，非常国会通过了军政府各部总长名单，外交：伍廷芳，财政：唐绍仪，陆军：张开儒，海军：程璧光，内政：孙洪伊，交通：胡汉民，军政府参谋总长：李烈钧，大元帅府秘书长：章太炎。军政府的人事安排，体现了中华革命党人主动与西南实力派以及国民党稳健派合组护法军政府的愿望。但是陆荣廷与唐继尧等追求的是建立护国战争时期军务院那样的合议制政府，按各方实力排定座次，实现他们称霸西南的野心。而军政府却采取了元首制，树立了孙中山在护法政权中的领导地位，他们反而成了配角。所以陆荣廷与唐继尧对军政府的组织原则及选举结果都非常不满，均不肯就元帅职。伍廷芳、唐绍仪、程璧光、李烈钧等国民党稳健派人士为求得与西南实力派的合作，也赞成合议制，故这四人也不肯就职。
海军虽然发表了护法宣言，但与孙中山仍保持着一定的距离，并不完全服从孙中山的领导。他们参加护法的动因，主要是为了拥黎反段和解决军饷问题。程璧光在沪与孙中山会晤时，提出的主要条件就是要保证供给军饷。在得到肯定答复后，才决定参加护法。南下广州后，程璧光被任命为军政府海军总长，但他并不到任。孙中山也派人劝说，并亲自与胡汉民去“海圻舰”请程璧光就职，程仍坚辞不允。程璧光、林葆怿等海军将领，在当时发表的谈话和通电，大多是要求黎元洪复位、陆荣廷出任西南各省护法首领，很少提到拥护孙中山。海军的这种态度，更削弱了孙中山的地位。
军政府成立后，孙中山曾吁求日、美等国给予支持，但毫无结果。军政府曾多次向各国政府发出通电，要求承认它为中华民国合法政府，均遭冷遇。与此同时，日本政府却向北洋政府提供巨额的“西原借款”，资助段祺瑞的“武力统一”，并乘机从北洋政府手中攫夺了更多的侵略权益。
在桂系军阀控制下的广州，追随孙中山抵粤的一批中华革命党成员，很难开展活动。非常国会的议员们，许多人只图个人名位，惟利是趋，并不真正赞成和拥护孙中山的护法主张，在西南军阀的笼络下，他们逐渐成为反对孙中山的帮手。
军政府的成立，标志着护法运动高潮的到来，也标志着南北对峙局面的形成。段祺瑞继承袁世凯武力统一中国的衣钵，决心以北洋武力镇压西南护法，挑起第二次南北战争。其军事战略有两个重点：一是对湖南用兵以制两广，一是对四川用兵以制滇、黔。8月6日，段派出心腹大将傅良佐代替谭延凯为湖南督军；派其内弟吴光新为长江上游总司令兼四川查办使。9月9日傅良佐率北洋军到湘后，即下令免除原同盟会会员、零陵镇守使刘建藩和驻衡阳湘军旅长林修梅的职务。18日，刘、林二人联名通电，宣告“自主”，与海军和西南护法各省一致行动。西南护法各省将湘督易人看作是北洋派进军西南的信号，桂系决定派出桂、粤联军80营援助湖南。
尽管处境不利，孙中山仍竭尽所能，组织护法运动。10月3日，孙中山通令全国，擒拿破坏共和元凶段祺瑞、倪嗣冲等人。湘省护法军组成以程潜为首的湘南总司令部，粤、桂、湘三省护法军的总目标是会攻长沙。此时，段祺瑞也向北洋军下达了讨伐令，傅良佐任命第八师师长王汝贤为湘南司令、第二十师师长范国璋为副司令，分三路讨伐湘南。10月6日，北洋军和湘南护法军在湘潭西倪铺接战，护法战争正式爆发。
南北两军在湘南激战了一个多月。11月14日，直系军阀王汝贤和范国璋不愿为皖系卖命，径直通电议和，撤离衡山前线。20日护法军轻取长沙。段祺瑞对湘用兵以制两广的计划宣告失败，桂系控制了湖南。与此同时，唐继尧为首的滇系为对抗吴光新率领的入川北洋军，也组成滇、黔联军，与孙中山派往四川的中华革命党组织的四川国民军相配合，与北洋军交战，于12月3日攻占重庆，赶走了段祺瑞新任命的四川督军周道刚和四川查办使吴光新。
在其它各省，由中华革命党和国民党人领导组建的护法武装也相继而起，纷纷宣布与西南各省一致行动。规模较大的有湖北襄郧镇守使、鄂军第九师师长黎天才等组织的“湖北靖国军”，在襄阳宣布“自主”；前陕西警备军统领郭坚组织“陕西护法军”，在凤翔宣布“独立”。此外，在山东、河南、浙江、江苏、安徽、福建、甘肃，乃至东北等省区，都先后组织了“护法军”、“靖国军”，宣布“独立”或“自主”，护法战争的烽烟席卷了全国大部分省区。这种形势使孙中山非常振奋，他多次召集军事会议，制定了护法北伐的进兵战略：令桂、滇两军肃清湘、川北军，出师合击武汉，其他各路护法军、靖国军也与桂、滇军会师武汉，然后占领南京，大举北伐，会攻北京。
北洋军在湖南的失败是直、皖两系矛盾分裂的结果，同时又进一步激化了直皖矛盾。直系首领、代总统冯国璋一直同皖系首领段祺瑞争夺北洋派正统地位及北京政府中央大权。护法战争打响后，冯企图借助西南军阀势力对抗皖系，因而暗中主和；且对皖系利用直系军队打头阵的部署深为不满，正因此，王汝贤、范国璋二将在前线擅自停战撤兵，打乱了皖系夺取湖南的战略部署。对此，段祺瑞极为恼火，愤而向冯国璋提出辞职。
冯索性暗示号称“长江三督”的湖北督军王占元、江西督军陈光远、江苏督军李纯于18日发表联名通电，主张南北双方罢兵休战，和平解决南北问题。
11月22日，冯免去国务总理段祺瑞，任王士珍为国务总理，段祺瑞内阁再次倒台，直皖两系公开分裂。25日冯国璋颁布南北停战令。此举在护法阵营内部引起不同的反响。
孙中山始终坚持护法，反对南北调和，在11月18日发表对时局的声明：“舍恢复约法及旧国会外，断无磋商余地。”以程潜为首的湘军将领则要求乘胜攻取岳阳，巩固护法军在湖南的胜利。
然而以扩张实力和地盘为目的的桂、滇两系，在分别控制了湘、川两省后，便不顾孙中山护法运动的宗旨，很快和直系军阀妥协。陆荣廷在11月24日，即冯国璋颁布停战令的前一日，就表示赞成“长江三督”的主和通电，带头发起南北停战。28日又授意广西督军谭浩明以湘粤桂联军总司令名义通令响应冯国璋的停战令，命护法军前敌各军停战。滇系军阀则采取两面派手法，一面慷慨陈词，表示坚决护法，敷衍孙中山；一面又与陆荣廷沆瀣一气，彼此呼应，下令驻川滇军停战。
直系的主和政策引起皖系与北洋主战派的强烈不满。在段祺瑞及其心腹徐树铮的策动下，吉、黑、奉、直、鲁、晋、陕、豫、甘、新、皖、浙、闽13省督军代表分别于1917年12月2日和1918年1月5日，连续召开两次天津会议，强烈要求冯国璋明令讨伐西南。冯被迫让步，于1917年12月15日任命直隶督军曹锟、山东督军张怀芝分别为第一、二路军总司令南下伐湘。18日任命段祺瑞为参战督办，皖系干将段芝贵为陆军总长，让皖系重掌中央军事指挥大权。1918年1月10日，又以参谋部、陆军部名义下达局部讨伐令，令北洋军进攻湖北荆州和襄阳。
1月14日，吴光新率北洋军攻占荆、襄。桂系与湘军看到直系屈从主战派，也向岳阳发动进攻。1月27日护法联军攻克岳阳，俘敌1300余人。
如联军乘北洋军兵力集中荆、襄之机直捣武汉，将会使护法战争出现重大转机。但桂系以保守湘境为满足，按兵不动，并提出“北不攻岳，南不攻鄂”为议和条件，从而丧失攻取武汉、会师北伐的大好时机。
南军夺取岳阳后，北洋主战派气势更凶，胁迫冯国璋于1月30日下达对整个西南的讨伐令，命曹锟、张怀芝和张敬尧统率所部分路进兵。2月中旬，各路北洋军约10万人分别向湘鄂、湘赣边界进军。3月18日，北洋军“后起之秀”、署理第三师师长吴佩孚率部攻占岳阳。
3月23日，冯国璋被迫重任段祺瑞为国务总理，段立即组织北洋军大举南攻，护法军在湖南战场接连失利。
26日，吴佩孚占领长沙。北洋政府旋即任命张敬尧为湖南督军兼署省长，命吴佩孚等部分左、中、右三路向湘南进军。4月24日，吴佩孚率中路军占领衡阳，湖南大部分地区沦于北洋军之手。进攻湖南的第一路总司令曹锟及其部下、署第三师师长吴佩孚本为直系军人，挥师南下后连克岳阳、长沙、衡阳，战功最大，而段祺瑞政府竟把湘督兼省长一职授予皖派嫡系张敬尧，使曹、吴大为不满，直、皖矛盾再度尖锐。
吴佩孚秉承曹锟意旨，占领衡阳后即停步不前。5月底，曹锟擅自回师天津。6月15日直系与桂系代表签订停战协定，息战言和。
桂、滇两系军阀不仅在护法战争中勾结直系罢兵议和，破坏孙中山护法宗旨，而且还拉拢国会中的政学会分子和国民党稳健派破坏护法军政府，排斥孙中山，企图攘夺护法运动的领导权。
1918年1月，桂系军阀勾结滇、粤、湘等省军阀，拉拢非常国会中的政学系议员及革命党 中持不同政见者，发起成立“西南各省护法联合会”，作为西南护法各省的统一组织，陰谋夺取护法战争的领导权，架空广州护法军政府。由于“联合会”不受军政府领导，并议定由岑春煊担任议和总代表，公然主张南北妥协，放弃武装斗争，因而遭到孙中山和国会中部分议员的坚决反对。
政学系议员和旧国民党 中的不坚定分子如吴景濂、褚辅成之流，见以“联合会”取代军政府的陰谋难以得逞，又秉承桂系军阀的旨意，提出了改组军政府的主张，将大元帅制改为总裁合议制，借以排斥孙中山对护法战争的领导权。孙中山坚决反对改组军政府，指出军政府的大元帅制是符合民国约法中“元首政治”这一规定的，改变此制，“与约法相违背”。陈炯明、孙洪伊等也相继通电反对改组军政府。但是，在政学系的活动下，非常国会于1918年5月4日通过了《修正军政府组织法》，决定将大元帅制改为总裁合议制。孙中山当即向非常国会辞去大元帅职，并发表通电揭露西南军阀破坏护法运动的种种罪行，指出：“顾吾国之大患，莫大于武人之争雄。南与北如一丘之貉”。5月20日，非常国会选举唐绍仪、唐继尧、孙中山、伍廷芳、林葆怿、陆荣廷和岑春煊七人为总裁，废除大元帅制。21日，推举岑春煊为主席总裁。同日，孙中山愤而离开广州，前往上海，表示与西南军阀决裂。自此以后，护法军政府完全为军阀官僚所控制，成了与北洋政府妥协的议和机构。
在南方护法军政府内部矛盾激化的同时，北洋政府内部直、皖两大派系之间的矛盾也在发展。1918年8月，吴佩孚等公开通电主张“和平”，反对段祺瑞的“武力统一”政策。护法军政府也复电赞成和平。此后，各地区的战争基本上均已停止。
1918年9月，冯国璋总统任期届满，安福系操纵国会，选举徐世昌为大总统。徐上台后，为了顺应国内外要求和平的空气，免去了段祺瑞国务总理职务。11月16日，对北军前线部队发布停战令，并倡议召开南北和平会议。1919年2月，南北政府代表开始在上海议和。双方代表表面上是讨论恢复约法和旧国会，实际上却在如何划分地盘等问题上进行新的角逐。
