作为把张宗昌调离上海的交换条件，张作霖以苏人治苏为由，把自己的秘书郑谦推荐为江苏省长，没有办法，段祺瑞只得照准。这样，江苏督办是卢永祥，掌军权；省长是郑谦，掌行政。在当时全国所有各省中，都是督办权力大，基本上督办说了算，省长也就是跟跟风、办办事的，但是江苏不一样。卢永祥是依靠奉军的势力做江苏督办的，自己没有军队，原本寄望着南下江苏接管齐燮元的第六师和第十九师，没想到这两师投靠了孙传芳。四个月前自己在浙江的部队又都被孙传芳消化得差不多了，指望他们前来投诚那也是痴心妄想。就这样，一个光杆督办面对一个有奉军全力支持的大帅秘书，其结果可想而知。军政大权基本上都落在郑谦手里，奉军进苏的部队，卢节制不了，也根本调不动。卢想培养自己的嫡系部队，那也行不通，因为财政大权控制在郑谦手里，没钱怎么培养？
张宗昌退出上海和江苏南部后，1925年4月，北京政府任命其为山东军务督办。这样，其部队继续北撤全部进入山东境内。江苏在名义上算是完全归卢永祥所有了，但是别急，张宗昌前脚刚走，张作霖后脚就派了姜登选过来。1925年5月21日，奉军大举入关，姜登选率部进入上海，派邢士廉为上海戒严司令。郑谦的后台更硬了，毕竟以前张宗昌还是奉军的非嫡系部队，这姜登选却是嫡系中的嫡系，与郑谦关系又好，因此奉系对江苏的控制有增无减。日子实在太艰难了，卢永祥好歹也做过一方诸侯，如今有事无事都要向人家请示汇报，没有半点主权，实在太窝囊了。6月下旬，卢称病辞职，终于把自己的苏皖宣抚使和江苏督办职务交了出来。与此同时，安徽督办王辑唐也因为兵少而驾驭不住省内局势，跟着宣布辞职。这样，在张作霖派兵护送卢永祥南下之后的7个月左右，苏皖两地全都落入了奉系之手。段祺瑞此时方才明白，自己为了卢永祥闹腾来闹腾去，开罪了直系不说，还把本来用于牵制奉系的齐燮元赶跑了，苏皖两省也送给了人家。合着自己的折腾只是为他人作嫁衣，人家不但不感谢你，你还得去感谢人家，真是赔了夫人又折兵。但是没有实力支撑的段祺瑞只好忍气吞声。