3月初，由于日軍偷襲瀏河登陸，中國軍隊被迫退守第二道防線。3月3日，日軍司令官根據其參謀總長的電示，發表停戰聲明。同日，國聯決議中日雙方下令停戰。24日，在英領署舉行正式停戰會議。

中國代表為外交部次長郭泰祺、軍事代表戴戟、黃強等七人，日本代表為駐中國公使重光葵、軍事代表植田、田代等九人.英、美、法等公使和武官也列席了會議。談判中雙方爭論之點頗多，而在日軍撤退時間、地點問題上尤為激烈。27日，蘭普森對各款提出折衷方案五條。28日至30日雙方連續討論無結果，會議陷于停頓。中國遂將上述問題提交國聯特別委員會解決。4月19日，國聯特委會通過決議草案十四條，但日方對于其中第十一條聯合委員會職權之規定，陸軍認為干犯了統帥權，表示堅決反對。經蘭普森的調解，提出折衷方案，日本代表才以在投票時棄權，表示默認。于是30日在國聯大會上，將蘭普森修改的決議草案通過。 由此，中日停戰協定得以在5月5日予上海簽訂。

淞滬停戰協定的主要內容是： 第一條，中國及日本當局，既經下令停戰，茲雙方協定，自中華民國二十一年五月五日起，確定停戰．雙方軍隊盡其力之所及，在上海周圍，停止一切及各種敵對行為。關于停戰情形，遇有疑問發生時，由與會友邦代表查明之。

第二條，中國軍隊，在本協定所涉及區域內之常態恢復，未經決定辦法以前，留駐昆山、蘇州一線。 第三條，日本軍隊撤退至公共租界暨虹口方面之越界筑路區，一如中華民國二十一年一月二十八日事變之前。但鑒于須待容納之日本軍隊人數，有若干部隊，可暫時駐扎于上述區域之毗連地方。

第四條，為證明雙方之撤退起見，設立共同委員會，列入與會友邦代代為委員。該委員會并協助布置撤退之日本軍隊與接管之中國警察間移交事宜，以便日本軍隊撤退時，中國警察立即接管。 第五條，本協定自簽字之日起，發生效力。

“協定”之二、三、四條均有“附件”。

“附件一”規定中國軍隊駐扎之具體地點；“附件二”規定日本軍隊駐扎和可以使用之地區；附件三”規定共同委員會之組成。

中國代表在宣讀《協定》條文時，發出兩次聲明，但并未作為附件而附屬于《協定》文件之內。中國的聲明，一是關于《協定》第二條的聲明，說中國方面在停戰會議討論此條時，曾聲明：“雙方了解，本協定內，對于中國軍隊在其領土內之調動，并不含有任何永久之限制”。并說：“當時雙方同意，此項聲明于該項會議時業經接受。”而是關于《協定》第三條的聲明，說：“雙方了解，按照第三條，日軍暫駐區域內之市行政權，包括警察權在內，仍由中國當局行使之。日軍之暫用該項地點，于上海市政府之工作，不得有任何妨害。”此外，中國政府同日在南京發表了一個有關《協定》的書面聲明，宣布將設置特別警察隊，以維持臨近上海租界的撤兵區域內的治安與秩序。

日軍的撤退分為四批實施。第一批自5月6日起，日軍主力部隊向連接獅子林—楊行—大場—真如之線以東地區撤退。第二批至5月9日中午止，撤出嘉定、南翔、瀏河等地。第三批，至5月10日中午，撤出羅店。第四批，從獅子林—楊行—大場—真如之線全部撤退。5月12日中國首都保安隊接管閘北，19日接管江灣，23日接管真如，24日京滬鐵路恢復全線通車，同日接管吳淞炮臺。5月31日，日軍除海軍陸戰隊及憲兵共2500人以外，全部撤離上海。中國調北平保安隊1000人由瑞士教練統帶赴上海維持治安，另派國軍第二軍精銳步兵2營駐淞滬警備司令部所在地龍華。至6月17日，淞滬鐵路以東、沙涇港以西、公共租界以北，虹口方面越界筑路周圍地域的日軍海軍陸戰隊，全部撤入越界筑路地域以內。至此，除《停戰協定》所允許日軍暫駐的丁區（閘北日本墳山）內的警察權尚未恢復外，所有日軍退出地區，完全恢復上海市政府的行政區與警察權。至7月17日，日軍最后撤離丁區，由中國方面派保安隊予以接收。至此，日軍全部撤出公共租界和虹口越界筑路以外之地區，全面恢復“一二八事變”前之原狀。