馬邑在現在的山西省朔州市。“馬邑之謀”是當地一個叫聶壹的土豪獻給王恢的計謀。王恢在和韓安國的第二次辯論中，適時將其拋出，最終促使漢武帝下定了對匈奴動武的決心。元光二年(公元前133年)六月，正值仲夏時節，漢武帝部署了對匈奴作戰的計劃，派出了“五大將軍”：御史大夫韓安國為護軍將軍，衛尉李廣為驍騎將軍，太仆公孫賀為輕車將軍，大行令王恢為將屯將軍，太中大夫李息為材官將軍。具體部署如下：韓安國、李廣和公孫賀三虎將率漢朝的主力部隊呈品字形埋伏在馬邑附近的山谷里，主要任務是等匈奴大兵進入山谷后，發動致命一擊;王恢和李息率軍埋伏在馬邑之外，主要任務是“關門”，斬斷匈奴大兵的后路，來個甕中捉鱉。

負責請君入甕的，正是獻計人聶壹。聶壹按照王恢的部署，扮成經商的大老板來到匈奴，并在夾縫中找到機會，向匈奴的軍臣單于毛遂自薦。軍臣單于對聶壹很感興趣，于是召見了他。雙方一見面，寒暄一番后，聶壹直奔主題，說，我有一件很貴重的禮物要送給您——我可以把馬邑縣的縣令、縣丞殺死，將整座馬邑城獻給大王。事成之后，大王只需分一份財產給我，并允許我在那里自由經商就行了。軍臣單于求之不得，立即與聶壹成交，里應外合。

接下來，好戲上演了。聶壹快馬加鞭地趕回馬邑，砍了兩個死囚的頭，然后掛在城頭上，請匈奴的使者來觀看。匈奴使者經過一番現場勘查后，馬上向軍臣單于報告：聶壹殺死了縣令和縣丞。

聽了使者的話，軍臣單于二話不說，馬上開始“外合”。他征調各地匈奴精兵于麾前，然后親自率領大隊人馬向馬邑一路狂奔而來。當匈奴大軍到達漢朝邊界的武州(今山西省左云縣南)，距離馬邑只有一百多里路時，軍臣單于突然叫部隊停下來，因為他發現了一個奇怪的現象：牛兒還在山坡吃草，放牛的卻不知道哪兒去了。四處的山岡上明明有成群結隊的牛羊，但卻沒有一個人影。這里太安靜了，安靜得簡直讓人壓抑。這和他們以前來打家劫舍時百姓四處逃跑、牛羊八方逃竄的熱鬧場面大相徑庭啊。

軍臣單于心生疑竇后，馬上掉轉馬頭，直撲雁門郡。結果可想而知，軍臣單于打了漢軍一個措手不及，雁門郡不費吹灰之力便被他們拿下了。

雁門郡尉史面對軍臣單于的嚴刑逼供，供出了馬邑之謀。軍臣單于驚恐之余馬上撤了軍，邊撤邊對尉史說道：“吾得尉史，乃天也！”(《史記·韓長孺列傳》)。意思就是我能夠得到漢朝的尉史，這是冥冥之中的天意啊。為了感謝尉史識時務的招供，軍臣單于還將他封為天王。與尉史賣國求榮的“上天”相比，王恢卻不幸入了地獄。軍臣單于在率軍火速撤軍時，唯一能阻止他們的人便是王恢。

其實，匈奴的一舉一動都在負責“關門”的王恢眼里。當看到軍臣單于向馬邑步步靠近時，他心里頭那個美，但是，當匈奴大軍在武州突然轉身往回走時，王恢不由得僵住了。這時他面臨一個選擇：打還是不打。打擊匈奴是他夢寐以求的事，是他苦心謀劃、苦心經營多年的心愿。此時，匈奴近在咫尺，他怎么會不想沖上去和他們真刀真槍地干一場呢？然而，眼下他只有三萬兵力，這時和匈奴硬拼，無疑是拿雞蛋碰石頭，自取滅亡。

打，于公來說，可以給漢武帝一個交代，不管怎么樣，自己是盡心盡力了。于私來說，能完成自己的一己之私欲，圓自己的愛國夢。不打，于公來說，可以保全三萬漢朝將士的生命，可以減少國家的損失。于私來說，可以全身而退，不背落敗的責任。王恢在打與不打之中，最終選擇了不打，放任匈奴大軍與自己擦身而過。結果，等其他幾路大軍聞風而動，想要追擊時，匈奴早已逃得無影無蹤了。就這樣，馬邑之謀草草收場，漢軍偷雞不成反蝕把米。消息傳到漢武帝那里，龍顏大怒。這次花了這么大的人力、物力、財力、精力，最后竟然無功而返，對排除萬難，一心想要平定匈奴的漢武帝來說，簡直是奇恥大辱。

憤怒的漢武帝馬上進行了問責，王恢自然首當其沖。他是這次“馬邑之謀”的主謀，又是唯一可以阻止匈奴退軍的人，但他卻眼睜睜地看著匈奴人洋洋灑灑而去。弄成這般局面，他不負責誰負責？對此，王恢辯解道：“始約虜入馬邑城，兵與單于接，而臣擊其輜重，可得利。今單于聞，不至而還，臣以三萬人眾不敵，只取辱耳。臣固知還而斬，然得完陛下士三萬人。”(《史記·韓長孺列傳》)這段話包含兩個關鍵詞。

第一個關鍵詞：小不忍則亂大謀。是的，我當時是有機會阻止匈奴退軍，是可以襲擊他們的輜重，是可以冒險一搏，但結果會是什么樣的呢？三萬士兵勢必會陷入匈奴十幾萬大軍的包圍當中，勢必會成為匈奴發泄的對象。如果是這樣，只怕我們三萬人非但不能阻止匈奴，反而會落得個全軍覆滅的悲慘下場。第二個關鍵詞：舍生取義，殺身成仁。我知道我這樣空手而歸，肯定是死罪一條，但如果犧牲我一個人，而保全了三萬將士的性命，我無怨無悔。對此，漢武帝絲毫沒有被感動，恥辱和憤怒早已盛滿了他的心，他根本聽不進這些辯解之言了。他大手一揮，王恢立馬被打進了死牢，最終自殺謝罪。