隋朝末年，山東、河北一帶士族門閥勢力比較強大，土地兼并嚴重，豪強地主占有大量隱戶，流亡農民很多。隋煬帝營建東都洛陽，開通運河，調發了大量的山東民工。而山東地區的封建官吏和士族地主，變本加厲地壓榨百姓。大業七年(公元611年)，山東、河南等地發生大水災，淹沒30余郡;第二年，山東又發生大旱災，加上流行疫疬，災情極其嚴重。天災人禍使得富庶的山東大地滿目瘡痍。

隋朝末年，山東、河北一帶士族門閥勢力比較強大，土地兼并嚴重，豪強地主占有大量隱戶，流亡農民很多。隋煬帝營建東都洛陽，開通運河，調發了大量的山東民工。而山東地區的封建官吏和士族地主，變本加厲地壓榨百姓。大業七年(公元611年)，山東、河南等地發生大水災，淹沒30余郡;第二年，山東又發生大旱災，加上流行疫疬，災情極其嚴重。天災人禍使得富庶的山東大地滿目瘡痍。更為嚴重的是，隋煬帝數次東征高句麗，都把山東作為進攻高句麗的人力、物力供應基地，在這一帶增置軍府，掃地為兵，強壯男子大多被征發當兵。在東萊造船的勞役和負擔，以及向河北運糧的差役等，這些沉重的負擔統統壓到了山東人民的頭上。在這種殘酷的役使和士族土地壓榨之下，山東人民無路尋生，不斷發生反抗的呼聲。《資治通鑒》卷181隋大業七年記載的情況最清楚地反映出這一時期的社會狀況：“自去歲謀討高句麗，詔山東置府，令養馬以供軍役。又發民夫運米，積于瀘河、懷遠二鎮，車牛往者皆不返，士卒死亡過半，耕稼失時，田疇多荒。加之饑饉，谷修踴貴，東北邊尤甚，斗米直數百錢。所運米或粗惡，令民糴而償之。又發鹿車夫六十余萬，二人共推米三石，道途險遠，不足充餱糧，至鎮，無可輸，皆懼罪亡命。重以官吏貪殘，因緣侵漁，百姓困窮，財力俱竭，安居則不勝凍餒，死期交急，剽掠則猶得誕生，于是始相聚為群盜。”正是在這樣的情況下，山東人民武裝暴動，點燃了反抗隋王朝的烈火，引發了中國歷史上規模巨大的全國農民大起義。當時山東的起義自北而南、自西而東，聲勢最為浩大。

大業七年(公元611年)，鄒平人王薄，在長白山(今山東章丘、鄒平境內)正式舉行起義。王薄的義旗剛一樹起，山東各地紛紛響應。平原富豪劉霸道于豆子坑(在今山東惠民地區)起兵，聚眾10余萬，號稱“阿舅軍”。漳南(今山東武城漳南鎮)人孫安祖殺死縣令，在同鄉竇建德的幫助下，會集數百人在高雞泊(在今平原境內)起義。竇建德因暗助起義軍，全家被官府所殺，他便只身投入起義軍行列。不久他聚集了孫安祖的余眾，將起義軍發展到萬余人，并向河北一帶擴充力量。

大業九年(公元613年)，山東農民起義的烈火更加旺盛。正月，平原杜彥冰、王潤等聚眾起義，攻克平原郡。同郡人李德逸匯集數萬人，亦號稱“阿舅軍”。二月，濟北(今山東茌平)人韓進聚眾數萬人起義。三月，濟陰(今山東曹縣)人孟海公起義，也有眾數萬人。北海人郭方預，自號盧公，組建義兵3萬。還有齊郡(今濟南)孟讓、平原郝孝德也擁有幾萬人的起義隊伍。五月至十月間，濟北甄寶車、濟陰吳海流也都先后舉起義旗。山東各地的起義斗爭匯成了反抗隋朝暴政的燎原之火，聲勢浩大，不可阻擋。大業十年(公元614年)以后，山東農民起義繼續高漲。宋世謨起義，攻下了瑯琊郡。孟讓以長白山為根據地，向南進展，有眾10余萬人。齊郡左孝友占據蹲狗山，也發展到10萬人。此外，小股勢力的農民軍也是山頭林立，遍布了整個山東地區。起義軍的烽火把隋王朝在山東的地方官府燒了個凈光。據統計資料顯示，隋朝末年全國農民起義共爆發126次之多，而山東就有31起，占全國總數的25%強，其中影響比較大的有王薄領導的起義，竇建德與劉黑闥領導的起義，張金稱、劉霸道等領導的起義，郭方預、綦恭順、楊元等領導的起義，徐圓明、孟海公、盧明月等領導的起義等。

大業七年(公元611年)，王薄領導起義后，多次擊敗官軍。大業九年(公元613年)，王薄又率兵進攻魯郡(今山東兗州)，起初取得一些勝利，但由于麻痹輕敵，結果為隋齊郡丞張須陀所部突襲，被殺數千人。后來王薄重新集結力量，北渡黃河，來到臨邑(今山東臨邑)。張須陀追至，王薄與其決戰，又遭重創，有5000人被殺，損失牲畜以萬計。在這之后，王薄又與宣雅、郝孝德等義軍共10余萬人進攻章丘(今山東章丘)，張須陀又親率步騎2萬迎擊，起義軍再遭失敗。以后數年，王薄主要轉戰于山東北部沿海一帶，與其他起義軍互相支援，共同抗隋。

唐高祖武德元年(公元618年)，反賊宇文化及在江都(今江蘇揚州)縊弒隋煬帝擁兵北上，于次年保于聊城(今山東聊城西北)。唐遣淮安王李神通圍攻聊城，宇文化及派人引王薄入城，共同守御。神通攻城不克，引軍而退，竇建德又率軍來攻，而且攻勢很猛，王薄開城門放竇建德入城。建德入城后，擒殺宇文化及。這年三月，王薄擁其地降唐。四月，唐任命王薄為齊州總管(駐歷城，今山東濟南)。武德四年，王薄勸說青(治今山東青州)、萊(治今山東萊州)、密(治今山東諸城)諸州降唐，諸州都表示同意。武德五年(公元622年)，王薄與唐宋州總管盛彥師共同攻擊須昌(今山東東平東須城鎮西北)，征糧于潭州(治今山東歷城東平陵城)，刺史李義滿閉倉不給，彥師將其下獄。攻克須昌后，王薄因事赴潭州，李義滿之侄李武意將其刺殺。

竇建德是貝州漳南(今山東武城漳南鎮)人。隋煬帝大業七年(公元611年)征高句麗時，建德被選為二百人長，其同縣人孫安祖也因驍勇被選為征士。當時山東一帶水患十分嚴重，安祖家遭難，安祖向縣令請求免征租稅未獲允許，反遭凌辱，安祖殺死縣令，逃往建德處，建德建議安祖聚眾起義，安祖于是召集貧窮百姓數百人進入高雞泊(今山東武城縣北)舉起了義旗。當時與孫安祖同時起義的還有鄃縣(今山東夏津)人張金稱領導的起義軍，他們活動于河曲(清河之曲，在今河北清河境內)中;蓨縣(今河北景縣)人高士達領導的起義軍，活動在清河境內。日益高漲的起義軍運動，使當地的郡縣官吏感到慌恐和不安，他們懷疑竇建德與這些起義軍有來往，于是將其全家殺死。建德無比憤怒，于是率部下200人逃歸高士達。高士達自稱東海公，任命建德為司兵。后來孫安祖被張金稱殺死，其兵數千人都投奔了竇建德。竇建德勢力逐漸強盛起來，兵力達到萬余人，并以高雞泊為基地展開活動。

大業十二年(公元616年)，隋朝涿郡通守郭絢率兵萬余人來討伐高士達。高士達將兵權全部交給竇建德。竇建德請高士達看守輜重，自己挑選精兵2000人迎擊郭絢。竇建德詐稱自己背叛了高士達，要投降郭絢，并派人向郭絢下降書，表示愿為前驅，討擊高士達。而郭絢不知是計，遂率兵跟隨竇建德來到長河縣(治今山東德州市東)境內，建德乘其不備，大破郭絢軍隊，殺死數千人，繳獲馬匹千余匹。郭絢僅率數十騎逃走，竇建德率兵追趕到平原(今山東平原)境內，將郭絢殺死，并斬其首級獻與高士達。竇建德兵勢得到進一步加強。

就在這時，隋朝廷派遣太仆卿楊義臣打敗了張金稱，張金稱的余部大部分都投奔了竇建德。楊義臣又追兵來到平原，想乘勝打入高雞泊，擊敗竇建德。竇建德分析形勢，建議高士達暫不交兵，避其鋒芒，疲其將士，然后再出兵討擊。但高士達不聽竇建德勸言，留下竇建德堅守堡壘，自己率兵與楊義臣交戰，結果高士達兵敗被殺。楊義臣又乘勝進擊竇建德的軍隊，建德軍大部分潰散，建德本人率百余騎逃到饒陽(今河北饒陽)。沒過多久，楊義臣退兵，建德率兵又回到平原，召集散亡士卒，人數迅速增加，勢力不斷增強，竇建德自稱將軍。不久，他的勢力就發展到10萬多人。

大業十三年(公元617年)，竇建德在樂壽(今河北獻縣)稱長樂王，年號丁丑，設置各級官吏進行管理。后在河間(今河北河間)一戰，殲滅隋涿郡留守薛世雄的軍隊3萬多人，并攻下河北大部分郡縣。

唐武德二年(公元619年)，竇建德又攻聊城(今山東聊城西北)，生擒隋將宇文化及等。同年，建德又率兵相繼攻克邢(今河北邢臺)、沼(今河北永年東南)、相(今河南安陽)、趙(今河北隆堯東)等州及黎陽(今河南浚縣東)，并建都洛州;又降服齊(今山東濟南)、濟(今山東茌平西南)、兗(治今山東兗州)等州。武德四年初，攻占曹州(治今山東曹縣西北)。武德四年三月，又接連攻下管州(今河南鄭縣)及滎陽(今河南滎陽)、陽翟(今河南禹縣)等地，屯兵于虎牢關(今河南滎陽縣汜水鎮)以東。后與唐軍交戰，因麻痹輕敵被唐軍打敗。當年七月被殺。

竇建德犧牲后，其部將劉黑闥繼續進行起義斗爭。劉黑闥也是貝州漳南人，少時與竇建德是朋友。他曾參加瓦崗起義軍，瓦崗軍失敗后，他輾轉投奔了竇建德起義軍。此人多謀善戰，驍勇無比。竇建德起義軍失敗后，他與竇建德其余部將再度起義，并號召各地起兵響應。武德四年八月，黑闥率兵攻克俞縣(今山東夏津)。不久又相繼攻克歷亭(隋分俞縣置)、洛州、相州等地，半年之內基本收復了當年竇建德所控制的地區。當時占據兗州、齊州一帶的徐圓朗起義軍也歸附了劉黑闥。劉黑闥的再度起義，給當時新建立的唐王朝造成嚴重的威脅，于是唐朝廷幾次派遣兵將前往鎮壓，起義軍盡管英勇奮戰，但最后還是失敗了。劉黑闥也于武德六年正月被殺。

隋朝末年山東地區的農民起義軍還有張金稱、劉霸道等領導的起義軍，北海郭方預、綦公順、楊原等領導的起義軍，徐圓朗、孟海公、盧明月等領導的山東西部農民起義軍等。

張金稱是貝州邰縣(今山東夏津)人，于大業七年(公元611年)聚眾起義，很快勢力就發展到幾萬人，最初活動于鄃縣與清河之曲(約在今河北清河境內)，曾屢敗官軍。后又聯合郝孝德、孫寶雅、高士達等起義軍，屢攻河北郡縣和河南黎陽等縣。大業十二年，又攻占平恩(今河北丘縣西)、武安(今河北武安)、巨鹿(今河北巨鹿)、清河等縣。后來在與隋太仆卿楊義臣的決戰中兵敗，被隋清河郡丞楊善會殺害。

在今天山東北部地區與張金稱大致同時起義的還有劉霸道、郝孝德、格謙、孫寶雅等起義軍。劉霸道是平原郡(治今山東陵縣)人。大業七年，他擁眾起義，以豆子坑(今山東惠民)為根據地，其隊伍迅速發展到10萬多人。郝孝德也是平原人，大業九年他聚眾1萬多人起義，曾與王薄、孫寶雅等義軍聯合，攻打章丘，被隋齊郡丞張須陀擊敗。后轉戰于黃河以北，屢敗隋軍。后投奔瓦崗軍。格謙是厭次(今山東無棣南)人，他在大業九年率眾起義，到大業十二年時，隊伍發展到10萬人，也以豆子坑為根據地，屢破隋軍。后被隋將王世充打殺害。孫生雅為渤海(治今山東陽信)人，他也在大業九年率眾起義，隊伍很快發展到10萬人，也以豆子坑為根據地，稱齊王。曾聯合王薄、郝孝德等義軍南攻章丘，又與張金稱、高士達等合兵攻破隋軍黎陽糧倉。后又轉戰于河北一帶，屢敗隋軍。此外，在今山東北部地區，還有杜彥冰、王潤領導的一支起義軍，曾攻破平原郡。

郭方預是北海郡(治今山東青州)人，他于大業九年起義，隊伍很快發展到了3萬人，曾攻陷北海郡城。后被隋齊郡丞張須陀打敗。

綦公順也是北海郡人，他于大業末年在本郡起義，曾率兵3萬人圍攻郡城。后與隋明經劉蘭成聯合作戰，攻陷郡城。公順的兵力日益強盛。隋大業十三年李密為瓦崗寨主后，綦公順率眾歸附。后瓦崗軍失敗，李密降唐，公順也隨之投降唐朝。武德二年，唐以公順為濰州總管(今山東濰坊)。

楊厚也是在大業末年起義，曾攻打北海縣(今山東濰坊)，雖未攻克北海，但給隋軍以沉重打擊，后被隋煬帝派兵擊敗。

徐圓朗是魯郡(今山東兗州)人，大業十三年(公元617年)聚眾起義，曾先攻占東平郡(今山東鄆城東)，然后分兵各地，占據了瑯琊(今山東臨沂)以西、東平以南的地區，隊伍發展到兩萬多人。李密為瓦崗寨主之后，圓朗歸附李密。唐武德元年(公元618年)，李密被王世充打敗后，李密降唐，圓朗投奔竇建德(也可說是歸降王世充)。圓朗后被唐朝廷封為魯郡公、兗州總管。武德四年，劉黑闥在河北起義，圓朗暗中與之聯合。不久扣留唐朝廷命官，舉兵反唐，兗、鄆、陳等8州都擁兵響應，紛紛殺死唐朝地方官吏，勢力大增。他們曾攻克楚丘(治今山東曹縣東南)。武德五年，唐秦王李世民破劉黑闥之后，又進兵攻打徐圓朗，接連攻克10多座城池。后唐朝廷又繼續派兵進攻徐圓朗，圓朗寡不敵眾，棄城而走，結果被“野人”所殺。

孟海公為濟陰(今山東曹縣西北)人，他在大業九年率兵起義，以周橋(在今山東曹縣東北)為根據地，攻占曹(即濟陰)、戴(治今山東成武)二州，人數迅速發展到3萬。武德三年，竇建德率大軍進攻海公。次年建德攻克周橋，俘獲孟海公。同年，竇建德又被李世民擊敗而被俘，孟海公與竇建德一起被殺害。

盧明月是涿郡(治今北京市西南)人，他于大業十年率起義軍10多萬人屯踞祝阿(今山東長清東北)。隋齊郡丞張須陀率兵前來鎮壓，張須陀設計使盧明月大敗。大業十一年，明月又聚眾10多萬人，先后攻打陳州(今河南淮陽)、汝州(今河南臨汝)等地。此后便轉戰河南、淮北一帶，隊伍也發展到40萬人。大業十三年，起義軍被王世充率兵鎮壓，盧明月被殺，余眾潰散。

此外，在今山東西部地區，還有一些規模較小的農民起義軍。如呂明星領導的起義軍;大業九年，濟北韓進洛、甄寶車的聚眾起義;大業九年濟陰(治今山東曹縣西北)吳海流領導的起義;大業末年兗州方與(治今山東魚臺北)張善安領導的起義;還有濟陰房伯獻的起義、濟北張青特的起義等。

除上述一些主要地區、主要農民起義軍以外，據史書記載，還有其他一些農民起義隊伍，他們是：大業九年爆發的杜伏威領導的起義軍，起義后進入長白山，與左君行領導的起義軍聯合，后轉戰到淮南地區，成為江淮地區最大的一支農民起義軍。后被唐軍鎮壓。齊郡人孟讓領導的農民起義，起義后曾一度與王薄起義軍聯合，攻占長白山。后也轉戰到淮南地區，隊伍發展到10萬多人，后被隋將王世充擊敗，他北投瓦崗軍。東海丞(今山東棗莊)李子通領導的農民起義，起初他也參加長白山起義軍左才相部，后獨立，半年內隊伍發展到1萬多人，也轉戰到淮南地區。左才相領導的起義軍，先以長白山為根據地，后轉戰到淮北一帶。另外還有：裴長才在齊郡附近領導的農民起義，顏宣政在齊郡一帶領導的農民起義，彭孝才在東海郡(治今江蘇連云港市西南海州鎮)領導的起義軍于大業十年轉戰沂水(今山東沂水)一帶，宋世謨領導的起義，彭城張大彪領導的起義，東海人盧公暹領導的農民起義，齊郡人左孝友領導的農民起義，文登(今山東文登)淳于難領導的起義等。