范質的父親范守遇，任鄭州防御判官。范質出生那天傍晚，他的母親夢見神仙授給她一支五色筆。范質自幼聰明好學，九歲能詩文，十三歲攻讀詩經，十四歲開始招生收徒做教師。后唐長興四年(933年)，考中進士，被任為忠武軍節度使推官，后遷升封丘令。手握五彩神筆，歷經后唐至宋的五朝名臣，范質依唐朝舊例，科考放榜以考官當年及第名次為重，和凝當初以十三名及第，亦取范質為十三名。后來，范質與和凝一樣做到宰相，范質還受封國。因此受到時人的贊譽，稱之為“傳衣缽”，可謂一時之佳話。后晉天福年間，范質用文章游說宰相桑維翰，桑很器重他，即上奏封他為監察御史。后桑維翰出鎮相州時，請求朝廷讓范質給他當從事。桑維翰第二次任宰相，范質遷升為主客員外郎。一年多后，召范質入朝任翰林學士，加任比部郎中、知制誥。

后漢初，加封范質為中書舍人、戶部侍郎。

郭威征伐叛亂時，每次朝廷派遣使者下詔處理軍事，都符合機宜。郭威問使者是誰起草的詔令，使者答稱是范質。郭威嘆道“真是宰相之材啊！”郭威從鄴地起兵攻向皇宮，京城紛亂，范質藏匿民間，郭威派人到處尋找，后來找到，非常高興，當時正下大雪，郭威解下自己的袍衣讓給范質穿。并命令范質起草太后誥命及商議迎湘陰公禮節，范質急速起草，很合郭威心意。于是，郭威告訴太后，任命范質為兵部侍郎、樞密副使。后周廣順初年(公元951年)，郭威加拜他為中書侍郎、平章事、集賢殿大學士，第二天，又拜他兼任參知樞密院事。郊祀完畢后，升遷為左仆射、門下侍郎、平章事、監修國史。跟隨郭威征伐高平回來，加官司徒、弘文館大學士。

范質入朝為官后，仍手不釋卷。有人贊賞，他說“有相士說我今后位登宰相。如果真是這樣，不學習哪來權術處理政事。”柴榮(郭威養子，即周世宗)征伐淮南，詔令多由隨征的范質起草，吳中文士們沒有不驚服的。范質每次下制敕，從未不合律令。朝廷每次派遣使者視察民田，巡視獄訟，范質都接見他們，向他們說明天子憂慮勤政的意圖，

顯德三年(公元956年)，大臣竇儀跟從柴榮進攻南唐，柴榮因為他餉饋不繼，打算治他的罪。范質入宮求見，柴榮知道他是來救竇儀的，站起來避開他。范質上前說“竇儀是近臣，過錯很小，不應當誅殺。”于是，摘下官帽，叩頭泣奏，說“臣位在宰相，難道能讓人主暴怒，致使近臣就死嗎？請求寬赦竇儀的罪過。”柴榮怒氣這才稍有消解，便遣使者赦免竇儀。

顯德四年(公元957年)，范質跟隨柴榮征伐壽州回來，提出因為法律條例繁冗，輕重沒有依據，官吏得以因緣為奸。柴榮特命他詳細審定法律，這就是大宋律的前身--《刑統》。顯德六年(公元959年)，柴榮北征，范質因病留在京師，柴榮賜錢百萬就醫買藥。柴榮平定關南，到達瀛州時，范質站在路的左邊迎接。回京后，柴榮任用樞密使魏仁浦為宰相，任命范質與王溥一同為參知樞密院事。柴榮病重，范質入宮接受臨終遺命，成為后周顧命大臣。柴宗訓即位，加封范質開府儀同三司，封為蕭國公。

趙匡胤陳橋兵變還都，范質正在辦公樓中吃飯。趙匡胤趕到宮中，范質率王溥、魏仁浦拜見。趙匡胤對他嗚咽哭泣，陳述擁戴被逼之狀。范質等還未對答，軍校羅彥環便舉著刀對范質比劃著說“我們沒有主上，今天必須得到一個天子。”范質走下殿廷，握住王溥的手說“倉促遣將，是我們的罪啊！(指不明契丹侵邊真相，倉促派趙匡胤領兵出征，為陳橋兵變提供了條件)”指甲掐得王溥的手幾乎出血了。并當面質問趙匡胤“先帝對太尉您就像對自己兒子一樣，現在他尸骨未寒，您怎么可以這樣做？”雖然在一旁的趙匡胤之弟趙匡義也淚流滿面，但范質知道大勢已去，便說“事已至此，就不要太倉促了，自古帝王有禪讓之禮，太尉可以舉行禪讓大典。”并敘述典禮程序，接著又說“太尉既然準備通過禮儀接受禪讓，就應該侍奉太后如母，贍養少主如子，千萬不要辜負先帝舊恩。”趙匡胤當即揮涕許諾，然后在范質、王溥等百官的擁戴下登基，范質繼續當宰相。

接著范質加官兼侍中，不久，他病了。恰逢趙匡胤要去征伐叛亂，特到他府第賜金二百兩、銀一千兩、絹二千匹、錢二百萬，以便延醫用藥。

趙匡胤甫即位，諸事謙遜自抑，以至藩鎮、親屬沒有封建，幕府賓客佐僚還沒有官位。范質因此上奏說“自古帝王開創基業，都分封子弟，樹立屏障，宗族親屬一旦興隆，國家就可長久鞏固。皇弟泰寧軍節度使趙光義，自從在軍隊中任職，特別有將才，樹立為藩鎮后，尤能積累名望;皇弟嘉州防御使趙光美，雄俊老成，注重修養好行善，好聲譽日有所聞。乞求一并頒發封冊，賜給爵位。皇子皇女雖然尚幼，也請下詔讓有關部門推行恩封之制，這是我的愿望。臣又聽說當宰相的，應當推舉賢能之人，來輔佐天子。我認為端明殿學士呂余慶、樞密副使趙普精通治國之道，事從霸府，時間很久，其公忠之志，可為倚靠。請授予他們要職，使他們的才能得以發揮。”趙匡胤很贊許并采納了他的意見。

原先，宰相朝見天子商議重大政事，皇帝必對宰相賜茶告坐后面議，唐朝及五代都遵照這個制度。范質等人因畏憚趙匡胤，每次議事都寫成公文進呈，并陳述說“這樣做才算臣子稟承圣意，免除妄庸的過失。”趙匡胤采納了這個建議。因為此后奏章越來越多，趙匡胤便廢除了坐論的舊禮。軼聞說為了免除宰相與皇帝平起平坐的舊禮，趙匡胤趁范質轉身取奏章時，命衛士撤去座位，從此，宰相就無法與皇帝平起平坐，坐而論道了。

乾德初年(公元963年)，趙匡胤將在圜丘祭天，任命范質為大禮使。范質與鹵簿使張昭、儀仗使劉溫叟討論舊的典章制度，審定《南郊行禮圖》呈上。趙匡胤特別嘉獎他們。從此禮儀制度開始完備。禮儀完畢后，進封范質為魯國公，范質向趙匡胤呈表再三推辭，趙匡胤不允許。

乾德二年(公元964年)九月，范質去世，終年五十四歲。

范質以廉潔耿介自持，從未接受各方人士的饋贈，前后的優厚俸祿及賞賜，常常送給孤寡之人。死后家里沒有多余的錢財。侄子范杲曾上奏請求遷升秩階，范質作詩曉諭，時人廣為傳誦。

范質臨終前，告誡兒子范昱，不要向朝廷請賜謚號，不要刻墓碑。趙匡胤聽到這件事，為之感到悲痛而罷朝。追贈中書令，送絹五百匹，粟、麥各一百石，給范家辦喪事。