黃老道家尊崇黃帝和老子，這當然不能說黃老道家的起源於黃帝時期或商周時期，但說黃帝、伊尹、辛甲、呂尚、鬻子等人的治世思想是黃老道家的重要源頭，應該沒有什麼問題。另外，有些學者注意到，商周文化存在明顯的差異，如果說周文化直接肇啓了儒家思想，那麼殷商文化是黃老道家的重要源頭之一。
春秋末期，老子站在歷史的高度對現實社會進行反思，寫成了《道德經》一書，標誌着道家學派從此誕生。而他的思想傳人，有的繼承了他批判和超越的精神，形成了老莊學派;有的繼承了他貴生重生的思想，形成了楊朱學派;有的繼承了他經世致用的理念，形成了黃老學派。其中黃老學派契合了治國安邦的時代潮流，受到了諸侯們的青睞，逐漸成爲了當時道家思想的主流。
就在《道德經》誕生前後，發生吳越爭霸的事件，本來弱小的越國，在范蠡等人的幫助下，制定了休養生息的政策，經過十年生聚最後取得了全勝。在此基礎上，一部劃時代的著作——《黃老帛書》出現，成爲了黃老道家的經典著作。此後，黃老道家分別以齊楚爲中心，形成了南北兩個關係緊密相互影響的支系。而其中最有影響的是稷下黃老道家。它與齊國的稷下學宮有密切的關係。
田氏代齊後，爲了擺脫篡逆的指責，也爲了籠絡人才、鞏固政權，便創立了稷下學宮，並四處延攬人才，不久就出現了諸子馳說、百家爭鳴的盛況。而在稷下學宮諸子百家中，人數最多、勢力最強、著作最豐、影響最大的當屬稷下黃老道家，可以說是“黃老獨盛，壓倒百家”。其代表人物是彭蒙、慎到、田駢、捷子、環淵、宋鈃、尹文等，其代表作除了已經佚失的《田子》、《蜎子》、《宋子》之外，還有留存的《慎子》、《尹文子》、以及與黃老道家關係密切的鴻篇鉅製——《管子》。齊國統治者也基本上按照黃老道家思想治國，成爲了戰國七雄中最富強的國家之一。
到了戰國晚期，齊愍王窮兵黷武，好大喜功，稷下學宮衰落，稷下黃老學派的傳人也逐漸散去。不久，時任秦相的呂不韋大力召集門客，他們便紛紛投奔呂不韋，成爲呂不韋的謀士和助手，並在編撰《呂氏春秋》過程中發揮了非常重要的作用。呂不韋也在法家思想佔統治地位的秦國推行黃老政治，使得秦國的經濟和文化出現了短暫的繁榮景象。另外值得一提的是，這一時期誕生在楚地的《鶡冠子》，也是黃老道家的重要作品。它和《呂氏春秋》一起，集中展示了戰國末期黃老思想的風貌。
秦始皇執政後，廢除了呂不韋的大多數措施，重新啓用法家思想，並在統一中國的過程中將其意志推行到了全國，不久又實行“焚書坑儒”的文化專制主義政策，使得包括黃老道家在內的百家思想遭到了沉重打擊。但黃老思想在民間的餘脈還在。漢朝取代秦朝以後，當時的丞相曹參在稷下黃老學派的策源地——齊國學到了黃老思想的治國精髓，並將其變爲整個國家的指導思想。於是，中國歷史上出現了一個名爲“文景之治”的盛世。有了這樣雄厚的現實背景，司馬談(司馬遷之父)對黃老道家思想進行總結，首次提出了道家的概念。他說：“道家無爲，又曰無不爲。其實易行，其辭難知。其術以虛無爲本，以因循爲用。無成勢，無常形，故能究萬物之情。不爲物先，不爲物後，故能爲萬物主。”，道家“因陰陽之大順，採儒、墨之善，撮名、法之要，與時遷移，應物變化，立俗施事，無所不宜;旨約而易操，事少而功多。”另外，當時的淮南王劉安還組織門客編撰了《淮南子》，成爲了黃老道家巔峯性的著作。司馬遷受其父的影響，其著作《史記》處處流露出黃老道家的思想，而且因爲道家治世帶來了巨大的經濟繁榮，司馬遷還探討了經濟運行規律和企業家精神，成了以後中國古代學術絕無僅有的現象。
不過，當時黃老思想成爲主流，是建立在天子、諸侯和軍功階層三權分立、皇權受到一定程度制約的基礎上的。漢景帝平定“七國之亂”後，諸侯勢力大大削弱、軍功階層也是一代不如一代，權力膨脹起來的皇帝，再也無法容忍黃老道家“清靜自然”的約束，於是，主張尊君隆禮的儒家思想取代了道家思想，成爲了國家的正統思想。這樣的局面此後延續了將近兩千年。在這兩千年裏，黃老道家的大多數著作逐漸佚失，黃老道家曾經的輝煌逐漸被人遺忘，因爲大量古代簡牘的出土，才使人們逐漸瞭解了戰國秦漢時期黃老道家的盛況。
儒家思想取代了道家思想成爲了國家的正統思想後，黃老道家思想並沒有完全消失。大多數時候，統治者像漢宣帝說的那樣，是“霸王道雜用之”。即有時是“外儒內法”，有時是“外用儒術，內用黃老”，每當君權受到主客觀條件的部分限制時，黃老道家就會復活，並帶來經濟文化上的繁榮(因爲統治者的無爲而治僅限於經濟和文化)，像唐玄宗、宋真宗、朱元璋、康熙這樣的明君，都曾註解過《道德經》，“文景之治”、“貞觀之治”、“開元盛世”、“康熙盛世”，以及兩宋時期經濟文化的高度繁榮、明末清初的啓蒙思潮、今改革開放的成就，都與黃老思想有密切關係，因此民間有“治世道，亂世佛，由治到亂是儒家”的說法。
