夜郎國之所以具有這麼大的知名度，也僅僅是因爲司馬遷《史記》非常簡短的文字敘述。
在《史記·西南夷列傳》稱：“西南夷君長以什數，夜郎最大。”故事梗概爲：漢武帝開發西南夷後，爲尋找通往身毒(今印度)的通道，於公元前122年派遣使者到達今雲南的滇國，再無法西進。
大約在戰國時代，夜郎已是雄踞西南的一個少數民族君長國。漢武帝時，唐蒙奉命於公元前135年出使南越國，瞭解到夜郎位於巴蜀通往南越的要道上，有便捷的水路可通抵南越的都邑，便向朝廷建議開發西南夷，依靠巴蜀的富裕、夜郎的水路和精兵，有效控制南越的分裂變亂。漢武帝採納了他的建議，在夜郎地區設置郡縣，將夜郎劃入版圖。公元前111年，夜郎派兵協同征伐南越反叛，遣使入朝，漢王朝授予夜郎王金印。
夜郎國的具體位置，史籍記載都很簡略，只說：“臨牂牁江”，其西是滇國。牂牁江是漢代以前的水名，今人根據其向西南通抵南越國都邑番禺(今廣州)的記載，考證爲貴州的北盤江和南盤江。多數人認爲，夜郎國的地域還是相當地大的，所轄範圍包括了現今貴州的遵義、臨近貴州的重慶市部分區域，也包括了湖南跟貴州交界的一部分地方，疆域甚至延伸到了廣西西北部的一些地區。
大詩人李白的詩句“隨君只到夜郎西”中的夜郎指哪兒?兩千多年前，古夜郎國猶如流星一般，消失在浩瀚歷史星空，古夜郎的歷史面貌也隨之成了一個未曾解開的"謎"。在一般人心中，它幾乎成了一個神話中的國度。據《史記》記載，“夜郎者臨牂牁江，江廣百餘步足以行船”。專家指出，夜郎沒有一個固定地點，是不斷變化的。那麼夜郎在哪兒，夜郎古國的文明中心在哪兒……
夜郎滅國於西漢末期。漢成帝河平年間(公元前28-25年)，夜郎與南方小國鉤町、漏臥發生爭鬥，不服從朝廷調解。河平二年(前27)，漢廷新上任的牂牁郡守陳立深入夜郎腹地，果斷地斬殺了名叫興的夜郎末代國王，並機智地平定了其臣屬及附屬部落的叛亂。從此後，夜郎不再見於史籍。
夜郎國存在了約300多年，其文明發展在西南地區具有較大影響。後來，在唐宋時期曾兩次置夜郎縣。建夜郎國者究系何族，衆說紛紜，主彝、苗、仡佬、布依等族先民者均有之。
