在古代出身家奴後來被拜爲將軍的人以西漢時期的大將軍衛青最爲知名，然而在唐朝也有一人的出身和衛青相同，他在唐朝立國前後曾建立了不少戰功，後來受到了唐高祖李淵和唐太宗李世民的禮遇。這個人就是唐高祖李淵的女兒平陽公主的家奴馬三寶。
《舊唐書 平陽公主傳》記載：“義兵將起，公主與紹並在長安，遣使密召之。”原來李淵打算在太原起兵反隋，而當時他的女兒也就是後來的平陽公主和女婿柴紹在長安居住，所以在起兵之前李淵曾派人去祕密召回平陽公主和柴紹。而柴紹見到李淵的使者後卻擔心全家突然從長安搬回太原去會引起隋朝朝廷的懷疑，而他獨自前去和李淵會合而丟下家眷又擔心他們會被加害。平陽公主得知柴紹的顧慮之後力勸自己的丈夫前去太原和自己的父親會合，而她則自有打算。
柴紹聽了平陽公主的話偷偷的離開了長安前往了太原。在柴紹走後平陽公主盡散家財招募了數百勇士準備在長安響應李淵起兵。然而僅僅靠着區區數百人和當時長安守備的隋朝軍隊對抗顯然是不可能的，爲了能和隋朝軍隊抗衡那勢必就要擴大軍隊的規模。隨後平陽公主通過兼併長安附近的盜賊組建了一支戰鬥力可觀的軍隊，這支軍隊由於是平陽公主創立因此當時人們也稱呼其爲“娘子軍”，而“娘子軍”的籌建和平陽公主的家奴馬三寶是有密切的關係的。
柴紹離開長安後，平陽公主散盡家財也僅僅招募了區區數百人。當時爲了擴大義軍規模平陽公主便派馬三寶去說服佔據司竹園的盜賊首領何潘仁。在馬三寶的說服之下何潘仁帶着自己的部下歸附了平陽公主，當時長安附近的盜賊李仲文、向善志、丘師利等各擁兵數千佔據一方，這些人也都成功被馬三寶說服歸附了平陽公主。《新唐書-卷八十八》記載：“潘仁入謁，以百兵爲主衛。三寶自稱總管，撫接羣盜，兵至數萬。”
在馬三寶的協助之下平陽公主一下成了擁兵數萬的軍閥，其實力膨脹之迅速引起了隋朝朝廷的注意。《舊唐書》記載：“時京師留守頻遣軍討公主，三寶、潘仁屢挫其鋒。”當時長安留守的隋朝軍隊曾多次征討平陽公主，但是卻每次都敗在了馬三寶和何潘仁的手上。後來馬三寶又協助平陽公主攻克了盩厔、武功、始平三郡此時平陽公主的部隊發展到了七萬人。後來馬三寶追隨平陽公主參與了唐軍圍困長安的戰役，長安攻破後唐高祖李淵加封馬三寶爲太子監門率。
長安平定之後馬三寶因爲參加了平定西秦薛仁杲的戰役立下戰功被加封爲了左驍衛將軍。之後他在自己的故主柴紹帳下效力與吐谷渾大戰於岷州，兩軍交戰時馬三寶衝鋒陷陣不避強敵斬殺了吐谷渾名王並且抓獲了數千戰俘。後來唐高祖李淵巡視竹林園的時候對馬三寶說道：“這裏就是你們曾今起兵的地方嗎?看來衛青生活的地方很不錯啊!”(嘗從幸司竹，高祖顧謂三寶曰："是汝建英雄之處，衛青大不惡!")唐朝朝廷累計馬三寶的戰功，又將其提升爲了左驍衛大將軍。唐太宗李世民即位三年後馬三寶病逝，李世民特意爲他廢朝一日。
