韋見素年輕時考中進士，授相王府參軍，後歷任衛佐、河南府倉曹、大理寺丞、坊州司馬、庫部員外郎、右司兵部二員外、左司兵部二郎中、諫議大夫，並襲父爵爲彭城郡公。
天寶五年(746年)，韋見素充任江西、山南、黔中、嶺南等道黜陟使。他察看各地風俗，彈劾州縣官吏，所到之處無不肅然。韋見素回朝後，升任給事中，不久又擔任檢校工部侍郎，改任尚書右丞。
天寶九年(750年)，韋見素改任吏部侍郎，並加銀青光祿大夫。他生性仁恕，主持考選多年，行事公允，深受稱讚。當時，右相楊國忠專權，左相陳希烈唯唯諾諾，毫無建言，唐玄宗對此非常不滿。
天寶十三年(754年)，京師大雨，引發水災。唐玄宗認爲宰相失職，才天降凶兆，便罷免陳希烈，命楊國忠選取繼任者。楊國忠認爲韋見素性格柔順容易控制，便舉薦韋見素爲相。唐玄宗也因韋見素曾任職相王府，對自己有舊恩，同意韋見素拜相。八月，韋見素被任命爲武部尚書、同中書門下平章事、集賢院學士，並管理門下省事務。韋見素對楊國忠非常感激。
天寶十四年(755年)，安祿山請求以蕃將三十二人取代漢將，唐玄宗批准。韋見素對楊國忠道：“安祿山素有異心，如今又用胡人取代漢人，恐怕馬上就要反了。”便與楊國忠去見唐玄宗，具陳安祿山反狀，唐玄宗不聽。後來，韋見素又數次進言，唐玄宗仍舊不信。同年十一月，安祿山在范陽起兵反唐。
至德元年(756年)，叛軍攻陷潼關，進逼長安。六月，唐玄宗逃出長安，在楊國忠、韋見素等人的扈從下前往蜀地。行至馬嵬坡時，禁軍譁變，圍攻行宮，楊國忠等人盡皆被殺。韋見素也被亂兵打傷，幸虧陳玄禮相救，才倖免於難。唐玄宗得知，命壽王李瑁前去撫慰，並賜藥給他。七月，唐玄宗抵達巴西郡，任命韋見素爲左相、武部尚書。到達蜀郡後，韋見素又加金紫光祿大夫，進封豳國公。
同月，皇太子李亨在靈武受衆將擁戴，繼位稱帝，是爲唐肅宗。但由於路途遙遠，音訊不通，唐玄宗尚不知情。八月，唐肅宗的使者到達蜀地，通報肅宗繼位之事。唐玄宗遂命韋見素與宰相房琯前往靈武，正式冊立唐肅宗爲帝。韋見素臨行前，唐玄宗對他道：“皇帝自幼仁孝，朕早有傳位之意，但因故拖延至今。如今皇帝繼位，朕如釋重負。你們此番前去，要盡力輔佐皇帝，早日收復中原。”
九月，韋見素等人在順化郡拜見唐肅宗，傳達唐玄宗禪位之意，並隨從前往彭原郡。唐肅宗爲皇太子時，便聽聞房琯的名聲，因此對他傾心相待。而韋見素因以前依附楊國忠，唐肅宗對他頗爲冷遇。757年(至德二年)，唐肅宗抵達鳳翔，便罷免韋見素的宰相之職，任命他爲尚書左僕射。
唐肅宗到達鳳翔後，時值戰亂，綱紀制度尚未健全，特別是選官制度非常混亂。肅宗因叛亂未平，爲示寬大，對此未加整治。韋見素進言道：“臣主持考選多年，深知此弊。現在天下未平，官吏缺額不多，問題不大。但若總是沒有章法，恐怕難以長久。”唐肅宗深以爲然。
這時，房琯兵敗降職，崔圓、崔渙相繼罷相，唐玄宗任命的宰相，全都被肅宗罷免。五月，韋見素改任太子太師。十一月，唐肅宗返回長安，命韋見素到蜀地迎接唐玄宗。十二月，唐玄宗回到長安，唐肅宗爲此大赦天下。韋見素因保護玄宗入蜀之功，加封開府儀同三司，食實封三百戶。
上元元年(760年)，韋見素以患有足疾爲由，上表請求退休，得到唐肅宗的批准。
寶應元年(763年)十二月(1月)，韋見素病逝，終年七十六歲，追贈司空，賜諡忠貞。
軼事典故
唐玄宗曾夢到自己從殿上跌下，有個孝子又把他扶了上去，醒後便告訴了高力士。高力士道：“孝子穿素衣，這是指韋見素呵。”玄宗深感有理，幾天之後便把韋見素從吏部侍郎提拔爲宰相。
人物評價
劉昫：祿山狂悖已顯，玄宗寵任無疑，見素知國危，陳廟算，直言極諫，而君不從，獨正犯難，而人不咎，出生入死，善始令終者鮮矣。時論以見素取容於國忠，無言匡大政。且國忠恃內戚，弄重權，沮林甫奸豪，取其大位，若見素之孤直，豈許取容?蓋禍胎已成，政柄久紊，見素入相餘年，言不從而難作，雖有周、孔之才，其能匡救者乎?
宋祁：國忠本與安祿山爭寵，故捕吉溫以激其亂，陰儲蜀貲，待天子之出，則己與韋見素流涕爭祿山反狀，將信所言，以久其權。見素能言祿山反，不能言所以反，是佐國忠敗王室也，玄宗不悟，仍相之。卒爲后帝所薄，然猶完其要領，幸矣。謂見素爲前知，果非也。
