685年(垂拱元年)，張嘉貞考中明經科，被授爲平鄉縣尉，不久因受案件牽連免官回鄉。
累職升遷
702年(長安二年)，侍御史張循憲出任河東採訪使，上表舉薦張嘉貞。武則天召見張嘉貞，面試其才，擢升他爲監察御史。此後，張嘉貞歷任兵部員外郎、中書舍人、秦州都督、幷州長史。他治政嚴肅，深受官吏的敬畏。717年(開元五年)，突厥九姓內附唐朝，散居在太原以北地區。張嘉貞便上表朝廷，請求駐紮重兵，加以震懾。唐玄宗於是在幷州設置天兵軍，任命張嘉貞爲天兵軍大使。718年(開元六年)，張嘉貞入朝。這時，有人誣告張嘉貞謀反，唐玄宗欲將告發者治罪。張嘉貞認爲此舉會阻塞言路，上奏赦免其罪。唐玄宗非常高興，許諾將來要拜他爲宰相。張嘉貞趁機奏道：“當年馬周徒步入長安，拜見太宗皇帝，得到重用，但五十歲便去世。假如太宗晚提拔馬周幾年，這個人才就算錯過了。如今陛下想要重用臣，就請陛下早一點拜臣爲相，不要等臣衰老了。”唐玄宗道：“你且返回幷州，我一定儘快召你回京任相。”
擔任宰相
720年(開元八年)，唐玄宗罷免宋璟與蘇頲的宰相之職，徵召張嘉貞回朝，擢升爲中書侍郎、同中書門下平章事。五月，張嘉貞又升任中書令，加銀青光祿大夫。他善於決斷，長於奏對，卻因脾氣急躁、剛愎自用，遭到輿論的鄙薄。後來，張嘉貞之弟張嘉祐也入朝擔任金吾將軍，兄弟二人並居將相，一時顯赫無比。722年(開元十年)，張嘉貞隨唐玄宗巡幸洛陽。洛陽主簿王鈞爲求取御史之職，在洛陽給張嘉貞修建住宅，結果事情敗露。唐玄宗大怒，命人杖斃王鈞。張嘉貞爲求滅口，私下催促行刑者加速行刑，又將罪責推給御史大夫韋抗、中丞韋虛心，使得韋抗二人遭到貶黜。 後來，祕書監姜皎獲罪，張嘉貞慫恿唐玄宗施以廷杖，致使姜皎傷重而死。不久，廣州都督裴伷先也因罪下獄，張嘉貞又請求施以廷杖。張說反對道：“士可殺不可辱。此前姜皎犯罪，如果該殺，那就公開處死，不應讓他當庭受辱。姜皎之事已無可挽回，現在對待裴伷先，不能再犯錯誤。”唐玄宗採納了張說的意見。張嘉貞很不高興，私下指責張說道：“你話說的太重了。”張說道：“誰也不能當一輩子宰相，我們如果開了貴臣受杖的先例，難保將來也有受辱之時。”
宦海浮沉
張嘉貞與張說的矛盾由來已久。起初，張說擔任兵部侍郎，位居員外郎張嘉貞之上。張嘉貞拜相後，超越張說，並對他毫不謙讓。張說對此心中不滿。723年(開元十一年)，張嘉祐貪贓事發。張說趁機勸說張嘉貞，讓他素服待罪。唐玄宗貶張嘉貞爲豳州刺史，命張說接任中書令。張嘉貞這才知道上了張說的當，爲此非常後悔。724年(開元十二年)，張嘉貞升任戶部尚書、益州長史，並代理都督之職。不久，唐玄宗在中書省設宴，命張嘉貞與宰相一同預宴。張嘉貞對張說痛恨不已，在席間謾罵不止。源乾曜與王晙極力排解，這纔將張嘉貞勸走。725年(開元十三年)，唐玄宗賜死寵臣王守一。張嘉貞因與王守一交情深厚，也被貶爲台州刺史。不久，張嘉貞又擔任工部尚書、定州刺史，掌管北平軍事，封河東侯。張嘉貞赴任時，唐玄宗親自賦詩勉勵，並命百官到上東門外餞行。729年(開元十七年)，張嘉貞患病，返回洛陽就醫。回到洛陽後，他已雙目失明，病情加重，唐玄宗特派御醫前往診治。同年八月，張嘉貞病逝，終年六十四歲，追贈益州大都督，賜諡恭肅。
