據《日本書紀》記載，推古天皇三十一年，自唐朝歸國的留學僧惠齊、惠光、醫惠日、福因等人上奏說，在唐留學人員均已修成學業，他們向天皇建議：“大唐國法式備定之珍國也，常須達。”日本朝廷認可這一建議，經過7年準備，於舒明天皇二年(630)派出第一批遣唐使。此後264年中，共任命遣唐使19次，其中有13次真正到達了唐朝。遣唐使這一非同尋常的政治活動，自然並非幾個留學僧的建議便可肇端。
遣唐使回國後，雖然一度在政治上受到排擠，但無論政治制度改革，抑或學習唐朝文化，他們都發揮了不可替代的作用。其中名聲最著、作用最大者，當屬吉備真備。
吉備真備22歲時隨第8次遣唐使入唐，在唐凡17年。他學習內容非常廣博，三史、五經、名刑、算術、歷道、天文、漢音、書法、音樂、祕術、雜佔等皆有涉獵。吉備真備根據漢字楷書的偏旁創造了“片假名”，與空海和尚根據漢字草書偏旁創造的“平假名”一同構成日文的字母。如此恐怖的知識量和跨越時代的發明，令他在日本民間形成了類似於諸葛亮的地位。後人編繪的《吉備大臣入唐記繪詞》收錄了許多怪誕的傳說。例如一則故事說，唐朝人強留吉備不歸，吉備便施展祕術“封住”日月，致使十天之內天下時辰出現怪動，唐人占卜後得知真相，嚇得皇帝馬上下詔準其歸國。
吉備真備歸國後仕途順利，先後任大學助、東宮學士、春宮大夫等職，先後給大學竂學生傳授五經、三史、明法、算術、音韻、籀篆等六道，還給孝謙女帝講授過《禮記》等學問。藤原仲麻呂(惠美押勝)得勢時排擠吉備真備，逼他在56歲時再次奉使入唐。歸國後吉備真備主持過太宰府軍政，天平寶字八年(764)惠美押勝叛亂，吉備真備以其卓越的軍事才能平定叛亂，從此平步青雲，做到了右大臣之位。他的學問廣博有餘精深不足，先求具其形而後再求深入，代表了那個時代日本學習唐朝文化的典型狀態。
晁衡的名聲更加響亮。他717年隨第8次遣唐使團入唐，與素懷大志的吉備真備不同，他更加專注地學習文學，因爲成績優秀，獲准參加科舉考試並中了進士，在唐朝歷任校書、左拾遺、左補闕、儀王友。這幾個官職對文化素養要求都非常高，可見其造詣之深。故而李白、王維、儲光羲、包佶、趙驊等才子士人都與他交情頗深。
唐玄宗對晁衡非常喜愛，以至於733年晁衡提出要歸國時未獲同意。直到752年，五十多歲的晁衡再次提出歸國探望父母，玄宗才終於批准。王維等人向他道賀，紛紛以詩酬送，晁衡亦作《銜命還國作》一詩：
銜命將辭國，非才忝侍臣。天中戀明主，海外憶慈親。伏奏違金闕，驂去玉津。蓬萊鄉路遠，若木故園林。西望懷恩日，東歸感義辰。平生一寶劍，留贈結交人。
752年十月，晁衡歸途中遭遇風暴，晁衡和大使藤原清河漂流到驩州(今越南)。當時人們都以爲晁衡遇難，大詩人李白悲傷不已，寫了一首《哭晁卿衡》以哀悼之：
日本晁卿辭帝都，征帆一片繞蓬壺。
明月不歸沉碧海，白雲愁色滿蒼梧。
晁衡後來輾轉回到長安，後來官做到鎮南都護(正三品)，770年以73歲高齡結束了他富有傳奇色彩的一生。晁衡是中日交往一個光輝的典型，故而中日兩國都對他評價頗高，分別在西安和他的故鄉奈良爲他樹立了紀念碑，以表彰他爲兩國友好做出的巨大貢獻。
