孝文帝率領大軍浩浩蕩蕩向南進發，大軍抵達肆州時，他看見路上老百姓有腿瘸眼瞎的，就立刻讓馬車停下，慰問安撫這些人，又供給他們終生的衣食。
大司馬拓跋休逮捕了三名偷盜的士卒，把他們綁起來到各個軍營中游行示衆，然後就要將他們斬首。
孝文帝御駕巡視軍營正巧經過這裏，下令赦免他們。拓跋休認爲不能這樣做，他說：“陛下親自統領六軍，將要遠征江南，而如今我們剛剛走到這裏，這些奸詐小人就開始偷盜搶劫，不斬了他們，我們怎麼能禁止人們幹壞事?”
孝文帝說：“事情的確像你所說的那樣，不過，君王有時會賜予意外的恩澤。這三人犯了這樣的罪，雖然理應處死，可是，命運使他們遇到了朕，即便他們違反了軍事法令，也可以特別赦免他們。”
接着，又對司徒馮誕說：“大司馬拓跋休執行法令嚴肅認真，你們以後不能不小心謹慎地做事。”軍隊的紀律也爲此森嚴起來。
孝文帝繼續前行抵達了幷州，幷州刺史王襲在當地很有聲譽和成績，州內治理得平安寧靜，孝文帝對他極爲讚許。王襲下令全州百姓在道路兩旁，豎起很多石碑，虛假地讚美自己的德政。孝文帝聽說後，就查問王襲，但王襲還試圖狡辯不肯說實話。孝文帝很生氣，將王襲的稱號貶降了兩級。
孝文帝下詔，規定皇帝乘車所經過的地方，如果給百姓秋季莊稼造成了損害，對每畝被毀壞的田地要發給五斛稻穀，作爲補償，於是軍隊所過之處秋毫無犯。
孝文帝從平城出發，直到抵達洛陽，一直陰雨連綿，沒有停過。孝文帝冒雨巡視完洛陽故宮舊址、稍事休整後，又詔令各路大軍繼續向南進發。
他身穿戰服、手持馬鞭，騎馬走在隊伍的最前面，文武官員們經過長途行軍跋涉，疲憊不堪，都不願意冒雨繼續前進，於是紛紛攔住馬頭，不斷叩拜，請求停止南伐。
孝文帝說：“作戰計劃已經決定，各路大軍將要繼續前進，你們還囉嗦些什麼呢?”
尚書李衝等人說：“我們現在的行動，全國上下都不願意，只有陛下一個人想實現它。臣不知道陛下一個人堅持南伐，究竟是爲了什麼。臣等有一心報國效忠皇上的心願，卻無法表達出來，只好冒死向陛下請求。”
孝文帝勃然大怒，說：“我現在正要征服外邦，希望統一天下，治理國家，可你們這些文弱書生，卻屢次懷疑這一重大決策。殺人用的斧鉞有它們使用的地方，你們不要多說什麼!”說完，又縱馬要走。
這時，安定王拓跋休等人一齊來好言勸諫，流淚阻止。孝文帝餘怒未消，又告訴大家說：“這一次，我們出動軍隊的規模不小，出動而沒有什麼成就，我們將來拿什麼讓後人看?如果就這樣班師，如何名垂千載!朕世世代代居住在幽朔，一直想要南遷到中原。如果我們不再向南征伐，那麼，我們就應該把京都遷到這裏，你們認爲這樣做怎麼樣?同意遷都的人站在左邊，不同意遷都的人站在右邊。”
話音剛落，拓跋休等人一齊站到了右邊。南安王拓跋楨見勢不妙，連忙靠近孝文帝說：“幹成大事業的人，並不向衆人徵詢意見。如今，陛下如果放棄向南征伐的計劃，將京都遷到洛邑，這正是我們所希望的，是老百姓的幸運。”文武百官都高呼萬歲。
當時，許多鮮卑人雖然不願意向南遷移，但又害怕再向南征伐，所以，也就沒有人敢說些什麼。北魏的遷都大計，於是確定了下來。
李衝對孝文帝說：“陛下將要遷都洛邑，可是，皇家祖廟和皇宮、府宅都要重新建造，我們不能只騎在馬上走來走去，等待着它們的建成。希望陛下暫時回到代都，等到文武百官把這一切事情做好之後，陛下再備齊依仗，在寧靜祥和的鑾鈴聲中蒞臨新的京都。”
孝文帝說：“朕正要到各個州郡巡查，現在正好可以利用這個機會，先到鄴城行宮，暫作停留，明年一開春就返回，而不應該先回北方。”
於是，派遣任城王拓跋澄返回平城，向留守在那裏的官員們宣佈遷都的決定，他對任城王說：“如今纔是‘革卦’上真正的‘革’，你要把事情辦好。”
由於文武官員的意見並不一致，孝文帝就對鎮南將軍於烈說：“你是怎麼想的呢?”
於烈回答說：“陛下聖明的謀略，是爲了國家長遠的利益，這不是愚昧、膚淺的人所能預測得到的。但如果推測大家的心意，願意遷都的人和依戀故土的人，正好各佔一半。”
孝文帝說：“你既然沒有公開說自己反對，那就是表示認同了，我深感到你不說話的好處。”
於是，他派於烈回到平城鎮守，說：“留守在朝廷裏的一切事情，全都託付給你了。”
冬季，十月初一，孝文帝前往洛陽金鏞城，召回穆亮，命令他和尚書李衝、將作大匠董爾一起負責營建新都洛陽。初二，孝文帝率衆北巡，從金鏞城前往河南。初八，前往豫州。十六日，在石濟住宿。十八日，下令北魏境內解除戒嚴，在滑臺城東邊興築祭臺，向隨行的祖宗牌位稟告遷都的想法，並下令實行大赦。
任城王拓跋澄回到平城，留守的百官剛剛聽到要遷都時，沒有不感到震驚的，於是，拓跋澄引經據典，慢慢地解釋開導，讓大家明白這樣做的好處，最後，大家終於接受了。拓跋澄回到滑臺向孝文帝彙報了這一情況，孝文帝高興地說：“沒有任城王，朕的大事就辦不成。”
二十六日，孝文帝前往鄴城。王導的後人王肅因父兄皆爲齊武帝蕭賾所殺，所以投奔了北魏。他在鄴城晉見孝文帝，向他陳述討伐南齊的策略。孝文帝和他談着談着，不知不覺地把自己的座位往前移，以便聽得更仔細些，時間不知不覺地過去了很久。
從那以後，孝文帝對王肅的器重和待遇一天比一天隆厚，無論是親信故舊還是重臣，都無法離間這君臣二人之間的關係。孝文帝有時就讓左右侍從退下，單獨和王肅談話，談到半夜，仍不停止，他自認爲和王肅相見太晚了。
不久，又任命王肅爲輔國將軍、大將軍長史。這時，孝文帝正打算推廣使用禮儀和雅樂，將鮮卑人傳統的風俗習慣改成和漢人的一樣，所以，只要是展示帝王威嚴儀容的文物制度，大多都讓王肅來確定。
孝文帝在北方巡視結束後，渡過黃河回到了平城，他讓諸位大臣再次議論遷都的利害關係，各位臣子都表述了自己對此問題的看法。
燕州刺史穆羆說：“如今天下四方沒有安定，所以不宜於遷都。況且到時候軍中缺少戰馬，這樣如何能克敵取勝呢?”
孝文帝回答說：“養馬的地方在代郡，何愁沒有馬呢?如今代郡在恆山以北，九州範圍之外，不適合做帝王的都城。”
尚書於果說：“我並不認爲代郡勝過洛陽，但是自從道武皇帝以來，就一直居住在這裏，老百姓已經安居於此，一旦讓他們往南邊遷移，恐怕會產生不滿情緒。”
平陽公拓跋丕說：“遷都是一件大事，應當通過卜筮來決定。”
孝文帝說：“古代的周公、召公是聖賢之人，所以才能卜問何處安居，如今沒有他們這樣的聖賢了，卜筮又有什麼用處呢?況且古人曾經說過：‘占卜的目的是要決定有懷疑的事情，如果沒有猶疑，何必占卜?’過去，黃帝占卜而龜甲燒焦，不能顯示兆象，天老說是‘吉’，黃帝聽從了。這樣說來，最聖賢的人對未來的預測就比龜甲還要靈驗。再說王者以四海爲家，哪有什麼長久居留之處!朕的遠祖，世代居住在北邊的荒野，平文皇帝才建都於東木根山。昭成皇帝又經營盛樂城，道武皇帝遷居到平城。朕很幸運遇上了能平定天下、施行教化的時運，爲什麼就不能遷都呢?”
羣臣們都不敢再表示反對意見了，孝文帝駕臨朝堂，親自主持部屬了遷往新都洛陽和留在平城的人事、機構安排事項。
