1894年12月1日，美國著名雜誌《哈潑斯週刊》發表了長篇報道《美國在華的袖手旁觀》，文章以美國政府將跑入美國駐上海領事館尋求避難的兩名日本間諜交給中國當局爲切入點，尖銳地攻擊了美國政府對華政策的軟弱，並指責軟弱的美國政府正是這兩名日本青年被殺害的幫兇。這篇文章引起了美國社會的巨大震動，在野的美國共和黨如獲至寶，隨即抓住這一事件向民主黨政府發起了猛烈攻擊。隨後，支持政府的參議員們也開始站出來護駕，議會內爆發激烈鬥爭。
引起這場巨大政治風波的事件，在美國曆史上被稱爲“上海間諜事件”。這兩名成爲中、美、日三國外交關注焦點的日本人叫楠內有次郎和福原林平。
楠內有次郎原是日本九州佐賀縣人，1890年前往上海日清貿易研究所學習間諜技術，畢業後回到日本。1894年，他陪同橫濱貿易新聞社社長再次來到中國，後因病留在上海，直到甲午戰爭爆發。在此期間，他已經開始從事間諜活動。福原林平是日本岡山縣人，年輕時慨然以國士自許，後來也進入上海日清貿易研究所學習，畢業後回到日本。1893年11月再次回到上海，從事間諜活動。
甲午戰爭爆發後，楠內、福原都在上海潛伏下來，以商人的名義從事間諜工作，不久奉命到滿洲內地偵察軍情。他們的預定計劃是，先乘船到營口，經遼陽抵奉天，再去遼陽，返回奉天后將情報以電報形式發到上海，之後再前往鳳凰城，將沿途所見軍情隨時報告，之後向鴨綠江行進，調查入朝清軍數量及沿途軍情，提供給已經在朝鮮境內的日本第一軍，然後爲該軍帶路。
但是，人算不如天算，他們原定的8月11日的班船被取消，下一班要到14日才能開行。考慮到同時出發可能會引起懷疑，兩人遂決定假冒湖北商人住到法租界的同福客棧。8月14日半夜，楠內、福原兩人在同福客棧被上海道臺衙門的差弁抓獲，被搜出攜帶有關東地圖和清軍軍官名錄等物。但因人犯是在法國租界內被抓獲，所以只能移交法國巡捕房。而法國方面則乾脆將兩人交給美國駐上海總領事，因此惹出了這件驚天大案。
中日甲午戰爭爆發後，美國受中日兩國委託，擔負起“調停人”的角色，爲兩國在對方國家中照顧僑民及其利益。根據“調停人”原則，法租界當局將日本人交由美國外交官處理，倒也還在理上。
兩名日本間諜向美國總領事佐尼幹宣稱受到中國政府誣告，並要求獲得庇護。佐尼幹很快批准了日本人的要求，並拒絕了中國政府的引渡要求。但清廷也不示弱，立即向美國駐華臨時公使小田貝提出嚴正交涉(小田貝的父親老田貝是駐華公使，此時回國休養，由其子代辦);同時，總理衙門還指示中國駐美公使楊儒立即向美國國務院進行交涉。
時任美國國務卿的葛禮山是律師出身，一切行爲講究法治和條理。他聞訊大驚，立即指示小田貝，美國外交機構沒有權力庇護任何被中國政府指控有罪的日本人。但小田貝認爲，既然美國充當了“調停人”，那麼在華日本人自然獲得美國在華享受的治外法權，兩名日本間諜不應被引渡給中國。兩人爲此發生激烈爭論。
見在法理上難以說服葛禮山，小田貝又訴諸道義，他認爲如果接受中國的引渡要求，兩名日本人必然會被中國刑訊折磨並最終殘酷處決。但葛禮山依舊不爲所動，小田貝只好下令佐尼幹於9月3日將日本間諜移交給上海道臺。與此同時，葛禮山與楊儒在華盛頓達成君子協議，中國政府承諾給日本間諜公正的審判，並在老田貝返回北京任上之前，不作出任何終審判決。
兩名日本間諜被移交給中方後，清政府十分重視，兩江總督劉坤一親自下令將人犯押到南京審訊。同時，在天津和浙江又先後破獲了三起間諜案，都受到美國領事的強烈干預，美國軍艦甚至應美國駐寧波領事福樂的要求前往示威。
美國國務院明確了美國處理此類事務中的界限後，天津和浙江的間諜案也很快審理完畢。此時，小田貝對葛禮山的指令仍耿耿於懷，繼續寫信與其辯論法律問題，尤其指出上海有着十分複雜、相互糾纏的中西審判體系，完全不必將日本人引渡給中國。他認爲葛禮山向中國政府妥協的舉動，將會破壞西方人在中國享有的治外法權，導致中國本土審判權的復歸。這其實正是問題的本質，因爲在華的西方人普遍對葛禮山感到不滿，認爲美國政府此舉大長了華人的威風，大傷了洋人的面子。
同樣被葛禮山激怒的還有駐寧波領事福樂，他是一位著名的擴張主義者，他將這些事件通報給了共和黨的聯邦參議員洛奇，後者隨即在國會對葛禮山的政策進行了猛烈攻擊。在議員的鼓動下，美國報刊開始連篇累牘報道上海間諜事件，攻擊葛禮山和現政府，認爲是美國政府的冷血和愚蠢葬送了兩名日本青年的生命。《紐約世界報》更是公開質問“葛禮山腦子是否正常”，認爲“一個正常的領導人不會這麼做的”。
此時，上海間諜事件已然引發了美國國內政治鬥爭。在親政府的議員幫助下，葛禮山最終抵抗住了國會中反對派的猛烈攻擊。此外，他還指責中國公使楊儒沒有遵守雙方約定，使得中國政府擅自處決了兩名日本人。楊儒一開始還推說中國政府不可能實施處決，隨後則辯護說，他從未向葛禮山承諾過不處決日本人，是葛禮山誤解了他的意思。之後沒過多久，心力交瘁的葛禮山便猝死在辦公室內，成爲少數殉職在工作崗位上的美國政治家之一。
有意思的是，在這場間諜風波中，日本的外交機構並沒有在前臺大肆活動，而日本外交文件顯示，他們在認真研究相關法律後，也認爲美國政府的確沒有權力干預中國對日本間諜的審判和處置。這也成爲美國支持民主黨的報刊爲政府辯護的重要理由。
這一轟動美國的上海間諜事件，不僅譜寫了中、日、美之間的“三國演義”，更引爆了美國內部政治鬥爭，成爲美國內政、外交的焦點問題，轟動一時。而在各方彼此攻擊的大量報道中，清政府的野蠻、落後、背信的形象被進一步宣揚，爲日後美國大規模的排華運動積累了相當的民意基礎。這一事件是剛剛走出內戰的美國第一次介入國際事務，是其主動“睜眼看世界”和“伸手管世界”的開始。
自此之後，美國的東亞政策被徹底修改，不干預主義讓位於炮艦政策，跟在獅子後面揀骨頭吃的“豺狼外交”被放棄，美國越來越深地開始主動捲入東亞事務。同時，上海間諜事件也是清政府最後一次得到西方大國的平等對待，此後的甲午戰爭徹底暴露了清政府的虛弱，世界上再也沒有一個強國給予清政府平等待遇，如何瓜分中國成爲國際政治主流問題。
