馬吉芬乘坐輪船千里迢迢來到中國，經過天津美國領事館的介紹下，向籌辦北洋水師的滿清大臣李鴻章求職。由於外國人來求職，對於清廷也算新鮮，李鴻章親自接待。馬吉芬通過考試後，清廷便邀請他擔任教席，在水師學堂教授。事實上，馬吉芬也十分爭氣，不少北洋軍官都師出於他。

作為一名軍校老師，馬吉芬脾氣很好，教學也一絲不苟，十年間名聲非常好。甲午之戰爆發時，馬吉芬本打算回美國老家休息，卻因此而取消了這個原訂計劃，他給母親寫信道：「因為中日戰爭的爆發，我們可能再也見不到面了。可是，我不能逃避，我要留在我的崗位上，堅持到最後。」

馬吉芬曾擔任副艦長的北洋艦隊鎮遠號。(網上圖片)

馬吉芬在書信中更指：「中國人，他們對我非常好，這十年一直都很照顧我。假如，此刻我臨陣逃脫，拋棄我為之奉獻的水師，那麼，我就太可恥了。」據說，他還在信裡用漢字寫下自己的名字，那是中國駐三藩市總領事教他的。

在中日甲午戰爭中，馬吉芬擔任北洋艦隊鎮遠號副艦長。作為隊伍的中堅，他帶領著軍艦衝在最前線。黃海戰役中，日本放出一列縱隊，不斷用炮火攻擊鎮遠號。艦長受傷沒法指揮，馬吉芬見狀，立刻接下了重任。

馬吉芬命令士兵用炮火猛攻敵方旗艦。可是對方船速較高，負隅頑抗沒發揮太大作用，很快，鎮遠號就被三艘日本戰艦團團圍住，在對方一輪密集炮彈攻擊下，馬吉芬多處受了傷，其中一處還在頭上，眼睛差點也看不見。在戰事結束後，他頭上還纏著紗布，在相機面前留下珍貴影像。

馬吉芬戰場受傷後留影。(網上圖片)

由於指揮有度，又作戰英勇，受傷的馬吉芬獲上級嘉獎，但就未有再上戰場。不久，北洋水師全部葬送在日本人的手中，丁汝昌亦服毒自盡。由於丁汝昌是馬吉芬一直敬重的上級，噩耗傳到馬吉芬處後，他氣血上湧暈了。戰爭結束後，馬吉芬聽說朝廷要拿他問罪，想讓他這名美國人做代罪羔羊。他遂匆忙逃竄，離開了中國。

當時，西方輿論普遍認為，中國之所以輸給日本是因為愚昧和怯懦，不如日本軍人英勇。馬吉芬自然心有不服，回美國後，就一直以見證大戰者的身份，致力向大眾講北洋水師如何英勇奮戰，還不顧自己傷口還沒有完全癒合。作為一名在中國水師就職過的人，他認為：「自己有必要，也有責任讓各國人民都知道，中國人當時面臨的是怎樣的一場殘酷的戰場，應冷靜而客觀地分析北洋水師失敗的原因。」

甲午黃海海戰示戰圖。右為美國《世紀雜誌》於1895年5至10月間刊登了馬吉芬繪畫的相關地圖。(網上圖片)

可是，沒有多少人相信他的話，反而認為他的腦袋因為在戰爭中受傷而壞了，他說的都是瘋話。馬吉芬無論如何解說，都無法扭轉美國人的觀念，最終，喪失了全部信心的他，決定結束自己的生命。

1897年2月12日，在丁汝昌的兩周年死祭日，馬吉芬穿上之前穿過、飽歷戰火的軍服，用一把槍結束了自己年輕的性命。兩年前，他的長官和戰友們都去了地府，如今也追隨著他們的腳步去了。在遺囑中，馬吉芬要求：「在自己的棺材上蓋著中國的黃龍旗。」這支旗曾在馬吉芬與日本激戰的鎮遠艦上飄揚過，是他專門從中國帶回家鄉的。

年輕時的馬吉芬(右)和他於美國賓夕凡尼亞州的墓碑。(網上圖片合成)

馬吉芬的墓誌銘上刻著：「謹立此碑以紀念一位雖然深愛著自己的祖國，卻把生命獻給了另一面國旗的勇士(This tablet is erected in memory of a Brave Man who loved his own but gave his life for an alien flag).......一顆破碎的和懺悔的心靈，哦，主啊，希望不要輕視我。」