弘化4年12月22日（1848年1月27日）、薩摩国の鹿児島城下に、薩摩藩士・東郷実友と妻益子の四男として生まれた。幼名は仲五郎。

14歳の時に元服し、文久3年（1862年）、薩摩藩士として薩英戦争に従軍し初陣、慶応3年（1867年）6月に分家して一家を興す。
戊辰戦争では春日丸に乗り組み、新潟・箱館まで転戦して阿波沖海戦や箱館戦争、宮古湾海戦で戦った。

明治の世の中になると海軍士官として明治4年（1871年）から同11年（1878年）まで、イギリスのポーツマスに官費留学する。
イギリスに官費留学する際、最初は大久保利通に「留学をさせてください」と頼み込んだが色よい返事はもらえなかった。大久保の次に西郷隆盛に頼み込んだところ、「任せなさい」と快諾、ほどなく東郷のイギリス留学が決定したという風説がある。

当初ダートマスの王立海軍兵学校への留学を希望したがイギリス側の事情で許されず、ゴスポートにある海軍予備校バーニーズ・アカデミーで学び、その後に商船学校のテムズ航海訓練学校で学ぶことになる。留学先では「To go, China」とからかわれるなど苦労が多かったが、函館戦争の宮古湾海戦に参戦していたことを告げると、一躍英雄として扱われることとなった。