中津藩士・中上川才蔵の長男。福沢諭吉の甥。慶応義塾に学び、教師を経験後、明治7(1874)年イギリスに留学。帰国後は井上馨の推挙により、工部省、外務省に出仕。公信局長となるも明治14年の政変で辞職し、時事新報社、山陽鉄道の社長となる。24年井上の依頼に応え、経営状態が悪化していた三井銀行の理事に就任。三井鉱山、三井物産などの理事なども務め、経営改革を断行。工業化を推進し、芝浦製作所、鐘淵紡績、王子製紙などを傘下に収め、近代的な経営の礎を築き、三井財閥の発展に尽力した。