父は広島藩士中山源蔵。明治20(1887)年東京専門学校(後の早稲田大学)卒。22年藝備日日新聞の持主、早速勝三の養子となり、同年同社社長兼主筆となる。29年広島県会議員、34年広島市会議員を経て、35年衆議院議員(当選8回)。翌年広島商業会議所会頭、大正4(1915)年衆議院副議長、13年鉄道次官、大蔵政務次官、14年加藤高明内閣の農相、15年若槻内閣の蔵相を務めた。