生於安政4年(1857年7月24日)，为-岩手县水泽市人。明治6年(1873年)入福岛第一洋学校学习医学课程，後来转学到须贺川医学校，毕业後，後藤新平到名古屋爱知县医院工作，从医师一路晋升到医学校校长及院长。明治16年(西元1883年)开始在卫生局工作，并於明治23年(-0年)到德国留学取得医学博士学位，回国後随即担任卫生局长，推行一连串的社会政策。明治31年(-8年)，受儿玉源太郎赏识担任-民政局局长(後来改制成民政长官)一职，由於儿玉长期不在-，故所有行政事务几乎都是由後藤新平负责，後藤以生物学原理作为统治基础，展开-旧惯、土地等调查、并施行鸦片渐禁、户口普查等政策，藉此了解与利用-社会风俗习惯，进而达到统治的目标。
此外，後藤新平十分重视交通建设，在其任内兴建道路、铁路，改善卫生，推行上下水道的工程；他并任命新渡户稻造为殖产局局长，发展-产业，以糖业为主，-糖业得以大幅度发展。明治39年(1906年)转任南满州铁道株式会社总裁，之後又陆续担任桂太郎内阁的递信大臣、寺内正毅内阁的内务大臣等职务，并在昭和3年(1928年)受封为伯爵，昭和4年(1929年4月13日)过世，着有《国家卫生原理》等书传世。