Tervon vanhemmat olivat torppari Samuel Tervo ja Lovisa Korkala. Hän oli renkinä, metsätyöläisenä ja tehdastyöläisenä 1881–1887 ja toimi sitten suutarina 1887–1908. Tervo oli Oulun läänin eteläisen vaalipiirin sosialidemokraattien piirisihteerinä 1908–1913, Kotkan työväen osuuskaupan kenkämyymälänhoitajana 1913–1917 ja Viipurin osuusliikkeen jalkineosastonhoitajana 1917–1924. Vuodesta 1924 alkaen hän oli Kuopion läänin itäisen vaalipiirin sosialidemokraattien piirisihteerinä Joensuussa
Tervo oli kansanedustajana 1911–1914 edustaen Oulun läänin eteläistä vaalipiiriä sekä 1927–1929 ja 1936–1948 edustaen Kuopion läänin itäistä vaalipiiriä. Hän oli presidentin valitsijamiehenä vuosien 1937, 1940 ja 1943 presidentinvaaleissa ja kuului Joensuun kaupunginvaltuustoon.
Tervo oli naimisissa vuodesta 1904 Hilma Maria Jaarasen kanssa.[1]
