Cederbergin vanhemmat olivat pankinkomissaari Johan Cederberg ja Brita Karolina Sevonius. Hän pääsi ylioppilaaksi 1881, suoritti yleisen oikeustutkinnon 1886 ja sai varatuomarin arvon 1889.
Uransa alussa Cederberg toimi asianajajana Vaasassa 1889–1896. Hän oli Vaasan hovioikeudessa kanslistina 1896, notaarina 1896–1902 ja varakanneviskaalina 1902–1903. Ensimmäisen sortokauden aikana Cederberg erotettiin virastaan 1903 valtiollisista syistä ja hän toimi asianajajana Vaasassa 1903–1906. Vuonna 1906 hän pääsi palaamaan virkaansa ja toimi sitten Vaasan hovioikeuden asessorina 1906–1914, hovioikeudenneuvoksena 1914–1927 ja hovioikeuden presidenttinä 1927–1933.
