Bayard valittiin Delawaren edustajana Yhdysvaltain senaattiin vuoden 1868 vaaleissa, joissa hänet valittiin isänsä James Asheton Bayard nuoremman seuraajaksi. Bayard astui virkaansa seuraavan vuoden tammikuussa ja toimi senaattorina aina vuoteen 1885 saakka. Senaatissa Bayard toimi muun muassa valtiovarainvaliokunnan puheenjohtajana 1879–1881 ja senaatin puheenjohtajana pro tempore 10. lokakuuta 1881 – 13. lokakuuta 1881[lähde? ]. Hän oli demokraattien presidenttiehdokas 1876. Vuonna 1885 presidentti Grover Cleveland nimitti Bayardin Yhdysvaltain ulkoministeriksi. Bayard toimi ulkoministerinä aina vuoteen 1889 saakka. Tämän jälkeen Bayard toimi vielä Yhdysvaltain Britannian suurlähettiläänä 1893–97.[1]
Yksi Bayardin lapsista oli Thomas F. Bayard Jr.[1], joka isänsä ja isoisänsä tavoin toimi myös myöhemmin senaattorina.