Mechelin oli aikansa keskeisimpiä poliitikkoja ja osallistui kaikille säätyvaltiopäiville vuosina 1872–1906 sekä toimi senaattorina 1882–1890. Politiikassa hän kuului ruotsinkielisten liberaalien tärkeimpiin johtajiin ja kirjoitti vuonna 1880 Liberaalisen puolueen ohjelman, joka oli Suomen ensimmäinen kirjoitettu puolueohjelma. Kameraali- ja hallintolainopin sekä valtio-oikeuden professorina 1874–1882 toiminut Mechelin tarkasteli Suomen ja Venäjän suhteita oikeuskysymyksenä. Hän muotoili systemaattiseksi opin, jonka mukaan Suomen suuriruhtinaskunta oli suvereeni valtio ja tasaveroisessa unionisuhteessa Venäjään. Hän myös levitti tätä oppia vuosien ajan ulkomaille, varsinkin valtio-oikeudellisella esitelmällään Précis du droit public du Grand Duché de Finlande (1886), jonka on katsottu muodostuneen Suomen ja Venäjän välisen oikeustaistelun lähtölaukaukseksi. Sortovuosien aikana Mechelin toimi perustuslaillisten keulakuvana ja johti passiivista vastarintaa, vuodet 1903–1904 maanpaossa. Sortokausien välisenä ajanjaksona 1905–1908 hän johti Mechelinin senaattina tunnettua Suomen ensimmäistä poliittista hallitusta. Sen aikana toteutettiin eduskuntauudistus, mutta muissa yhteiskunnallisissa tavoitteissaan se suurelta osin epäonnistui.
