Sarmuji tercatat pernah menjadi Ketua Koperasi Mahasiswa Universitas Jember periode 1996–1998 dan Ketua HMI Cabang Jember periode 1998–2000. Kiprahnya di HMI berlanjut hingga tingkat nasional dengan menjadi Ketua Umum PB HMI periode 2001–2002.
Setelah itu, aktivitas organisasinya berkembang ke berbagai organisasi kepemudaan dan kemasyarakatan. Ia pernah menjabat Wakil Sekretaris Jenderal DPP AMPI periode 2003–2009, Ketua KNPI periode 2008–2011, serta Sekretaris Jenderal PP AMPG periode 2010–2015.
Sarmuji juga tercatat pernah menjadi Wakil Sekretaris Jenderal HKTI periode 2011–2014 dan Dewan Penasihat Forum Silaturahmi Santri (FORSIS) periode 2008–2014.
Meniti Karier di Golkar dan DPR RI
Karier politik Sarmuji berkembang di Partai Golkar. Ia pernah dipercaya sebagai Wakil Sekretaris Jenderal bidang Pemenangan Pemilu Jawa dan Kalimantan DPP Partai Golkar periode 2014–2019.
Sebelum terjun sebagai anggota DPR RI, Sarmuji juga pernah menjadi tenaga ahli Fraksi Partai Golkar di DPR pada 2007–2014.
Ia pertama kali terpilih sebagai anggota DPR RI pada Pemilu 2014 dari daerah pemilihan Jawa Timur VI yang meliputi Kabupaten Blitar, Kediri, Tulungagung, dan Trenggalek.
Sarmuji kembali terpilih sebagai anggota DPR RI pada Pemilu 2019 dan Pemilu 2024. Dengan demikian, ia telah menjalani tiga periode sebagai anggota DPR RI.











