Setelah lulus dari Sekolah Tinggi Hukum pada 1932 sebagai Sarjana Hukum Yamin bekerja sebagai pengacara hingga 1938.
Selama itu pula, dia juga berpolitik dan memikirkan perjuangan bangsa.
Tak ayal, dia pun senang sekali ketika Volksraad menawarkankursi.
Sebagai anggota Dewan Rakyat, Yamin punya kesempatan untuk berjuang.
Waktu itu Yamin masih tercatat sebagai anggota Gerindo.
Dan Gerindo tak sependapat dengan Yamin mengenai keanggotaannya di Dewan Rakyat kemudian dirinya pun dipecat.
Setahun kemudian Yamin membentuk partai baru, PPI (Partai Persatuan Indonesia).
Ketika ada GAPI, PPI bergabung.
GAPI menerima PPI tetapi menolak Yamin sebagai utusannya dengan alasan bahwa Yamin mau kerjasama dengan Belanda.
Padahal sejak mahasiswa Yamin aktif dalam pergerakan kemerdekaan.
Bahkan tahun 1926 (selama 2 tahun) Yamin menjabat Ketua JongSumatranen Bond.
Di antara semua itu, peran Yamin yang paling menonjoldalam pergerakan, terjadi dalam tahun-tahun menjelang SumpahPemuda.
Ya, saat rakyat Indonesia perlu dorongan untuk membangkitkan persatuan dan kebangsaan, Yamin hadir di sana.
Dari bukubuku tebal yang dibacanya, Yamin tahu bagaimananenek moyang bangsa Indonesia pindah dari daratan asing ke pulau-pulau di belahan bumi Selatan.
Setiba di Indonesia mereka berpencar, perkembangan yang terjadi kemudian tidak seragam.
Namun, dasar kebudayaan yang digunakan sebagai landasan perkembangan tetap sama.
Baca Juga : Bukan W.R. Supratman, Inilah Orang Pertama yang Menyanyikan Lagu Indonesia Raya dalam Kongres Pemuda II
Fakta-fakta itulah yang membuat Yamin merumuskan konsep persatuan dengan tepat yang kemudian mewujud dalam Sumpah Pemuda 1928.
Yamin menjadi salah satu tokoh Sumpah Pemuda yang berpengaruh.