Mereka merasa membutuhkan dukungan untuk bisa bersatu demi kemerdekaan.
Muncul inisiatif untuk bisa menggabungkan dari para perhimpunan pemuda ke dalam sebuah musyawarah besar.
Kongres Pemuda I akhirnya dilakukan pada 30 April sampai 2 Mei 1926.
Ceramah-ceramah yang diberikan dalam kongres itu belum bisa menyatukan persatuan Indonesia.
Masih adanya ego kedaerahan yang kuat dari tiap kelompok.
Kemudian, mereka sadar bahwa ego kedaerahan itu akan mempersulit Indonesia untuk bersatu dan berjuang melawan penjajahan.
Pada 27 sampai 28 Oktober 1928, kebanggaan dan rasa senasib para pemuda sebagai anak bangsa menjadikan mereka berkumpul lagi.
Kongres Pemuda II digelar, dengan kepanitiaan dari berbagai perkumpulan.
Sugondo Djojopuspito dari PPPI sebagai ketua, Djoko Marsaid dari Jong Java sebagai wakil ketua, Mohammad Yamin dari Jong Sumatranen Bond sebagai sekretaris, dan Amir Sjarifuddin dari Jong Batak sebagai bendahara.
Mereka berkumpul di Batavia (Jakarta) dan mulai menyatakan sebuah kesepakatan bersama akan pentingnya persatuan pemuda.
Deklarasi pun dilakukan, dan dikenal dengan nama "Sumpah Pemuda".
Istilah "Sumpah Pemuda" sendiri tidak muncul dalam putusan kongres tersebut, melainkan diberikan setelahnya.