Dia menjadi penghibur dan penyanyi populer di New York dan muncul di beberapa musikal.
Di salah satunya, Sinbad, dibuat pada tahun 1918, ia mengambil komposisi yang relatif tidak dikenal oleh George Gershwin, Swanee, dan menjadikannya lagu khasnya, hingga laku terjual lebih dari dua juta rekaman.
Musikal lain, The Whirl of Society, mendorong karirnya di Broadway ke tingkat yang baru.
Jolson memberi tahu penonton, "Anda belum mendengar apa-apa" sebelum menampilkan lagu tambahan dan memperkenalkan karakter wajah hitam khasnya, "Gus."
Jolson, yang menyebut dirinya sebagai "Penghibur Terhebat di Dunia," adalah salah satu dari banyak seniman yang sering tampil di wajah hitam, mabuk dari pertunjukan penyanyi abad ke-19.
Tampaknya secara inheren rasis sekarang tetapi pembela Jolson mengatakan bahwa di The Jazz Singer dia menggunakan wajah hitam sebagai tidak lebih dari perangkat teater.
Film The Jazz Singer ini bercerita tentang seorang pemuda Yahudi (Jolson) yang diberkati dengan suara nyanyian yang bagus yang terbelah antara karir sebagai penyanyi, terutama musik jazz dan ragtime, musik hitam, dan mengikuti keinginan ayahnya agar ia menjadi penyanyi di sinagoga.
Di komunitas wajah hitam, dia merasa bebas untuk menyanyikan lagu-lagu ragtime dan jazz, tetapi dia tidak meniru ras tersebut.
Surat kabar Harlem, Amsterdam News, tentu tidak tersinggung oleh The Jazz Singer, menyebutnya "salah satu gambar terbesar yang pernah diproduksi."