Kemudian, Yu Bing juga membujuk Kaisar Cheng untuk menyerahkan tahta kepada adiknya Sima Yue Pangeran Langya, juga putra dari saudara perempuannya Permaisuri Yu Wenjun, sengan alasan bahwa dengan saingan kuat Zhao di utara, kekaisaran membutuhkan seorang kaisar dewasa.
Kaisar Cheng setuju, dan menunjuk Sima Yue sebagai pewaris.
Sima Yue pun naik takhta sebagai Kaisar Kang ketika, tetapi dia meninggal tak lama kemudian.
Sima Pi yang berusia satu tahun malah diangkat menjadi Pangeran Langya. Dia melanjutkan gelar itu setelah kematian Kaisar Kang pada tahun 344, karena Kaisar Kang memilih untuk memberikan tahta kepada putranya yang masih bayi, Sima Dan (sebagai Kaisar Mu).
Tidak diketahui kapan dia menikahi istrinya Wang Muzhi, hanya saja dia menyandang gelar Putri Langya.
Seolah ditakdirkan menjadi kaisar, setelah tersingkir dari jalan menuju takhta, Sima Pi akhirnya sampai di sana juga.
Pada 361, Kaisar Mu meninggal tanpa seorang putra. Ibu Kaisar Mu Janda Permaisuri Chu memerintahkan agar Sima Pi menjadi kaisar.
Sima Pi pun naik takhta sebagai Kaisar Ai pada usia 20 tahun.
Dia pun mengangkat istrinya Putri Wang sebagai permaisuri, dan saudaranya Sima Yi, yang sebelumnya menyandang gelar Pangeran Donghai, sebagai Pangeran Langya.
Sejak dia dewasa, Janda Permaisuri Chu tidak menjabat sebagai wali untuknya, dan dia menghormati ibunya Selir Zhou sebagai Janda Permaisuri pada tahun 362.