Karier militernya terus menanjak. Pada 1949 ia dipercaya memimpin unit intai tempur Brigade Golani.
Tak hanya berkarier di militer, tahun 1950 Ariel masuk Universitas Ibrani Yerusalem dan mengambil studi Sejarah dan Kultur Timur Tengah.
Karena konflik Israel-Palestina makin memanas setahun kemudian, Ariel aktif kembali di militer Israel dengan pangkat mayor dan memimpin unit khusus Unit 101.
Unit pasukan khusus yang bertugas menyergap gerilyawan Palestina ini dikenal kejam. Pada 1953 mereka pernah membantai 69 penduduk Palestina.
Akibat peristiwa pembantaian itu, Ariel mendapat julukan baru, Penjagal dari Beirut.
Perang demi perang terus dijalani Ariel mulai dari perang di Terusan Suez (1956), Perang Enam Hari (1967), dan Perang Yom Kippur (1973).
Perang yang membuat nama Ariel Sharon naik turun itu rupanya membuat nasibnya tetap beruntung mengingat pangkat mayor jenderal berhasil disandangnya.
Foto Ariel yang bagian kepalanya terbalut perban saat bertempur di Terusan Suez bahkan menjadi simbol kekuatan militer Israel.