Pada periode 1993-2003, sebagai anggota Partai Likud, Olmert sekali lagi menunjukkan prestasinya dan terpilih sebagai Walikota Yerusalem.
Banyak kemajuan yang diciptakan Olmert atas kota Yerusalem. Meski ia juga dapat kecaman karena sejumlah jabatan penting seganja diberikan kepada orang-orang dari Partai Likud.
(Baca juga: Ariel Sharon, Jenderal Israel Penjagal dari Beirut yang Meninggal Setelah 8 Tahun Koma)
(Baca juga: Netanyahu Larang Azan di Masjid, Gereja Palestina Gunakan Pelantang Suaranya untuk Memanggil Solat)
Tahun 2005 Olmert diangkat sebagai menteri keuangan menggantikan Benyamin Netanyahu yang segaja mengundurkan diri.
Netanyahu memprotes penarikan pasukan Israel dari Jalur Gaza dan upaya Ariel Sharon yang ingin memecah Partai Likud.
Ketika Ariel Sharon terpilih lagi sebagai PM, posisi Olmert yang merupakan tangan kanan Ariel adalah sebagai wakil PM.
Jabatan wakil PM tak berlangsung lama karena sekitar empat bulan kemudian setelah Ariel kena stroke, Olmert naik sebagai PM Israel ke-12.
Prestasi sebagai PM ini merupakan puncak karier Olmert.
Namun kejayaan itu terancam pudar setelah Olmert memerintahkan pasukan Israel menggempur Hizbullah di Lebanon.
Pasalnya gempuran habis-habisan untuk membebaskan dua tentara Israel dari tangan Hizbullah itu teryata gagal total.
Secara politik dan militer, pasukan Israel bahkan terpukul mundur dari Jalur Gaza dan pamor Hizbullah bahkan makin meroket di mata duni internasional.