Abe ditembak dua kali, dengan tembakan kedua mengenai punggungnya, menyebabkan dia jatuh ke tanah.
Laporan mengatakan penyerangnya telah ditangkap.
Mantan gubernur Tokyo Yoichi Masuzoe mengatakan dalam sebuah tweet bahwa Abe yang berusia 67 tahun berada dalam keadaan henti jantung.
Istilah ini sering digunakan sebelum kematian secara resmi dikonfirmasi di Jepang.
"Mantan perdana menteri Abe ditembak sekitar pukul 11:30 waktu setempat (02:30 GMT) di Nara. Seorang pria, yang diyakini sebagai penembak, telah ditahan. Kondisi mantan perdana menteri Abe saat ini tidak diketahui," kepala sekretaris kabinet Hirokazu Matsuno mengatakan kepada wartawan.
"Apa pun alasannya, tindakan barbar seperti itu tidak akan pernah bisa ditoleransi, dan kami mengutuk keras itu."
Video yang beredar di media sosial, yang tidak dapat diverifikasi, tampak menunjukkan paramedis berkerumun di sekitar Abe di tengah jalan. Ia kini dikabarkan telah dilarikan ke rumah sakit.
Mr Abe sedang memberikan pidato tunggul untuk seorang kandidat di Nara ketika serangan itu terjadi - saksi mata mengatakan mereka melihat seorang pria dengan apa yang mereka gambarkan sebagai tembakan senjata besar dari belakang.
Tembakan pertama tampaknya meleset tetapi tembakan kedua mengenai punggung Mr Abe.
Dia segera jatuh ke tanah berdarah. Keamanan kemudian menahan penyerang yang tidak berusaha melarikan diri.
Penyiar berita lokal NHK mengatakan Abe "sadar dan responsif" saat diangkut setelah penembakan, mengutip sumber polisi.
Penyiar juga menambahkan bahwa polisi telah menyita senjata penyerang dan mengidentifikasi dia.
KOMENTAR