Pada tahun 1977, setelah menghabiskan dua tahun di penjara, Gotti dibebaskan. Dia langsung secara resmi diinisiasi ke dalam keluarga Gambino.
Di sini, aktivitas Gotti benar-benar meningkat, dan keburukannya meningkat secara eksponensial.
Misalnya dia mencuri uang tunai dan perhiasan senilai hampir 6 juta Dollar AS, menjadikannya perampokan uang tunai terbesar yang pernah ada di AS.
Pada tahun 1980, setelah putra Gotti yang berusia 12 tahun tewas dalam suatu kecelakaan, pria yang bertanggung jawab menghilang, mungkin atas perintah Gotti.
Gotti lalu bersaing dengan Paul Castellano, penjabat kepala keluarga Gambino. Hingga Castellano tewas.
Sebulan kemudian, Gotti dikukuhkan sebagai kepala keluarga Gambino.
Jabatan itu membuatnya mendapat julukan "Teflon Don" karena sering mengancam saksi, menyuap anggota juri, membom informan dan saingan, dan memerintahkan pembunuhan.
Suatu hari, FBI mulai mengejar Gotti.
Pada tahun 1990 Gotti ditangkap atas tuduhan pemerasan, dan juga dituduh melakukan lima pembunuhan, konspirasi pembunuhan, lintah darat, perjudian ilegal, penghalang keadilan, penyuapan dan penghindaran pajak.
Pada tahun 1992 Gotti dinyatakan bersalah dalam segala hal, dan dijatuhi hukuman penjara seumur hidup tanpa kemungkinan pembebasan bersyarat.
Pada tahun 1998, ia didiagnosis menderita kanker tenggorokan. Dia lalu meninggal pada tahun 2002 di Pusat Medis AS untuk Tahanan Federal di Springfield, Missouri.