Jupp Heynckes menghabiskan mayoritas kariernya bersama Borussia Monchengladbach di era keemasan dari 1960-1970. Bersama Die Fohlen, Heynckes yang kala itu bermain di posisi striker memenangi tiga juara Bundesliga (1971, 1975-1977), Piala Jerman (1973), dan Piala UEFA (1975).
Heynckes mengakhiri karier sebagai pemain dengan catatan mencetak 220 gol dalam 369 laga Bundesliga. Dia juga masuk dalam skuad tim nasional Jerman saat juara di Piala Dunia 1972 dan Euro 1974.
Dia kemudian menggeluti karier pelatih pada 1978 melatih Monchengladbach delapan musim tapi sangat minim prestasi. Kemudian pindah melatih Bayern Muenchen pada 1987 hingga 1991 dengan dua kali menjuarai Bundesliga.
Heynckes tercatat sebagai pria asal Jerman ketiga yang melatih klub asal Barsque, Athletic Bilbao, dalam sejarah sepakbola Spanyol. Di Basque dia membawa Bilbao ke posisi lima klasemen selama dua musim.
Heynckes mencapai karier tertinggi ketika dia berhasil membawa Real Madrid juara Liga Champions untuk pertama kali dalam 32 tahun pada tahun 1998. Tapi kemudian dia dipecat karena performa buruk Madrid di kompetisi domestik.
Pada 25 Maret 2011, Heynkes kembali melatih Muenchen. Di musim pertamanya dia gagal memberi trofi Bundesliga dan Piala Jerman. Kini kesempatan terakhirnya adalah memenangi Liga Champions.
Jika mampu membawa Muechen juara, maka hal yang sama dilakukannya bersama Madrid. Bisa dikatakan Heynckes lebih akrab dengan juara Champions ketimbang kompetisi domestik
