‘Raja bola' ini dilahirkan pada 23 Disember 1935 di Rantau, Negeri Sembilan. Dato' Abdul Ghani aktif dalam sukan bola sepak sejak tahun 1954 iaitu dengan menyertai pasukan Selangor Rangers dan Kelab Polis Depot. Pada tahun 1957 beliau mewakili Malaysia dalam Pestabola Merdeka. Perlawanan pertama Pestabola tersebut diadakan di Stadium Merdeka pada sebelah malam dan keesokannya berlangsung upacara Kemerdekaan Negara 31 Ogos 1957. Sebagai seorang inside forward yang licik dan lincah pada tahun 1960an, permainannya di depan gol sering menggerunkaan pihak lawan. Beliau juga dapat mengeksploitasikan setiap peluang yang diberikan.
Kenangan yang tidak mungkin dapat dilupakan oleh setiap peminat bola sepak ialah apabila beliau bersama rakan-rakan sepasukan berjaya merampas Piala Merdeka semasa Ulangtahun Pertandingan Piala Merdeka yang pertama pada tahun 1959. Semasa permainan hampir tamat, beliau melakukan tendangan sudut yang cantik untuk ditanduk masuk oleh Arthur Koh bagi gol kemenangan Malaya, 2-1 mengalahkan Hong Kong. Pada tahun 1962, Dato' Abdul Ghani ditawarkan oleh Cardiff City, sebuah pasukan Liga England sebagai pemain profesional tetapi beliau menolak, sebaliknya menjelajah England dan Eropah selama empat bulan.
Sepanjang penglibatan beliau sebagai pemain bola sepak negara, beliau menghadiri Kursus Jurulatih FIFA dan berjaya memiliki Sijil jurulatih yang diiktiraf oleh badan bola sepak berprestij itu. Beliau menjadi jurulatih kebangsaan dari tahun 1971 hingga 1976. Kini, beliau merupakan jurulatih di peringkat kelab di samping menguruskan perniagaannya, Sistem Letronik Maju Sdn. Bhd. Bagi mengenang jasa dan sumbangan dalam bidang sukan tanah air, beliau telah dianugerahkan Olahragawan Kebangsaan pada tahun 1959 dan Pingat Ahli Mangku Negara (AMN) dan Pingat Jasa Kebaktian (PJK).