Situé dans le nord de la province de Namur, Jemeppe-sur-Sambre se trouve à la confluence de l'Orneau et de l'ancien cours de la Sambre.
D'une superficie totale de 46,80 km2, la commune englobe les villages de Jemeppe-sur-Sambre, Ham-sur-Sambre, Moustier-sur-Sambre, Spy, Mornimont, Balâtre, Onoz et Saint-Martin.