说起进香河的起源，最早可上溯至东吴大帝孙权在南京建都时。当时，此地靠近皇宫，地位十分重要。于是，孙权下令引后湖(玄武湖)水开凿潮沟，并与运渎、青溪、秦淮河和玄武湖相连，构成当时南京的河道体系。进香河最早就是潮沟的一部分。据说，六朝时秦淮河上的船队可经潮沟直抵皇宫门前。
.jpg)
隋灭陈后，隋文帝杨坚下令平毁南京城，潮沟便失去了它的作用，慢慢地便被淤塞了。直到明朝初年，明太祖朱元璋在南京建都后，在鸡笼山(北极阁)上大建庙宇，据统计，当时鸡笼山上建有历代帝王庙、关公庙、真武庙、功臣庙、蒋王庙、都城隍庙、卞壶庙(纪念东晋忠臣卞壶)、忠烈庙、刘越王庙(纪念南唐大将刘仁)、曹武惠王庙(纪念北宋开国功臣曹彬)共十座庙宇，统称为“十庙”。后来，为了方便人们来鸡笼山进香礼佛，朱元璋下令疏通了山下已淤塞多年的潮沟。久而久之，来鸡笼山进香的人便把这条河称为“进香河”了。据说，当年朱元璋的皇后马娘娘也曾从这条河到鸡笼山进香，因此，在民间也有人称之为马娘娘进香河。