在今江苏铜山县东南吕梁。《元和志》卷9彭城县：吕梁故城“在县东五十七里。春秋时宋之吕邑，至汉以为吕县。城临泗水，高一百四十尺，周回十七里。此城东二里有三城，一在水南，一在水中上，一在水北，并高齐所筑，立镇以防陈寇”。《陈书·吴明彻传》：太建七年(575)，“进攻彭城。军至吕梁，齐遣援兵前后至者数万，明彻又大破之”。

在今江苏省铜山县东南废黄河北岸吕梁集，即汉吕县故城。《魏书·地形志》吕县有吕梁城。《元和郡县志》：“城临泗水(今废黄河)，高一百四十尺，周回十七里。”南北朝时为戍守要地。梁太清元年(547年)武州刺史萧弄璋攻拔东魏碛泉、吕梁两戍，即此。此城东二里又有三城，一在水南，一在水中上，一在水北，并高齐所筑，立镇以防陈。