遮山镇位于河南南阳镇平县东部11公里处，312国道、宁西铁路横穿全境，东隔潦河与卧龙区王村乡相望，西南与彭营乡相邻，西北与柳泉铺乡接壤。

全镇辖夏庄村、罗庄村、马营村、小苏庄村、朱岗村、中其营村、张湾村、铁匠庄村、孔营村、倒座堂村、韩沟村、陈沟村、白沟村、陈善岗村、王沟村、东魏营村、东杨庄村17个行政村。