康山乡位于鄱阳湖东南岸、余干县西北端的半岛上，自汉唐开始原名为康朗山，解放后定名为康山公社；1983年改名为康山乡。

全乡辖区面积222平方公里，其中陆地面积36平方公里，湖区面积186平方公里，耕地面积2016亩，下辖府山、团结、王家、大山、金山、山头等6个村委会。乡政府驻袁家。