黄山乡在壶关县县城南部，离县城12公里，处于全县的边缘地带。东与店上乡相接，南与百尺乡近邻，西与长治县西池和荫城两乡镇相接，北与龙泉镇相连。全乡国土52平方公里。其中山地占65%是典型的丘岭山区。全乡气候温差较大，四季分明，雨量较少，年平均气温9℃。生态环境一般，有林占全乡的25%。