五山街建于1953年由天河区五山镇改称而成。“五山”名来源有两种说法。一说驻地被五个山头环绕，中间形成盆地山塘，人们喻为“五马饮泉”，因此地形得名“五山”。另一说此地多山，以“五山”泛指多山而得名。2005年街包含12个社区居委会，2005年全街10.59平方公里，95648人，其中常住74148人，外来暂住21500人，密度每平方公里9032人。