千佛山原稱歷山，春秋稱靡笄山，戰國稱靡山，南北朝稱舜山、廟山、舜耕山。隋開皇年間，依山勢鑿窟，鐫佛像多尊，始稱千佛山，並建“千佛寺”。唐貞觀年間，重新修葺，將“千佛寺”改稱“興國禪寺”。千佛山遂成為香火勝地。自元代始，每年“九九”重陽節舉辦廟會。解放後，1959年辟建為公園。周邊還有濟南趵突泉公園、濟南大明湖公園、靈巖寺旅遊區等著名的旅遊景點。
千佛山北側有登山盤路三條，蜿蜒回環，松柏夾道，濃蔭蔽日。如行走不便，也可乘車從山東側環山盤路上山，山上名勝眾多。興國禪寺居千佛山山腰，內有大雄寶殿、觀音堂、彌勒殿、對華亭。南側千佛崖，存有隋開皇年間的佛像130余尊，山崖上，由西向東，依次有龍泉洞、極樂洞、黔婁洞、呂祖洞。歷山院在興國禪寺的東側，是儒、道、佛三教合一的大雜院。
千佛山內有舜祠、魯班祠、文昌閣、一覽亭。在千佛山北麓建有集四大石窟於一體的萬佛洞。遊人至此，可一瞻北魏、唐、宋造像之豐采。山東辛亥革命烈士陵園在千佛山東麓，是省級重點文物保護單位。此外還散落著“唐槐亭”、“齊煙九點”、“雲經禪關”古坊等名勝。
