假山具有多方面的造景功能，如構成園林的主景或地形骨架，劃分和組織園林空間，布置庭院、駁岸、護坡、擋土，設置自然式花臺。還可以與園林建筑、園路、場地和園林植物組合成富于變化的景致，借以減少人工氣氛，增添自然生趣，使園林建筑融匯到山水環境中。因此，假山成為表現中國自然山水園的特征之一。
園林庭院中人工迭石而成供觀賞的小山。《史記·孝武本紀》所載 漢武帝 于 太液池 筑三神山，即假山之類。 唐 鄭谷 《七祖院小山》詩：“ 峨嵋 咫尺無人去，卻向僧窗看假山。” 宋 司馬光 《涑水紀聞》卷二：“王嘗作假山，所費甚廣。” 清 孫枝蔚 《園中作》詩：“小樹初栽將伴老，假山久玩欲同真。”
按照水脈和山石的自然皴紋，將零碎的山石材料堆砌成為有整體感和一定類型的假山，使之遠觀有“勢”，近看有“質”和對比襯托，包括大小、曲直、收放、明晦、起伏、虛實、寂喧、幽曠、濃淡、向背、險夷等。在工程結構方面主要技術是要求有穩固耐久的基礎，遞層而起，石間互咬，等分平衡，達到“其狀可駭，萬無一失”的效果。
利用假山大型建筑物特性對園林空間進行分隔和劃分，將空間分成大小不同、形狀各異、富于變化的各種空間形態。通過假山的穿插、分隔、夾擁、圍合、聚匯，在假山區可以創造出山路的流動空間、山坳的閉合空間、山洞的拱穹空間、峽谷的縱深空間等各具特色的空間形式。