“玛尼”来自梵文佛经《六字真言经》“唵嘛呢叭咪哞”的简称，因在石头上刻有“玛尼”而称“玛尼石“。

藏族人形容牢固不变之心为“如同石上刻的图纹”。藏族认为在石头上留下的痕迹保存久远，如格萨尔的足印、栓马石印、马蹄印以及某历史名人的脚印等。

人们刀笔不停，艰苦劳作，在一块块普通的石头上刻写上经文以及各种佛像和吉祥图案，并饰以色彩，使平凡的石头变成了玛尼石。虔诚的藏族信徒相信，只要持之以恒地把日夜默念的六字真言纹刻在石头上，这些石头就会有一种超自然的灵性，给他们带来吉祥如意。

无论玛尼石组成的玛尼堆、石经墙还是摩崖造像，都是作为一种“路标”或“地标”而存在，被设置在旅行和转经的山口、路口和拐弯处。从实用的意义来讲，它们可以为行人指示前进的方向，标明行走的路线。这在人烟稀少、地域辽阔的高原，就显得尤其重要。除了几条主要的交通干线以外，广袤的藏区缺少真正的道路。藏人自古并不使用牛车和马车，也很少修筑道路，长途跋涉就靠两条腿，或以骑马代步。所以，凡是走到看不见路的地带，就会出现一簇簇的石堆，一个接着一个，伸向山顶，伸向天际。那些石堆就是行路者经过积年累月，一块块石头堆集起来的。