水准点按其保存的时间长短可分为永久性水准点和临时性水准点。永久水准点一般由混凝土制成，深埋到冻土线下，标石的顶部埋有耐腐蚀的半球状金属标志。有时水准点也可设在稳定的墙角上。临时水准点可用大木桩打入地下，顶面钉一铁钉，也可利用地面突出的坚硬岩石。

由水准点组成的高程控制网称水准网。标定水准点位置的标石和其他标记，统称为水准标记。水准点标志采用的材质为不锈钢，标牌上可以刻字，突出单位名称，或编号，或起警示作用。