水平儀的結構根據分類不同而有所區別。框式水平儀一般由水平儀主體、橫向水準器、絕熱手把、主水準器、蓋板和零位調整裝置等零部件組成。尺式水平儀一般由水平儀主體、蓋板、主水準器和零位調整裝置等零部件構成。
水平儀是以水準器作為測量和讀數元件的一種量具。水準器是一個密封的玻璃管，內表面的縱斷面為具有一定曲率半徑的圓弧面。水準器的玻璃管內裝有粘滯系數較小的液體，如酒精、乙醚及其混合體等,沒有液體的部分通常叫作水準氣泡。玻璃管內表面縱斷面的曲率半徑與分度值之間存在著一定的關系,根據這一關系即可測出被測平面的傾斜度。