對于羧肽酶結構的認識，人們較為熟悉的是CPA和CPB的三維晶體構型。X射線掃描結果表明，牛CPA與CPB的結構十分相似。CPA存在于哺乳動物胰臟中，分子質量34.6 kD，每個酶分子含有1個Zn離子作為輔基，酶蛋白是單一的多肽鏈，約有300個氨基酸殘基。牛CPB分子也含有1個Zn離子，肽鏈有308個氨基酸殘基，其中49%的氨基酸順序與羧肽酶A相同，三維結構也非常相似。與Zn離子配位的氨基酸殘基是His69、Glu72和His196，其催化活性部位包括束縛C-末端羧基的Arg145、作用于肽鍵的Glu270和Tyr248。
不同的是，CPB的活性部位還包括Asp255，而CPA的Ile255不是活性部位。CPB的三斜晶體結構顯示，Tyr248朝向溶劑水分子暴露，從而使該酶的疏水性和親水性之間存在細微的平衡，甚至會影響到底物結合以及酶的動力學效率。
根據酶的結構差異，金屬羧肽酶分為兩大類：Cowrins和Funnelins類，Cowrins類由原生動物、原核細胞和哺乳動物酶組成，都與溶神經素和血管緊張素轉移酶有關，其催化域殘基數為500～700，參與底物綁定的結構中含有1個由17個螺旋和1個3股的β-折疊片層。而Funnelins類包括和原型牛羧肽酶A1結構相關的蛋白以及具有特定羧肽酶活性的哺乳動物、昆蟲和微生物蛋白，其催化域內的殘基數在300個以內，而且每邊8個螺旋上側面疊有一個八股β-折疊片層。Occhipinti等通過定位突變和小角度X射線掃描技術證實了建立分子模型來研究硫化葉菌羧肽酶的三維結構的可行性和條件 。