數組處理機的規模可以很大，但也可以小到微型計算機的規模。80年代，利用超大規模集成電路技術，一個數組處理機可以集成在一個半導體硅片上。數組處理機的運算速度可以高到與巨型計算機相比；也可以比較低，如每秒鐘運算100萬次。
數組處理機需要與一臺主機一起運用。它的運算速度比主機大約快一個數量級或更多。主機一般進行標量運算和系統管理，數組處理機進行高速數組運算（包括矩陣運算、快速傅里葉變換等）。主機和數組處理機可共享主存儲器和外圍設備。
數組處理機可以作為中央處理器的一部分而直接連到主存儲器上，但更常見的是通過外部通道和主機相連。某些數組處理機只能與某種型號的主機相連，而廣泛使用的數組處理機能與多種型號的主機相連。一臺數組處理機可以與一臺或多臺主機相連；一臺主機也可以與多臺數組處理機連成一個系統，每臺數組處理機只完成自己獨特的計算任務。
為了達到高速運算，在數組處理機的系統結構中采用并行技術或流水線技術，或兩者同時采用。在運算器中有獨立的加法器和乘法器 ，它們可以并行工作 。在一個機器節拍（即一個時鐘周期）內，可以完成一個加法運算和一個乘法運算。為了實現這個目的，必須在一個節拍之內提供運算所需的數。在一般的數組處理機中，運算所需的數由多個存儲器提供。在同一節拍之內還要完成取指令、地址加工、循環計數和其他必要的操作，這些都可采用并行技術，因而也需要提供并行的數據通道。如要進一步提高運算速度，可以有多個加法器和多個乘法器，甚至還可以有獨立的除法器和開方器，它們都可以并行工作。
數組處理機也可以處理標量，一般由向量蛻化而來。當向量中的元素的個數為1時，即為標量。