墓碑石所用石材以花岗石为主，不同的国家，甚至同一国家的不同地区对墓碑石用石材的品种、颜色的喜好也不尽相同，如日本关东地区的墓碑石多以灰黑色、绿色花岗石为主，关西地区则喜好色调偏淡的灰色花岗石。洋式墓碑石的用料比日式墓碑丰富的多，除了灰、黑色花岗石外，印度红、幻彩红的红色系列，黄色、绿色、灰白色和蓝色系列花岗石都可作为洋式墓碑石的用料，一些洋式墓碑还使用红色、白色大理石。
作为墓碑石用料的灰色系列花岗石是日式墓碑的主要用材，所谓灰色是以颜色呈灰色为主要特征，并包括深灰、浅灰以至银灰、蓝灰等一系列色调。石材的磨光面近看为黑白中、细花，远看则为灰色（混色）。在全部灰色石材中，尤以磨光面呈银灰、蓝灰的色调为最佳。墓碑石用石材的色调是很重要的，通常墓碑石都是成套销售，因此，要求作为墓碑石的荒料的色调要均匀、结晶颗粒的大小要一致，最好能在同一块荒料上切取符合同一套墓碑的各种配套石制品的坯料。如果不能在同一块荒料上选择，也应尽量选择使用同一矿山同坑口的同色荒料加工。
荒料本身的质量对出材率影响很大，所选择的墓碑石用荒料应无裂纹、无疤痕、无色线，要求吸水率低、物理化学性能稳定、结晶均匀。
荒料的块度对墓碑石加工影响不像加工板材那么突出，但从保证同一套墓碑石的色泽、颗粒大小均匀一致考虑，还应选用具有一定块度的荒料，作为墓碑石用料。