试样一般不宜过大、过高。对于手工制备的金相试样，尺寸以磨面面积小于400mm²、高度15~20mm为宜。若试样太小则操作不便，若试样太大则磨制平面过大，增加磨制时间，且不易磨平。由于被检验材料或者零件的形状各异，可以用外形不规则的试样。不是检验表面缺陷、渗层、镀层的试样，应将棱边倒圆，防止在磨制时划破金相砂纸和金相抛光布，避免在抛光时试样飞出造成事故。凡检验表层组织的试样，严禁倒角以保持棱角完整，并保证磨面平整。
取样的方法多种多样。可根据取样零件的大小、材料性能、现在实际条件灵活选择。其中常用的方法是金相切割机砂轮片（金相切割片）切割。一般硬度较低的材料（小于230HBW）如低碳钢、中碳钢、灰铸铁、非铁金属等可用锯、车、刨等机械加工。硬度较高的材料（约大于450HBW）如白口铸铁、硬质合金以及淬火后的零件等脆性材料，可用锤击法，从击断的碎片中选出大小和是的试样。对于大断面零件或高锰钢零件等，可用氧乙炔焰气割，但必须预留大于20mm的余量，以便在试样磨制中将气割的热影响区除掉。
不论采用何种方式取样，都必须防止因温度升高而引起组织变化，或因受力而产生塑性变形。
