1、根據技術要求：
盡量與試件的圖紙或技術要求選擇同一個硬度標尺進行試驗，這樣才能有可比性。當然圖紙或技術條件的規定也不一定就是的，因為它們一般是根據設計要求提出的，很多只是沿用了原材料的硬度試驗方法。制造出成品后的硬度試驗可能面臨著不同的問題，例如試件對試驗力的承受能力及受力變形、測量遺留的壓痕是否影響制品性能等。有時必須進行一些變通。盡量少用或不用硬度換算，因為每個準確可靠的硬度換算關系都一定附帶了非常苛刻的限定條件，實際應用中很難達到。如果忽視了這些條件，所得到的換算值可能沒有任何價值。
2、根據試樣條件：
對于壓入法硬度試驗來說，同一試樣硬度，不同的試驗標尺有著不同的試樣最小厚度要求。對于沖擊回彈式的硬度試驗，對試樣的厚度和重量也一般有一個要求。可以從試樣自身的情況入手，選擇適當的硬度試驗標尺。另外，如試樣的尺寸、形狀、試樣表面的狀況等都可能成為硬度試驗標尺選用的重要條件。
3、根據硬度范圍：
各種硬度試驗方法或標尺都有各自的測量有效范圍，超出這一范圍可能使測量精度明顯下降或致使硬度計的機件造成損壞。
4、根據試樣材料：
不同類型的材料或不同的熱處理狀態下的同種材料都有宜的試驗標尺。應根據材料的種類或狀態進行選用。還有許多類型的材料已經形成了比較固定的硬度測試傳統習慣，盡可能地遵從這些習慣方法可能會使所得到的硬度值更具有實際意義。有時，的硬度測試方法可以從這一材料的技術標準中輕易地了解到。
