Глубину шпоночного паза, да и любые другие отверстия (их глубину) можно измерить штангенциркулем, в общем-то это и есть тот самый нужный инструмент в Вашем случае.
Измерение производится линейкой-глубиномера, на схеме она под цифрой 5-ь.
Устанавливаем (торцом) штангенциркуль у края паза, или отверстия.
На инструменте есть подвижная часть (губки со штангой, при их выдвижении выдвигается и линейка глубиномера) опускаем "щуп" (линейку) до упора и фиксируем всю рамку винтом (зажимным).
Далее смотрим на шкалу и видим показания (размер по глубине паза) в миллиметрах.
Ещё проще работать со штангенциркулем у которого есть электронное табло.
Все действия те же, но размер глубины высвечивается на табло, что гораздо проще поиска "рисок" на шкале штангенциркуля.
Конечно использование штангенциркуля логично, если Вам нужен точный размер глубины паза, если с допуском +-, то можно и гвоздём, вставили гвоздь в паз до упора, отметили размер и сняли показания, по длине, рулеткой, но точность будет, гораздо худшей чем при работе со штангенциркулем.