В 1925 году начал служить в финской армии в Райвола, во втором велосипедном батальоне. Поступил в школу унтер-офицеров и окончил её унтер-офицером первого велосипедного батальона в Терийоки. Снайперскую подготовку Хяюхя получил лишь более чем через 9 лет службы в крепости Утти в Коувола.