Veel precieze metingen worden gegeven in decimale vorm. Hoewel de decimale vorm erg nauwkeurig is, kan het moeilijk zijn om de vorm te vertalen naar een echte toepassing. Gelukkig is het mogelijk om decimalen om te zetten in fractionele liniaalmetingen met een beetje wiskunde. Het is belangrijk om te beseffen dat de conversies niet volledig nauwkeurig zullen zijn. Ze worden afgerond op de dichtstbijzijnde 1/32 inch, of welke increment dan ook wordt gekozen.

Neem het decimaal en trek het hele getal ervan af. Het hele nummer is het aantal volledige inches. Bijvoorbeeld: 3,445 inch minus 3 inch is .456 inch


Neem het resterende gedeelte van de komma en vermenigvuldig dit met de gewenste breukverhoging. Als uw liniaal bijvoorbeeld tot op 1 /32e inch meet, vermenigvuldigt u het decimale gedeelte met 32. In dit voorbeeld is .456 keer 32 gelijk aan 14.592.


Rond de waarde van stap 2 naar het dichtstbijzijnde geheel getal. Voor dit voorbeeld rondt 14.592 af naar 15. Deze waarde is de teller van de fractionele inch van meer dan 32.


Tel het hele getal van stap 1 op bij de breuk in stap 3. Bijvoorbeeld 3 plus 15/32 is gelijk aan 3 en 15/32 inch.