Wanneer u meerdere wetenschappelijke gegevenspunten in een grafiek weergeeft, wilt u misschien een best passende curve op uw punten plaatsen, met behulp van software. De curve komt echter niet precies overeen met uw gegevenspunten. Als dit niet het geval is, wilt u mogelijk de RME-waarde (root mean squared error) berekenen om te bepalen in hoeverre uw datapunten afwijken van uw curve. Voor elk gegevenspunt berekent de RMSE-formule het verschil tussen de werkelijke waarde van het gegevenspunt en de waarde van het gegevenspunt op de best passende curve.

Zoek de bijbehorende y-waarde op uw best- fitcurve voor elke waarde van x die overeenkomt met uw oorspronkelijke gegevenspunten.

Trek de werkelijke waarde van y af van de waarde van y op uw best passende curve, voor elk gegevenspunt dat u heeft. Het verschil tussen de werkelijke waarde van y en de waarde van y op uw best passende curve wordt de rest genoemd. Vier elk restant en tel dan uw residuen samen.

Deel de som van uw residu's door het totale aantal gegevenspunten dat u heeft en neem de vierkantswortel van het quotiënt. Dit geeft de root mean squared error.