Pirms turpināt, ir svarīgi saprast, par ko mēs runājam, atsaucoties uz empīriskām attiecībām, un salīdzināt to ar teorētiskiem pētījumiem. Daži statistikas rezultāti un citas zināšanu jomas teorētiski var tikt iegūtas no dažiem iepriekšējiem apgalvojumiem. Mēs sākam ar to, ko mēs zinām, un pēc tam izmantojam loģiku, matemātiku un deduktīva argumentācija un redzi, kur tas mūs ved. Rezultāts ir citu zināmu faktu tiešas sekas.
Pretstats teorētiskajam ir empīriskais zināšanu iegūšanas veids. Nevis spriežot pēc jau noteiktiem principiem, mēs varam novērot apkārtējo pasauli. Pēc šiem novērojumiem mēs varam formulēt redzētā skaidrojumu. Liela daļa zinātnes tiek darīta šādā veidā. Eksperimenti sniedz mums empīriskus datus. Pēc tam mērķis ir formulēt skaidrojumu, kas der visiem datiem.
Statistikā pastāv sakarība starp vidējo, vidējo un režīmu, kas balstās empīriski. Neskaitāmu datu kopu novērojumi parādīja, ka starpība starp vidējo un režīmu lielākoties trīs reizes pārsniedz vidējo un vidējo. Šīs attiecības vienādojuma formā ir:
Lai redzētu iepriekš minēto saistību ar reālās pasaules datiem, apskatīsim ASV štatus 2010. gadā. Miljonos populāciju bija: Kalifornijā - 36,4, Teksasā - 23,5, Ņujorkā - 19,3, Floridā - 18,1, Ilinoisā - 12,8, Pensilvānijā - 12,4, Ohaio - 11,5, Mičiganā - 10,1, Gruzija - 9,4, Ziemeļkarolīna - 8,9, Ņūdžersija - 8,7, Virdžīnija - 7,6, Masačūsetsa - 6,4, Vašingtona - 6,4, Indiāna - 6,3, Arizona - 6,2, Tenesī - 6,0, Misūri - 5,8, Merilenda - 5,6, Viskonsina - 5,6, Minesota - 5,2, Kolorādo - 4,8, Alabamas - 4,6, Dienvidkarolīna - 4,3, Luiziāna - 4,3, Kentuki - 4,2, Oregona - 3,7, Oklahoma - 3,6, Konektikuta - 3,5, Aiova - 3,0, Misisipi - 2,9, Arkanzasa - 2,8, Kanzasa - 2,8, Jūta - 2,6, Nevada - 2,5, Jaunā Meksika - 2,0, Rietumvirdžīnija - 1,8, Nebraska - 1,8, Aidaho - 1,5, Meina - 1,3, Ņūhempšīra - 1,3, Havajas - 1,3, Rodas sala - 1,1, Montana - .9, Delavera - .9, Dienviddakota - .8, Aļaska - .7, Ziemeļdakota - .6, Vērmonta -. 6, Vaiominga - .5
Piemēram, ja mēs zinām, ka mums ir vidējais skaitlis 10, režīms 4, kāda ir mūsu datu kopas vidējā vērtība? Tā kā vidējais režīms = 3 (vidējais - vidējais), mēs varam teikt, ka 10 - 4 = 3 (10 - vidējā). Pēc kāda algebra mēs redzam, ka 2 = (10 - mediāna), un tātad mūsu datu vidējā vērtība ir 8.
Kā redzams iepriekš, iepriekšminētās nav precīzas attiecības. Tā vietā ir labs īkšķa noteikums, kas līdzīgs diapazona noteikums, kas izveido aptuvenu savienojumu starp standarta novirze un diapazons. Vidējais, vidējais un režīms var precīzi neatbilst iepriekšminētajām empīriskajām attiecībām, taču pastāv liela iespēja, ka tā būs samērā tuvu.