La respuesta, como muchas veces, proviene de la evolución del latín al castellano actual y su proceso de formación a través de la Edad Media.

Como se puede ver, las palabras que llevan h tienen detrás el diptongo ue, mientras que las palabras que no llevan h empiezan por o. La raíz original latina de todas estas palabras es la que empieza con o, que en castellano ha diptongado en ue.

Durante la Edad Media, una vez que el diptongo ue ya se había formado, se cogió la costumbre de escribir delante de las palabras que empezaban por ue una h para evitar que la u se confundiera con una v, dando lugar a lecturas incorrectas como *veso (hueso), *vevo (huevo), *velo (huelo), etc., pues era común usar indistintamente la u con su función vocálica (u) o consonántica heredada del latín (v).

Bibliografía: Ortografía de la lengua española (1999)