Attorno al 300 a.C., i babilonesi iniziarono a usare un semplice sistema di numerazione in cui impiegavano due cunei pendenti per marcare uno spazio vuoto. Comunque, questo simbolo non aveva una vera funzione oltre a quella di segnaposto. Sembra infatti che l'origine del segno O sia da attribuire alla forma dell'impronta lasciata sulla sabbia da un ciottolo tondo (o gettone) dopo essere stato rimosso (e quindi mancanza del numero).

L'uso dello zero come numero in sé è un'introduzione relativamente recente della matematica, che si deve ai matematici indiani. Un primo studio dello zero, dovuto a Brahmagupta risale al 628.

Gli arabi appresero dagli indiani il sistema di numerazione posizionale decimale, e lo trasmisero agli europei durante il Medioevo (perciò ancora oggi in Occidente i numeri scritti con questo sistema sono detti "numeri arabi"). Essi chiamavano lo zero sifr (صفر): questo termine significa "vuoto" ma nelle traduzioni latine veniva indicato con "zephirum", cioè zefiro (figura della mitologia greca personificazione del vento di ponente).

Fu in particolare Leonardo Fibonacci (Leonardo Pisano) a far conoscere la numerazione posizionale in Europa: nel suo Liber Abaci, pubblicato nel 1202, egli tradusse sifr in zephirum; da questo si ebbe zevero e quindi zero. Anche il termine "cifra" discende da questa stessa parola sifr. Tuttavia già intorno al 1000 Gerberto d'Aurillac (poi papa col nome di Silvestro II) utilizzava un abaco basato su un rudimentale sistema posizionale. Anche nel libro inglese The Crafte of Numbynge, intorno al 1300, viene spiegato chiaramente l'uso dello zero nella rappresentazione dei numeri.

Lo Zero era usato come numero anche nella Mesoamerica precolombiana. Venne usato dagli Olmechi e dalle civilizzazioni successive.