Alcune fonti attribuiscono il merito al filosofo greco Anassimandro di Mileto (611-547 a.C.) con l'invenzione della sfera armillare, altri attribuiscono credito all'astronomo greco Ipparco (190-120 a.C.) e alcuni attribuiscono credito ai cinesi.
L'esatta origine delle sfere armillari non può essere confermata. Tuttavia, durante il Medioevo, le sfere armillari si diffusero e aumentarono in raffinatezza.
Un altro primo produttore di sfere armillari fu Caspar Vopel (1511-1561), un matematico e geografo tedesco. Vopel realizzò un piccolo globo terrestre manoscritto alloggiato all'interno di una serie di undici anelli armillari incastrati prodotti nel 1543.
Spostando gli anelli armillari, si potrebbe teoricamente dimostrare come le stelle e altri oggetti celesti mosso nel cielo. Tuttavia, queste sfere armillari riflettevano i primi equivoci dell'astronomia. Le sfere raffiguravano la Terra al centro dell'universo, illustrando anelli ad incastro i cerchi del sole, della luna, dei pianeti noti e delle stelle importanti (così come i segni del zodiaco). Questo li rende un modello di impreciso
tolemaico (o incentrato sulla Terra) del sistema cosmico (al contrario del modo in cui le cose funzionano davvero, dal Sistema copernicano, con il sole al centro del sistema solare). Anche le sfere armillari sbagliavano spesso la geografia: Caspar La sfera di Vopel, per esempio, raffigura il Nord America e l'Asia come una massa terrestre, un malinteso comune del tempo.