La primera mención de la palabra «Sión» en la Biblia se encuentra en 2 Samuel 5: 7, «Pero David tomó la fortaleza de Sión, que es la ciudad de David». Por lo tanto, Zion era originalmente el nombre de una antigua fortaleza jebusea en la ciudad de Jerusalén. Sión se convirtió no solo en una fortaleza, sino también en una ciudad en la que se encontraba la fortaleza.
En el Libro de los Salmos están los Cantos de Sión, un conjunto de himnos gloriosos sobre la presencia de Dios en relación con el pueblo de Israel, desde el diálogo con Moisés, a través del Arca de la Alianza, y hasta el Templo en Jerusalén. .
Después de la muerte de David, el término comenzó a usarse para definir la colina en la que se encontraba el Templo de Salomón. Más tarde, Zion se usó para referirse tanto al Templo como a sus propios fundamentos.
El Monte Sión es uno de los lugares más grandes, antiguos y significativos de Israel. Esta colina, que es la colina sureste de la ciudad de Jerusalén, era una fortaleza jebusea que el rey David conquistó hace más de 3000 años y que se convirtió en su capital. El monte Sion llegó a identificarse con el rey David, que se llamaba «la ciudad de David». El monte Sión también se consideraba el lugar donde vivía Dios, tal vez porque es el punto más alto de Jerusalén, desde donde se puede ver toda la ciudad.
Notablemente, en el siglo diecinueve, el sionismo o movimiento nacionalista moderno del pueblo judío adoptó el término Sion por consenso general y desde entonces se mantuvo su uso para designar no solo a Jerusalén, sino a toda la Tierra de Israel.