Los historiadores creen que el nombre de la ciudad de Ajloun se remonta a Ajloun, rey de Moab. Las montañas de Ajloun también se mencionan en la Santa Biblia, que son las montañas de Galaad, y se mencionan los bosques de Ajloun, que son los bosques de Efraín. Hoy en día, Ajloun abarca una serie de sitios arqueológicos, como el castillo de Al-Rabad, así como sitios religiosos como el santuario del profeta Elías (Mar Elias) y el santuario de la Virgen, Nuestra Señora de la Montaña en Anjara.
Algunos historiadores creen que el nombre de la ciudad de Ajloun se remonta a "Ajloun", el rey de Moab, mencionado en el Libro de los Jueces de la Biblia. El rey Eglón se apoderó de Jericó, hirió a Israel y la esclavizó: "Volvieron los hijos de Israel a hacer lo malo ante los ojos de Dios; y Dios fortaleció a Eglón rey de Moab contra Israel, por cuanto habían hecho lo malo ante los ojos de Dios. Este juntó consigo a los hijos de Amón y de Amalec, y vino e hirió a Israel, y tomó la ciudad de las palmeras. Y sirvieron los hijos de Israel a Eglón rey de los moabitas dieciocho años" (Jueces 3:12-14).
En cuanto a la historia de Ajloun, es más antigua que el Libro de los Jueces, y de Eglón, rey de Moab. Lo encontrado aquí y allá de cerámica y otras piezas indica que Ajloun estuvo habitada en la primera Edad del Bronce (1550-1900 a.C.), y que fue de gran importancia comercial desde la antigüedad debido a su ubicación geográfica.
Y las montañas de Ajloun son las montañas de Galaad mencionadas en la Biblia, y sus bosques son el bosque de Efraín. En la Edad Media, el monte Ajloun era conocido como el monte Bani Awf, y la tribu Banu Awf habitaba la montaña y se extendía por el valle del Jordán y era conocida por su ferocidad. Izz al-Din Osama pudo, después de construir el castillo conocido hoy como el Castillo de ar-Rabad, sobre las ruinas de un castillo romano, para refrenarlos y arrestar a sus mayores y encarcelarlos.
A principios de los años cincuenta se encontraron unos mosaicos en una de las casas cercanas a la Iglesia Latina, y en el mercado se encontraron muros de casas antiguas y arcos, además de cerámica de la época romana y bizantina, y una fila de columnas que los romanos solían colocar a los lados de los caminos y escribían sobre ella la distancia del camino entre una ciudad y otra. Recientemente se encontró una piedra con la imagen de una palmera que data de la época árabe en la Edad Media. En Ajloun y sus alrededores abundan los pozos y cuevas romanas, que fueron utilizados como cementerios y lugares de culto para los cristianos durante la época de persecución en las primeras generaciones.