Os historiadores acreditam que o nome da cidade de Ajloun é uma referência a Eglon, rei de Moab. As montanhas de Ajloun também foram citadas na Bíblia, ou seja, são as montanhas de Galaad, assim como a floresta de Ajloun é a floresta de Efraim, que também é citada. Ajloun abriga vários sítios arqueológicos, como o Castelo de Ajloun, bem como locais de culto, como o Santuário do Profeta Elias (Mar Elias) e o Santuário de Nossa Senhora da Montanha em Anjara.
Alguns historiadores acreditam que o nome da cidade de Ajloun é uma referência a "Eglon", rei de Moab, mencionado no Livro dos Juízes da Bíblia Sagrada. O rei Eglon capturou Jericó, combateu os israelitas e subjugou-os: “Os israelitas fizeram de novo o mal aos olhos do Senhor. Por isso, o Senhor excitou contra eles Eglon, rei de Moab, porque tinham feito o mal aos seus olhos. Eglon aliou-se aos filhos de Amon e de Amalec, e pôs-se em marcha contra Israel; derrotou-o e apoderou-se da cidade das Palmeiras. E os israelitas estiveram sujeitos a Eglon, rei de Moab, durante dezoito anos.” (Jz 3:12-14).
A história de Ajloun é mais antiga do que o Livro dos Juízes e Eglon, rei de Moabe. A cerâmica e outras peças encontradas na região indicam que Ajloun foi habitada na Primeira Idade do Bronze (1900-1550 a.C.). A cidade sempre teve grande importância desde a antiguidade devido à sua localização geográfica e atividade comercial.
As montanhas de Ajloun são as montanhas de Galaad mencionadas na Bíblia, assim como a sua floresta é a floresta de Efraim. Na Idade Média, o monte Ajloun era conhecido como monte Bani Aouf. A tribo que habitava o monte e depois se espalhou pelo vale do Jordão chamava-se Bani Aouf e era conhecida pela sua ferocidade. Depois de construir o atual Castelo de Ajloun sobre as ruínas de um castelo romano, Izz al-Din Osama conseguiu detê-los, capturar os seus líderes e aprisioná-los.
No início da década de 1950, foram encontrados alguns mosaicos numa casa perto da Igreja Latina. As paredes de casas antigas foram encontradas no mercado, além de cerâmicas dos períodos romano e bizantino.
Também se descobriu uma coluna do tipo que os romanos costumavam colocar na lateral das estradas para indicar a distância entre uma cidade e outra. Por fim, foi encontrada uma pedra com o desenho de palmeira e que data do período árabe na Idade Média. Em Ajloun e nos seus arredores existem muitos poços e cavernas romanas que os cristãos usaram como cemitérios e locais de culto no tempo das perseguições durante os primeiros séculos.