Arken betragtes som israelitternes helligste relikvie og blev opbevaret i Det Allerhelligste, Tabernaklets inderste helligdom. Ifølge Anden Mosebog blev arken konstrueret af akacietræ og overtrukket med rent guld indvendigt og udvendigt. Den havde en guldkrone rundt om dens øverste kant og fire guldringe på de fire hjørner. To forgyldte træstænger blev ført gennem ringene på den ene side og brugt til at bære arken. Arken havde også en nådestol eller et dæksel, lavet af rent guld, som havde to skulpturerede gyldne keruber vendt mod hinanden med vingerne rørende og overskygger nådestolen.
Arken spillede en afgørende rolle i israelitternes rejse gennem ørkenen. Det blev antaget at være Guds bolig på Jorden og ledsagede israelitterne under deres vandringer. Hver gang de slog lejr, blev arken anbragt inde i tabernaklet, og når de gik videre, bar præsterne arken, dækket af et klæde, foran optoget.
Tilstedeværelsen af arken bragte særlig gunst og beskyttelse til israelitterne. Hver gang arken blev båret i kamp, ville israelitterne besejre deres fjender. Men da arken blev taget til fange af filistrene, blev de ramt af plager, og arken måtte returneres. Arken gik senere tabt under plyndringen af Jerusalem af Nebukadnezzar i 587 f.Kr. og er ikke blevet set siden.
Opholdsstedet for den forsvundne ark har været genstand for spekulationer og fascination i århundreder. Der har været adskillige forsøg på at finde arken, men ingen har været succesfulde. Nogle mener, at arken blev ødelagt, mens andre spekulerer på, at den kan være skjult i huler eller underjordiske kamre i Jerusalem eller andre steder. Arkens forsvinden har også ført til adskillige legender, historier og endda Hollywood-film.