ساخت این مسجد به نیمه اول قرن اول هجری برمیگردد، ساختمان اصلی بنا از آثار دوره ساسانیان بوده که با ورود اسلام به مسجد تبدیل شده و در واقع تقلیدی از طرح و شکل مسجد النبی صل اللّه علیه و آله و سلم می‌باشد، تنها مسجد با قدمت زیاد در جهان اسلام است که تا کنون تغییری نکرده است.
مسجد از نوع شبستانی و فاقد ایوان است، هیچ اثری از محراب، گنبد، کتیبه، کاشی‌کاری و سایر صنایع مرسوم در ساخت مسجد در آن دیده نمی شود.
برخی از باستان شناسان بر این باورند که مسجد جامعه فهرج قدیمی ترین مسجد ایران است.
این اثر در تاریخ ۳۰ آذر ۱۳۴۹ به ثبت ملی رسیده است.