JAIPs terdiri daripada tujuh bahagian yang bertanggungjawab menguruskan hal ehwal Islam bagi Negeri Perlis. Bahagian-bahagian tersebut adalah :

1. Bahagian Khidmat Pengurusan
2. Bahagian Dakwah dan Pengurusan Masjid
3. Bahagian Pendidikan
4. Bahagian Pentadbiran Undang-undang Syariah
5. Bahagian Penguatkuasaan
6. Bahagian Pendakwaan
7. Bahagian Penyelidikan dan Hub Halal
8. Bahagian Takmir

Sebagai sebuah agensi agama Islam yang terpenting di Negeri Perlis, JAIPs sentiasa berperanan sebagai sebuah agensi yang bertanggungjawab mengukuhkan pemahaman manhaj Ahlul al-Sunnah wal-Jamaah seperti yang termaktub di dalam Undang-undang Tubuh Kerajaan Perlis 1948 kepada seluruh umat Islam di Negeri Perlis melalui aktiviti dan program yang dirancang oleh JAIPs.