Небольшая община шиитов-исмаилитов насчитывает около 100 тыс. человек (Наджран и Хараз).
На севере Йемена (Хадрамаут) проживают также ортодоксальные шииты и байадийя.
На востоке страны есть ибадиты.
На крайнем востоке имеется небольшое количество суннитов маликитского мазхаба (религиозно-правовая школа).
В прибрежных районах на юге страны есть небольшие общины суннитов-ханифитов, шиитов-исмаилитов и имамитов.
В крупных городах Йемена имеется также очень незначительное меньшинство (0,1%) индуистов, иудеев и христиан (1995).
Среди индийского населения есть индуисты и парсы.
Иудаизм в прошлом был широко распространён в Йемене и в раннее средневековье выступал даже в качестве государственной религии.
После исламизации Йемена иудаизм сохранялся лишь как религия одной из ремесленных каст. В Сане существовал большой еврейский квартал - "Каа Яхуд" (Еврейская долина). После первой арабо-израильской войны 1948 почти все йеменские евреи, которых насчитывалось ок. 50 тыс. человек, эмигрировали в Израиль. В настоящий момент еврейская община в Йемене насчитывает не больше нескольких сотен человек, разбросанных по стране.
Среди части арабских племен сохраняются пережитки доисламских верований.