Шейх Абеид Амани Каруме родился в 1905 году, его мать, предположительно, была рабыней родом из Руанда-Урунди, переехавшей в Занзибар, когда Абеид Амани Каруме был еще мал. Будущий президент в 1920 году стал моряком и работал на грузовых судах. Впервые политикой Абеид Амани Каруме занялся в 1954 году, когда был назначен городским советником.
Позже шейх Абеид Амани Каруме стал главой социальной организации чернокожих мигрантов-рабочих, называемой Занзибарской африканской ассоциацией. А затем, в 1957 году >стал президентом объединенной пробританской (ASP). Эта партия получила 4 из 5 мест в колониальном Совете.
В 1964 году произошла революция, в результате которой был свергнут последний султан Занзибара. Шейх Абеид Амани Каруме стал президентом провозглашенной Республики Занзибар, а после объединения Народной республики Занзибара и Пембы и Республики Танганьика занял должность вице-президента страны.