История прокуратуры Казахстана начинается 13 июля 1922 года. В этот день решением третьей сессии КазЦИКа была учреждена государственная прокуратура в составе Народного комиссариата юстиции, а на Наркома юстиции были возложены функции главного прокурора республики.
В 1933 году полномочия прокуратуры были расширены: при Наркомюсте было образовано относительно самостоятельное управление прокуратуры, а функции Народного комиссара юстиции и прокурора были разделены. После того как в 1937 году была принята Конституция Казахской СССР, прокуратура стала самостоятельной структурой правоохранительных органов, полностью независимой от Наркомюста.
События августа 1991 года продемонстрировали необходимость реформирования прокуратуры. 6 декабря 1991 года, незадолго до провозглашения независимости Казахстана, Верховный Совет Казахской ССР постановление, сделавшее прокуратуру подотчетным Верховному Совету органом высшего надзора за исполнением законов. Годовщину этого события работники прокуратуры отмечают как свой профессиональный праздник.