Ефимий Великий почитается в лике святых, о его жизни известно в основном из жития, написанного Кириллом Скифопольским. Согласно этому житию, родился Ефимий в городе Мелитена, что находился в римской провинции Малой Армении. Его родители, Павел и Дионисия, были благочестивыми христианами.
После смерти отца Ефимий по просьбе матери был отдан на воспитание сначала своему дяде пресвитеру Евдоксию, а затем — епископу Мелитинской церкви Отрию. Отрий увидел, что Ефимий ведет себя благочестиво и праведно, а потому решил сделать его чтецом. А позднее Евфимий стал монахом и был посвящен в пресвитеры. После этого Ефимий стал иереем и ему был поручен надзор за окрестными монастырями.
Когда Ефимию было 28 лет, он отправился в паломничество в Иерусалим, а после поклонения святыням отправился к местным монахам-отшельникам. Посетив их, он прибыл в Фаранскую лавру преподобного Харитона, но жить там не стал, а поселился в келии за пределами обители.
Он стал в отшельничестве жить рядом с Феоктистом. Позже оба отшельника переселились в пустыню Кутила, где стали жить затворниками. Постепенно в это место стали стекаться другие желающие вести аскетическую жизнь. Ефимий не хотел нарушать затворничества и всех новых монахов отправлял к Феоктисту, который со временем стал духовным наставником общины.
Постепенно здесь возник монастырь Феодосия. Ефимий Великий стал духовником братии, но редко нарушал уединение, выходя из своей келии только по субботам. Вскоре посетителей стало так много, что Ефимий покинул монастырь и поселился в пустыне Зиф, недалеко от Мертвого моря.
За время своей жизни Ефимий Великий совершил несколько чудес. Одним из них было, к примеру, изгнание беса из сына протокомита одной из деревень. В благодарность протокомит построил для Ефимия монастырь Капарвариха, где тот поселился с несколькими учениками.
Постепенно число учеников Ефимия выросло, и тогда филарх Петр построил по просьбе отшельника церковь и келии, что стало основой лавры преподобного Ефимия. В этой лавре Ефимий мирно скончался 20 января (по новому стилю 2 февраля) 473 года, и день этот стал днем его памяти в христианстве.
На Ефимов день на Руси по поведению животных издавна предсказывали погоду. Так, если кошка в этот день скребет пол, а куры вертят хвостами, то следует ожидать метели.