Ефим Эткинд родился в Петрограде. Ефим Григорьевич закончил немецкую школу и романо-германское отделение Филологического факультета Ленинградского государственного университета (1941).
В 1942 году Ефим Эткинд ушёл добровольцем на фронт, был военным переводчиком.
После окончания Великой Отечественной войны он защитил кандидатскую диссертацию по творчеству Э. Золя, преподавал в 1-м Ленинградском педагогическом институте иностранных языков. В 1949 году, в ходе так называемой «борьбы с космополитизмом», Эткинд был уволен «за методологические ошибки» и уехал в Тулу, где преподавал в педагогическом институте.
В 1952 году он вернулся в Ленинград, в 1965 году защитил докторскую диссертацию, посвященную стилистическим проблемам стихотворного перевода. С 1967 года был профессором Ленинградского Педагогического института им. Герцена.
В 1964 году Эткинд выступил свидетелем защиты на процессе Иосифа Бродского, суд вынес в его адрес частное определение, после чего Эткинд получил взыскание Ленинградского отделения Союза писателей СССР, в котором состоял с 1956 года. В дальнейшем он открыто поддерживал А. И. Солженицына, помогал ему в работе, встречался и переписывался с А. Д. Сахаровым. Несколько статей и переводов Эткинда распространялись в самиздате. В 1972—1973 годах Эткинд участвовал в подготовке самиздатского собрания сочинений И. Бродского. В 1974 году он был исключён из Союза писателей, лишен академических званий; лишён советского гражданства по сфабрикованному КГБ «делу» и выслан из страны. Главными пунктами обвинений было хранение рукописей Солженицына, с которым Эткинд дружил более десяти лет.
В 1974 году Эткинд поселился в Париже, до 1986 года был профессором Х Парижского университета (Нантерр). Печатался в журналах Континент, Синтаксис, Время и мы, Страна и мир.
В годы перестройки Ефиму Эткинду были возвращены академические звания, он постоянно приезжал в Россию, печатался в российской прессе. Архив Эткинда был передан им в Российскую Национальную Библиотеку в Санкт-Петербурге.
Был похоронен согласно завещанию рядом со своей первой женой на кладбище городка Ивиньяк-ла-Тур (Бретань, Франция).