Родился в семье интеллигентов-гуманитариев. Участник Великой Отечественной войны, с 1942 по 1949 год служил в Военно-морском флоте. В 1945 году окончил Выборгское морское училище. До 1949 года учился на историческом факультете МГУ. Публиковаться начал в 1945 году. В 1949 году Давыдов был репрессирован. Освобождён в 1954 году. С 1991 по 1995 год — секретарь Союза писателей Москвы. В 1993 году подписал «Письмо 42-х». В 2001 году возглавлял жюри Букеровской премии. Роман «Такой предел вам положен» остался незавершённым (опубликован в журнале «Знамя», 2002, № 6).
