В 1895 г. С.А Зернов окончил естественное отделение физико-математического факультета Московского университета. В 1891 году, еще будучи студентом 2-го курса Московского университета, он стал первым заведующим биологической станцией на озере Глубоком и выполнял эти обязанности до 1894 года. С 1902 по 1914 гг. С.А Зернов руководил Севастопольской биостанцией АН СССР. За это время станция превратилась в настоящий научный центр. Там в 1913 году Сергей Алексеевич опубликовал свой классический труд «К вопросу об изучении жизни Черного моря». Эта монография легла в основу первой экологической диссертации в России, которая была успешно защищена С.А. Зерновым в Московском университете в 1914 г. В северо-западной части Черного моря открыл заросли красной водоросли филлофоры, что позволило впоследствии организовать промышленную добычу из нее йода.
В этом же 1914 году Зернова приглашают в Москву на факультет рыбоведения Московского сельскохозяйственного института (позже – Тимирязевской академии). Здесь он основал первую кафедру гидробиологии. Позже, в 1917-1919 гг. он возглавил Тимирязевскую сельскохозяйственную академию и стал ее первым советским директором. В 1924 году С.А. Зернов создал кафедру гидробиологии в нашем Московском университете и стал ее первым заведующим.
Наряду с преподавательской и общественно-организационной деятельностью Зернов принимал участие в комплексных экспедициях на ледоколах «Малыгин» (1921) и «Персей» (1923) по исследованию, сборам донной фауны, планктона, рыб на обширных акваториях Белого, Баренцева и западной части Карского морей. Участвовал в создании в 1921 г. Плавучего морского научного института (Плавморнина), задачей которого было исследование северных морей, их островов и побережий.
В 1931 году С.А. Зернов был избран действительным членом АН СССР. В этом же году он был назначен директором Зоологического музея АН и провел огромную работу по его реорганизации, расширению фондов, созданию новых коллекций. Именно в этот период он подготовил к печати фундаментальный труд «Общая гидробиология (опубликован в 1934 г.), который стал первым оригинальным учебником в этой области науки.
В 1935 году С.А.Зернов организовал и возглавил Мурманскую биологическую станцию АН. Одновременно, в 1931—1942 годах, он был директором Зоологического института АН СССР. Незадолго до своей кончины С.А.Зернов подготовил для широкого обсуждения среди специалистов программный документ «Ближайшие задачи гидробиологии в СССР».
Скончался С.А.Зернов в 1945 году. Он был похоронен в Ленинграде на Литераторских подмостках Волковского кладбища.