Николай Николаевич Яковлев окончил Петербуржский горный институт.

С 1895 по 1961 год работал в Геологическом комитете (в настоящее время Всероссийский научно-исследовательский геологический институт им. А.П. Карпинского), с 1923 по 1926 год директор института. С 1899 по 1934 год – профессор, зав. кафедрой палеонтологии Ленинградского горного института.

Основные труды Яковлева посвящены палеонтологии и стратиграфии Донбасса, Урала, Черноморского побережья Кавказа, Закавказья. Проводил геологическую съемку и поиски полезных ископаемых в Прибалтике, в зоне Тимана, на Урале, в Поволжье и Закавказье. Провёл первые палеоэкологические исследования беспозвоночных России, преимущественно плеченогих, четырёхлучевых кораллов и стебельчатых иглокожих, выделил 26 новых родов и 150 видов палеофауны.

Умер ученый 19 июня 1966 г., похоронен в Комарово, Ленинградская область, СССР

В его честь названа одна из вершин Русских гор Земли Королевы Мод в Антарктиде (гора Яковлева) , многочисленные формы древних организмов.

Ученый награжден 3 орденами Ленина, Премией имени А.П. Карпинского Академии Наук СССР (1948). Значителен вклад Н.Н. Яковлева в организацию геологической службы, в становление и развитие новых научных школ и направлений в геологии в 20-е годы прошлого столетия. Заслуженный деятель науки и техники РСФСР.

Постановлением Президиума АН СССР от 27 июня 1946 года была учреждена премия и золотая медаль имени А. П. Карпинского за выдающиеся научные работы по геологии, палеонтологии и петрографии. Премии (в размере 25 000 рублей) присуждаются раз в 3 года, в 1953—1956 годах премии не присуждались.

С 1985 года премия имени А. П. Карпинского для советских ученых распространяется на такие области науки, как охрана окружающей среды, архитектуры, памятников, а также природоведческие науки. 

Николай Николаевич – автор учебника палеонтологии ( выпуски 1-2, 1910-1911 ), выдержавшего 5 изданий, а также ряда работ.

Основные работы Яковлева Н.Н.:

• «Геологические исследования, произведенные в северной части Донецкого каменноугольного бассейна в 1895 г.» (1896)
• «Дружковско-Константиновский антиклинал Донецкого каменноугольного бассейна» (1897)
• «Остатки мозазавра из верхнемеловых отложений юга России” (1901) и др.