Родился будущий поэт под Таганрогом в дворянской семье с греческими корнями. Позже семья переехала в Таганрог, где Николай стал учиться в городской гимназии.

Щербина как потомок греков еще в детстве познакомился с бытом и легендами этого народа, выучил греческий язык, что впоследствии отразилось на творчестве поэта. Почти во всех своих произведениях он воссоздавал древнегреческие сцены.

Свою первую поэму «Сафо» мальчик написал в 13 лет. Однако издаваться начал в 1838 году, дебютировал в печати со стихотворением «К морю». После гимназии Щербина поступил в Харьковский университет, но из-за недостатка средств не смог окончить обучения. Поэт остался в Харькове и начал работать учителем.

В 1850 году поэт в Одессе опубликовал свой сборник «Греческие стихотворения», который имел успех у читателей. Благодаря успеху, Щербина переезжает сначала в Москву – в журнал «Московские Губернские Ведомости», а через четыре года в Петербург – в министерство народного просвещения.

Интересно, что стихотворения Щербины были популярны среди моряков. По мотивам его стиха «После битвы» в начале 20 века была написана песня «Раскинулось море широко», которую считают народной.

Умер Николай Щербина в 1869 году. Полное собрание сочинений Щербины вышло в 1873 году уже после смерти поэта.