Стихотворение построено с развернутого сравнения. Поэт сопоставляется у Лермонтова с кинжалом, некогда верно служившим своему владельцу, а затем ставшим бесполезной и бесславной игрушкой. Эта сопоставление лирического героя с кинжалом мы уже встречали в стихотворении Лермонтова «Кинжал». Только в этом стихотворении это сопоставление имело позитивную окраску: герой обещал сохранить душевную твердость, подобно своему «светлому и холодному товарищу». В стихотворении «Поэт» это сопоставление имеет более пессимистичную окраску.