Которая в каком состоянии вещества (жидком, твердом или газообразном) определить плотность наиболее точно? почему?

В газообразном. Т.к. плотность по определению это отношение массы вещества к его объему, в случае с газом трудно его точно взвешать, т.к. его масса очень мала (по сравнению с жидкостями или твердыми телами), обычно плотность газа оценивается через другие физические величины, как давление и температура через уравнение состояния.