Исследование гидродинамической неустойчивости в задачах лазерного термоядерного синтеза методами математического моделирования