17 Сен 2021

RVO и NRVO

17 Сен 2021

RVO (Return Value Optimization) – оптимизация компилятора, позволяющая в некоторых случаях не создавать локальный объект, который будет использован как возвращаемое значение.

Вместо этого возвращаемый объект будет сконструирован на месте вызова функции. Это позволяет устранить лишний вызов конструктора перемещения/копирования.

Рассмотрим пример:

std::vector<int> GetVector()
{
  return std::vector<int>(1'000'000, 1);
}

void foo()
{
  auto vect = GetVector();
}

Здесь значение, возвращаемое функцией GetVector, будет сразу создано в памяти, выделенной для объекта vect, при этом конструктор перемещения/копирования будут устранены.

RVO применима, если объект, возвращаемый из функции – это prvalue-выражение, имеющее такой же тип, как и тип возвращаемого значения функции по сигнатуре, без учета cv-квалификаторов. Кроме того, с С++17 RVO – это уже не оптимизация, а правило, которое должны выполнять компиляторы. Это правило будет применено, даже если конструкторы копирования/перемещения имеют побочные эффекты.

Правило RVO является одним из правил компилятора, реализующих механику temporary materialization – принцип, согласно которому prvalue-выражение не создается физически в памяти до тех пор, пока оно не будет присвоено в не prvalue-объект. Такое поведение компилятора позволяет уменьшить количество копирований и, как следствие, ускорить выполнение программы.

Также существует другой вид оптимизации – NRVO (Named Return Value Optimization). Эта оптимизация компилятора, как и RVO, вместо создания локального возвращаемого объекта и последующего его перемещения/копирования на месте вызова функции сразу создаст его в нужном месте. Ее отличие от RVO состоит в том, что NRVO применяется к lvalue-объектам.

Например, в следующем фрагменте кода к возвращаемому объекту result применится NRVO, а не RVO:

std::vector<int> GetVector2()
{
  std::vector<int> result(1'000'000, 1);
  return result;
}

void foo()
{
  auto vect = GetVector();
  ....
}

NRVO происходит следующим образом: на месте вызова функции, к которой применяется NRVO, вставляется инициализация объекта, в который будет присвоен результат этой функции. В аргументы функции добавляется указатель на этот объект. Все вычисления, относящиеся к возвращаемому объекту, теперь выполняются над объектом, переданным по указателю.

Можно считать, что оптимизация NRVO преобразует код, рассмотренный выше, в следующий:

void GetVector2(std::vector<int> *x)
{
  new (x) std::vector<int>(1'000'000, 0);
}

void foo()
{
  auto *x = static_cast<std::vector<int> *>(
              alloca(sizeof(std::vector<int>)));
  GetVector2(x);
  ....
  delete x;
}

Однако NRVO может быть применена только когда тип фактически возвращаемого объекта и тип возвращаемого объекта по сигнатуре функции полностью совпадают.

Также существует антипаттерн, который отключает применение NRVO:

typename <typename Res, typename ...T>
Res foo(T ...)
{
  Res result;
  // some calculations
  return std::move(result);
}

void bar()
{
  auto obj = foo<SomeObject>();
}

Здесь вызов std::move следует убрать. Несмотря на то, что в коде пытаются "подсказать" компилятору, что возвращаемый объект следует перемещать, а не копировать, используя функцию std::move, компилятор будет обязан сгенерировать более медленный ассемблерный код.

Дело в том, что возвращаемый объект – это результат вызова std::move, его тип будет Res &&. Тип фактически возвращаемого объекта и тип возвращаемого объекта по сигнатуре функции различны. Следовательно, компилятор не сможет применить для функции foo NRVO, и мы имеем дело не с оптимизацией, а с пессимизацией.

Более того, согласно стандарту C++11, если компилятор не сможет применить необязательную оптимизацию, то он должен сначала применить конструктор перемещения и лишь затем конструктор копирования для локальных переменных или формальных параметров функции.