Incrementality: 純増検証の実行

プレミアム機能

概要:純増検証を実施して、リマーケティングキャンペーンの真の効果を把握します。

KB_toggle_final.jpg

検証について

インクリメンタリティテストは、純増、つまりマーケティングキャンペーンの結果発生したコンバージョン数と、キャンペーン無しでも発生したであろうコンバージョン数の差を正確に測定するA/Bテストによって、キャンペーンの真の効果を計測します。

結果は、マーケティング投資によって生み出される実際の価値を理解するために重要です。インクリメンタリティテストにより、特定のチャネルやキャンペーンの影響を客観的に確認でき、予算の配分やキャンペーンの最適化においてより賢明な決定を下せます。

AppsFlyerは、オーディエンスの作成から始まる自動化されたプロセスで、インクリメンタリティテストを容易にします。新しいオーディエンスは、有効化された「純増影響を計測」トグルによって接続されたメディアパートナーとコントロールグループの間で自動的に分割されます。コントロールグループは、パートナーから除外されるオーディエンスの一部であり、テストに不可欠な部分です。オーディエンスを保存すると、インクリメンタリティ検証が自動で作成されます。パートナー側でキャンペーンを開始し、正しいキャンペーンが接続されていることを確認できれば、Incrementality管理画面で検証結果を確認できます。

まずはじめに

インクリメンタリティはプレミアム機能です。ご契約後、以下の手順でご利用いただけます。各ステップの詳細については、以下の検証の設定を参照してください。

  手順
1

テストの目的を確認

明確なテスト目標と結果の仮説を立てることで、検証結果の活用性を最大化しましょう。

2

ターゲットオーディエンスを作成し、グループに分ける

オーディエンス管理画面で:

  • オーディエンスを設定します。
  • アドネットワークに接続します。
  • オーディエンスは、有効なトグルによって自動的にテストグループとコントロールグループに分割されます(インクリメンタリティをご契約の場合 / 2023年1月11日以降に作成されたオーディエンス)。
    AppsFlyer Audiencesは、テストグループのメンバーをアドネットワークにアップロードし、コントロールグループのメンバーを保持します。 
3

キャンペーン及び検証を開始する

  • アドネットワークで、オーディエンス内のユーザーをターゲットとするキャンペーンを作成し、開始します。
  • Incrementality検証は自動で作成されます(ご契約の場合)。 

テストグループのメンバーは広告にさらされます。コントロールグループは広告にさらされません。

4

結果の分析

適切に実行された純増検証から得られたインサイトにより、マーケティングキャンペーンを最適化して最大のプラスの影響を得ることができます。例えば、ターゲットオーディエンスに最適なメッセージ、クリエイティブやプロモーション、最も効果的なメディアソースを見つける手助けをします。 

検証を設定する

テストの目的を理解する

検証を行う際、何をテストするか(変数)や結果に対する仮説を明確に定義することが重要です。以下の表は、検証設計におけるガイドラインとベストプラクティスを提供します: 

変数 / 仮説 ガイドラインとベストプラクティス
オーディエンス テストするオーディエンスを説明します。AppsFlyer Audiencesで既に設定しているオーディエンスを選ぶか、テスト基準を満たす新しいオーディエンスを作成してください。
オーディエンスの規模

ユーザーベースが大きく、コンバージョン率の高いイベントを持つオーディエンスを選択してください。大規模なサンプルサイズは、統計的に有意義な結果をもたらす可能性が高くなります。

 

ベストプラクティス:少なくとも50,000人のユーザーからなるオーディエンスを選択し、1~3つのアドネットワークとコントロールグループに分けます。

キャンペーン キャンペーンについて(メッセージ、インセンティブなど)説明します。
コントロールグループの割合 コントロールグループは、オーディエンス全体の15%に自動設定されます(ベストプラクティスは15%~25%です)。 
テストグループ

検証するアドネットワークを決定してください。分割率はそれぞれ均等に分けられますが、それぞれに送信するオーディエンスの割合を調整できます。

 

ベストプラクティス:1〜3のアドネットワーク

仮説

検証で期待する結果を明確にしましょう。

始める前に結果を予測することは直感に反する感覚があるかもしれませんが、仮説を設定することは検証設計において重要な要素です。これが結果を解釈する助けとなります。

ベストプラクティス:曖昧な推定ではなく、実際のパーセンテージを使って容易に検証できる仮説を立てましょう。例えば:

  • アップグレードを購入するユーザーが15%増加するは、容易に検証できる仮説です。
  • アップグレードを購入するユーザーが大幅に増加するは、テストが難しい例です。

上記のガイドラインを参考に、次のような検証を設定できるでしょう。

変数 / 仮説
オーディエンス 登録を完了したが購入に至らなかったユーザー
オーディエンスの規模 100,000
キャンペーン 指定された期間内に購入したユーザーに割引券を提供するキャンペーン
コントロールグループの割合 オーディエンスの15%
テストグループ 残りのオーディエンスを次の接続先に送信します:
  • ネットワークA(オーディエンスの42%)
  • ネットワークB(オーディエンスの43%)
仮説 リマーケティングキャンペーンに参加して購入に至るテストグループのユーザーの割合は、コントロールグループのユーザーよりも10%高くなります。 

ターゲットオーディエンスの作成とグループの分割  

目標を定義した後は、テストするオーディエンスを構成することが次のステップです:

  1. AppsFlyer Audiences で、オーディエンスを作成してください(必要に応じて、既存のオーディエンスを検証設計に基づいて分割することも可能です)。
  2. 選択したオーディエンスの 接続 タブで次の操作を実行します:
    • オーディエンスを 1~3社のアドネットワークパートナーに接続してください。
    • オーディエンスの分割 するトグルがオンになっていることを確認します(2023年1月11日以降に作成されたオーディエンス:自動的に有効)。有効になっていない場合は、トグルをクリックして有効化してください。
      Measure_inc_impact_toggle.jpg
    • コントロールグループは自動的に15%(推奨)に設定されます。
    • 残りのオーディエンスは選択したアドネットワークパートナー間で自動的に均等に分割されます。
      • 合計の分割比率は100%に等しくならなければなりません(コントロールグループを含みます)。

分割を有効にしてオーディエンスを保存すると、Incrementality検証が自動的に開始されます(Incrementality契約者のみ)。これらの検証は、「[Auto]」という接頭辞がタイトルの前に付けられた状態でIncrementality管理画面で確認できます。

Auto_before_title.jpg

重要な注意事項:

  • 検証を行っている間は、オーディエンスの構成を変更しないでください。パートナー、オーディエンス名、その他の設定を変更すると、統計分析結果が不正確になります。
    ベストプラクティス:検証が終了した後であっても、以前にテストしたオーディエンスの定義を変更する必要がある場合、まずオーディエンスを複製してから新しいコピーに変更を加えてください。これにより、Incrementality管理画面上の履歴データの整合性が保たれます。
  • 既存のオーディエンスの分割やパートナー構成を変更すると、現在進行中のIncrementality検証が終了し、新たな検証が開始されます。
  • オーディエンス拡張機能を確認してください:

Meta広告とGoogle広告には、キャンペーンのリーチを拡大するために設定済みのオーディエンスリスト外をターゲットするオプション機能があります。この機能をオンのままにすると、Incrementality検証にバイアスがかかり、不正確な結果が発生します。この機能がオフになっていることを確認してください。

Meta広告では、この機能は「Advantageカスタムオーディエンス」と呼ばれています。これは広告セットレベルで表示され、デフォルトで有効になっています。 

image__4_.png
Google広告では「オーディエンス拡張」と呼ばれています。

Google_Ads_Incrementality_limitation_cropped.jpg

キャンペーンの開始と検証の設定

次のアクションを実行してください:

1. アドネットワークでキャンペーンを設定する

最初のステップとして、オーディエンス内のユーザーをターゲットとするキャンペーンを作成し、各アドネットワーク側(オーディエンスがアップロードされるアドネットワークごとに)で開始してください。

  • 重要!正確なテスト結果を得るため、テスト対象のオーディエンス内のユーザーのみをターゲットにするようにキャンペーンを構成し、他のソースのユーザーは含めないようにしてください。
  • テスト対象のオーディエンスが新しく作成された場合、オーディエンスがアドネットワークプラットフォームで利用可能になるまで最大24時間かかることがあります。 

2. 正しいキャンペーンが検証に接続されているか確認してください。 

新しいオーディエンスを作成し「純増影響の測定」トグルを有効にすると、純増検証が自動的に開始されます(既存のオーディエンスで有効にした場合も含まれます)。最も関連性の高いキャンペーンが自動的にテストに接続されますが、必要に応じてキャンペーンを変更できます。

キャンペーンの接続/変更を行うには:

1. インクリメンタリティ管理画面から、特定の検証を選択し、検証の編集をクリックします。

Edit_experiment.jpg

 

または

オーディエンスから特定のオーディエンスを見つけ、インクリメンタリティの列の+ キャンペーンの接続をクリック。

Link_campaign__audiences_status_.jpg

キャンペーンを接続できる画面が表示されます。

Link_campaign_to_experiment_window.jpg

2. 各アドネットワークにおける適切なキャンペーンを選択します。

注:ドロップダウンメニューには、メディアパートナーから取得したキャンペーンが表示されます。データが利用可能になると、ドロップダウン内のキャンペーンは特定のオーディエンスにマーケティングされる可能性の高い順に並べられます。最上位の推奨があらかじめ選択されます。

3. 保存をクリックします。

これでキャンペーンが検証に接続されました。

 

手動で検証を作成する 

2023年1月11日以降にオーディエンスを作成したIncrementalityをご契約の方は手動で検証を作成する必要はありません。検証はオーディエンス向けに自動的に作成されます(Incrementality管理画面では、タイトルの前に「[Auto]」と表示されます)。以前のオーディエンスやその他の理由で手動の検証を作成したい場合、以下の手順に従ってください。

新しい純増検証を手動で作成するには:

  • AppsFlyer管理画面 左メニュー 最適化 > Incrementality: 純増検証 へ移動します。
  • インクリメンタリティ検証ページで、新しい検証ボタンをクリックします。
  • ウィザードのステップに従って検証を作成します。各ステップを進めるごとに詳細な指示が提供されます。

    注意

    ウィザード ステップ 2 オーディエンス設定

    ウィザードのステップ 2 では、オーディエンスに含める日付を選択する必要があります。

    デフォルトでは、これはオーディエンスが最初にコントロールグループに分けられた日付です。正確な検証結果を確保するため、以下のいずれかの状況が該当する場合はこの日付を変更してください:

    • 選択したオーディエンスの定義(セグメントルールセットユーザー識別子など)に変更を加えた場合 → この日付を、オーディエンス定義の変更が行われた最後の日付と一致するように変更します。
    • 既存のオーディエンスに対して新しいキャンペーンをテストする場合 この日付を新キャンペーン開始日へ変更します。

    ウィザード ステップ 3 – ターゲット設定

    Step_3_Set_targets.jpg

    ここでは、ターゲットアプリとKPIを選びます。

    注:選択されていない場合でも、検証の終了時にはすべての他のKPIが利用可能となります。

     

    ウィザード ステップ 4 レビュー

    ウィザードのステップ 4 では、検証期間を設定する必要があります。

    • デフォルトでは、検証は開始後30日間行うように設定されています。これは検証の推奨される最低期間です。
    • 検証を望むだけ続けたい場合は、検証を無期限に継続するオプションを選んでください。 

結果の分析

接続されたキャンペーンが広告ネットワーク上で開始されてから約48時間後に、インクリメンタリティ画面に初期の結果が表示されます(毎日更新)。結果の精度を影響する問題の識別と解決策提案のため、検証アラートが表示されることがあります。

インクリメンタリティローデータレポートはData Locker経由で取得できます。