ABテストの有意差について

受付中
ABテスト
回答数 2
いいね数 0

LPのABテストについて質問です!いまCTAボタンを重点的にABテストをしています。

LPのPVが決して多くないので、以下の条件で行っているのですが問題なさそうでしょうか?


・ABテストは1箇所ずつの変更で実施する

・1箇所に対して最大5セットまでテストを行うが、通常時に比べてクリック率 or CV率 20%以上の有意差が出た時点でその箇所のテストを終了する

・基準となる比較数と継続条件は以下の通り

 ・サンプル数はUU300ずつで比較する

 ・UU300ずつで有意差20%が出なかった場合、UU500ずつまで継続する

 ・UU500ずつで有意差10%が出なかった場合、UU1000ずつまで継続する


投稿 2020/05/22 13:08

更新 2020/05/24 15:53

回答2

ベストアンサー

やり方自体は問題ないように思いますが

UU数が少ないと通常時とクリック率の差が20%では

CV件数として見たときに差があるか判断難しい可能性あります。


たとえばLPのCTAクリック=CVと仮定して

通常時(Aパターン)のLPのCVRを3%、UU数300人と500人ずつで考えてみると


■UU数300人(20%の有意差)

A:300×3%=9

B:300×3.6%=10.8


→CV差は1.8件



■UU数500人(10%の有意差)

A:500×3%=15

B:500×3.3%=16.5


→CV差は1.5件



差が1件程度では偶然起こった可能性もあります。

なので、差が分かるくらいUU数が増えてから実施する、

または、明らかにCTA変更の成果だと分かるくらい

条件のCTRとCVRの増加率を大きくして考えてみてもいいかもしれません。



偶然ではなく確かに違いが出ていたかを判定するサイトやツールもあるので

それを使ってみるのもおすすめです。

https://cinci.jp/report/ab-calculator.html

ベストアンサー

数字的なところはよくわからないですが

せっかく5セット分用意するなら

全部試して最も効果の高いものを出してもよさそうですけどね。

新しい回答