광고 소재 A/B 테스트, 이렇게 하면 2주 돌려도 답 안 나옵니다

2026-08-28 43 0임두영 마케터

썸네일.png


소재를 바꿨는데 왜 차이가 없을까?
진짜 위닝 소재를 찾는 A/B 테스트 법칙


소재를 바꿨는데 왜 차이가 없냐는 질문을 많이 받아요. 대부분 A/B 테스트 설계 자체가 잘못된 경우예요. 소재를 여러 개 돌린다고 A/B 테스트가 아니에요. 위닝 소재를 제대로 찾는 방법을 정리할게요.




A/B 테스트에서 가장 많이 하는 실수



실수 1. 한 번에 여러 가지를 바꾸는 경우


이미지랑 문구이랑 타겟을 동시에 바꾸면 뭐가 성과를 바꿨는지 알 수 없어요. A/B 테스트는 변수를 하나만 바꿔야 해요.

이미지를 테스트하려면 문구이랑 타겟은 동일하게 유지하고 이미지만 다르게 해야 해요. 그래야 이미지 차이가 성과에 미친 영향을 정확하게 측정할 수 있어요.
실수 2. 데이터가 충분히 쌓이기 전에 판단하는 경우


하루이틀 돌리고 성과가 낮은 소재를 끄는 경우가 많아요. 데이터가 충분히 쌓이지 않은 상태에서 판단하면 틀릴 가능성이 높아요.

최소 2주 이상 돌린 다음에 판단하는 게 맞아요. 전환 기준으로는 소재당 전환 3~5건 이상이 쌓인 다음에 비교해야 통계적으로 의미가 있어요.
실수 3. 클릭률만 보고 판단하는 경우


CTR이 높은 소재가 전환율도 높을 거라고 생각하는 경우가 있어요. 실제론 CTR이 높아도 전환이 낮은 소재가 있어요. 클릭은 많이 되는데 구매로 이어지지 않는 소재예요.

CTR이랑 CPA이랑 ROAS를 같이 봐야 해요. 진짜 위닝 소재는 전환 효율이 좋은 소재예요.




A/B 테스트 올바른 설계 방법



테스트할 변수를 하나로 정하세요


소재 A/B 테스트에서 바꿀 수 있는 변수예요.
  • 이미지 스타일 (제품 단독이미지 vs 사용 장면)
  • 문구 방향 (혜택 강조 vs 문제 해결)
  • 소구점 (가격 강조 vs 품질 강조)
  • 형식 (이미지 vs 영상)

한 번에 하나씩 테스트하는 게 맞아요.
동시에 집행하는 소재는 2~3개가 적당해요


소재가 너무 많으면 데이터가 분산돼요. 2~3개를 동시에 집행해서 비교하는 게 맞아요. 소재가 많아질수록 각 소재에 쌓이는 데이터가 적어져요.
같은 조건에서 집행해야 해요


타겟이랑 예산이랑 일정이 같아야 해요. 다른 조건에서 집행하면 소재 차이가 아닌 다른 요인이 성과를 바꿨을 수 있어요.

같은 광고 그룹 안에 소재를 여러 개 등록하면 동일한 조건에서 자동으로 비교돼요.




위닝 소재 판단 기준



✔️ 2주 이상 데이터가 쌓이면 이 순서로 판단해요.


1단계
전환 발생 여부 확인
전환이 발생한 소재이랑 발생하지 않은 소재로 먼저 나눠요. 전환이 전혀 없는 소재는 아무리 CTR이 높아도 위닝이 아니에요.
2단계
CPA 비교
전환이 발생한 소재끼리 CPA를 비교해요. 전환당 비용이 낮은 소재가 위닝이에요. 전환 3~5건 이상 쌓인 소재끼리 비교해야 의미가 있어요.
3단계
CTR 보조 지표로 활용
CPA가 비슷하면 CTR이 높은 소재를 선택해요. CTR이 높으면 같은 예산으로 더 많은 클릭을 받을 수 있어요.




위닝 소재 찾은 다음에 할 것들



위닝 소재를 찾았다고 끝이 아니에요.


1. 위닝 소재에 예산을 집중하세요
비효율 소재를 끄고 위닝 소재에 예산을 몰아줘요. 예산이 분산되면 위닝 소재의 성과가 충분히 나오지 않아요.
2. 위닝 소재 기준 다음 테스트 설계
위닝 소재에서 한 가지 요소를 바꾼 새 소재를 만들어요. 위닝 소재의 어떤 요소가 효과적인지 계속 좁혀나가는 방식이에요.

예를 들어 "사용 장면 이미지 + 가격 강조 문구"가 위닝이라면 다음엔 "사용 장면 이미지 + 품질 강조 문구"랑 비교해서 문구 방향을 좁혀나가요.
3. 2주마다 소재 피로도를 확인하세요
위닝 소재도 2주 이상 집행하면 피로도가 쌓여요. CTR이 초기 대비 30% 이상 떨어지면 교체를 준비해야 해요. 위닝 소재를 기반으로 새 버전을 만들어두는 게 맞아요.




"A/B 테스트는 소재를 여러 개 돌리는 게 아닙니다."

변수 하나를 정하고 충분한 데이터를 쌓고 CPA 기준으로 판단하는 과정이에요. 이 사이클이 빠를수록 광고 효율이 올라갑니다.




함께 읽으면 좋은 글
임두영 마케터

디자인 감각, 마케팅 분석 임두영 마케터 입니다

임두영마케터홈페이지 방문
관련 광고 상품

댓글1

비회원 이미지
임두영
2026.08.28 10:22
실제로 집행해보면 업종마다 결과가 다르게 나와요. 지금 운영 중인 캠페인이 고민되신다면 채팅으로 바로 상담하시거나 문의 남겨주세요.

마케팅 인사이드

더보기 >