많은 기업이 A/B 테스트라는 말을 쉽게 쓰지만, 인과관계를 정확히 식별하는 구조적 설계를 흔히 간과한다. A/B 테스트의 정석은 다음과 같다.
사용자를 처지군과 대조군으로 ‘무작위’ 배정한다.
▶처치군(Treatment group) : 새로운 가격, 메시지, 혜택, 알고리즘 등을 적용받는 집단
▶대조군(Control group) : 기존 방식·기존 화면을 그대로 유지하는 집단
실험의 목적은 “변화가 실제로 행동 변화를 유발했는가?”이다. 즉, 두 집단의 차이가 정말로 전략 때문이었는지를 검증하는 것이다.
예를 들어 건강검진 헬스케어 기업이라면 실험 대상을 다음과 같이 나눈다.
▶처치군 1 : 배우자 동반 검진 시 할인 10% ▶처치군 2 : 배우자 동반 검진 시 할인 20% ▶대조군 : 기존 방식 유지
그 후 본인 재검률, 배우자 수검률, 고객 만족도를 비교하고, 회사의 이윤에 미친 영향을 정량적으로 확인할 수 있다. 앱 기반 서비스 기업이라면 더욱 쉽다. 사용자 화면·가격·문구·알림 빈도 등을 다르게 적용하기만 하면 즉시 실험, 즉시 결과 확인이 가능하다.