A/B 테스팅 에이전시와 협력하는 방법(모든 성장 목표 달성)
게시 됨: 2022-03-23확실한 진실: A/B 테스트를 아웃소싱한다고 해서 성장이 보장되는 것은 아닙니다.
우리는 그것이 간단하기를 바랍니다. 세계적 수준의 전문가들에게도 잘못된 기대와 잘못된 방향이 뒤섞이면 종종 무익한 협업으로 이어집니다.
반대로 A/B 테스팅 에이전시와 협업하는 더 스마트하고 생산적인 방법이 있습니다. CRO 전문가와 함께 일하게 된 성공 스토리의 비밀 소스입니다.
이 기사에서는 최고의 CRO 또는 A/B 테스팅 에이전시와 협력하고 파트너가 되기 위한 명확한 단계별 청사진인 비밀 소스를 보여드리겠습니다. 결국에는 CRO 에이전시와 협력하여 모든 성장 목표를 달성하는 방법을 알게 될 것입니다.
파헤쳐보자…
- A/B 테스팅 에이전시를 온보딩해야 하는 4가지 큰 이유
- 1. A/B 테스트 빌드 지원
- 2. 원격 측정 지원
- 3. 고객 조사 지원
- 4. 전도 실험 지원
- 아웃소싱해야 하는 정말 나쁜 세 가지 이유
- 1. 당신은 당신의 실험이 항상 승리하기를 원합니다.
- 2. 엄격한 테스트에서 코너를 자르기 위해 기관의 "직관"을 활용하려는 경우
- 3. 당신은 사내 테스트에 대한 열정을 불태울 생각이 없으며 영원한 목발로 에이전시를 원합니다
- A/B 테스팅 에이전시와 협력하기 위한 간단한 청사진
- 1. 클리어
- 2. 이해관계자 식별
- 3. 온보드 웰
- 4. 신뢰 구축
- 5. 추출 학습
- 결론
A/B 테스팅 에이전시를 온보딩해야 하는 4가지 큰 이유
이 네 가지 이유를 자세히 살펴보면 협업에 대한 별점을 찾을 수 있습니다. 우리는 그것을 협업 인덱스 라고 부릅니다.
이를 위해 우리는 CRO 에이전시 온보딩의 성공을 달성하는 데 필수적인 협업 수준을 매핑했으며 이러한 4가지 이유(또는 이점) 각각과 연결되어 있습니다.
이러한 이점을 확보하려면 파트너십에 어느 정도의 협력을 약속해야 합니다. 그것이 바로 이 별들이 나타내는 것입니다.
예를 들어, A/B 테스트 빌드에 대한 지원을 찾고 있다면 협업이 반드시 철저할 필요는 없지만 여전히 있어야 합니다. 그래서 별 2개를 받습니다.
이제 해결되었으므로 계속 진행해 보겠습니다.
1. A/B 테스트 빌드 지원
협동:
최적화 프로그램이 특정 지점까지 성숙했다면 처음부터 끝까지 전체 작업을 실행하는 외로운 늑대가 아닙니다. 엔지니어와 개발자가 필요합니다.
그러나 여기서 문제는 대부분의 최적화 부서에 전담 엔지니어와 개발자가 없다는 것입니다.
테스트에 자신이 있다고 느끼는 가설에 도달했을 때 이를 구현하기 위해 개발자 팀에서 리소스를 구걸하고 빌려야 하는 경우 효율성이 저하됩니다.
또한 "코딩"의 기본 측면은 동일하게 유지되지만 제품 개발과 테스트 구축은 사고 방식의 전환이 필요한 매우 다른 두 가지 상황입니다.
따라서 프로그램을 확장하기 위해 테스트를 성공적으로 설정하는 것 외에 다른 우선 순위를 지정하는 사내 에이전트에 의존하지 마십시오. 실험 프로그램에 민첩성을 주입하는 더 나은 전략이 있습니다…
아웃소싱 .
이 설정에서 이것은 바람직할 뿐만 아니라 논리적이기도 합니다. 에이전시에는 전담 개발 팀이 있을 뿐만 아니라 구축을 전문으로 하는 변환 파트너 BrillMark 및 EchoLogyx를 포함하여 사내 노력을 효과적으로 10배 향상시킵니다.
테스트 프로그램을 여러 배로 늘리고자 하는 고객은 외부 대행사를 참여시켜야 합니다. 내 경험에 비추어 볼 때 내부 팀과 함께 테스트 프로그램을 얼마나 늘릴 수 있는지에 한계가 있습니다. 예를 들어 내부 팀이 A/B 테스트 개발 및 QA 지원에 사용할 수 있는 리소스를 기반으로 한 달에 두 개의 테스트를 개발하고 이를 한 달에 10개의 테스트로 늘리려는 경우 대행사를 사용하는 것이 좋습니다. 그 헌신적인 지원을 제공할 수 있는 사람 .
Tasin Reza, Echologyx
우리가 Tasin을 인용하는 이유는 무엇입니까?
Tasin Reza는 A/B 테스트 전문가와 사내 최적화 팀을 지원하는 데 전념하는 풀 스택 개발 에이전시인 Echologyx의 COO입니다.
2. 원격 측정 지원
협동:
우리는 편향 제거와 관련하여 올바른 데이터 수집 채널을 설정하고 정성적 및 정량적 데이터를 처리하는 것의 중요성에 대해 많이 이야기했습니다.
A/B 테스트 기관은 플랫폼마다 동일한 이벤트 또는 작업에 대해 다른 숫자를 보고하는 이유를 이해합니다. 그들은 이 불일치가 얼마나 위험한지 검토하고 사내 팀이 이를 최종 테스트 결과에 미치는 영향으로 해석하는 데 도움을 줄 수 있습니다.
이 귀중한 통찰력 없이 데이터 소스가 중요한 지표에 대해 종종 동의하지 않을 때 어떻게 결과를 신뢰할 수 있습니까?
Chad Sanderson이 언급했듯이 서로 다른 데이터 입력이 결과 출력에서 조화를 이룰 것이라고 믿는 것은 순진합니다. A/B 테스팅 에이전시는 이처럼 꼭 필요한 데이터 활용 능력을 결합합니다.
Alex Birkett(아래 인용)이 A/B 테스트 결과에 필요한 무결성을 추가하기 위해 에이전시와 협력하는 이유의 일부입니다. 상상할 수 있듯이 테스트 빌드에 대한 도움을 받는 것보다 훨씬 더 많은 협력적 입력이 필요합니다.
A/B 테스팅 에이전시와 함께 일한 대부분의 경우 실험 개발 및 품질 보증만을 지원하기 위해 고용했습니다. 이는 대부분의 조직에서 제한된 자원이 엔지니어라는 일반적인 사실 때문입니다. 아웃소싱된 A/B 테스트 개발 에이전시를 이용하여 양질의 경험의 처리량을 높일 수 있었고, 내가 사용하는 플랫폼에서 작업하는 데 익숙하기 때문에 실험이 잘 설계되었다는 사실을 신뢰할 수 있습니다.
최근에 A/B 테스트 개발과 원격 측정 및 고객 조사라는 두 가지 다른 병목 현상을 도와줄 풀 서비스 회사를 찾는 것을 고려했습니다. 적절한 데이터 파이프라인을 설정하는 것은 까다로우며 A/B 테스트 회사가 이를 수행하도록 하는 것은 인센티브를 잘 조정합니다(그들은 분명히 가치를 적절하게 부여하기를 원하므로 올바른 분석 설정을 원합니다). 그리고 고객조사는 제가 직접 많이 해도 항상 부족합니다. 많을수록 좋고 전문가는 때때로 접근하기 어려운 도구를 가지고 있습니다 .
옴니사이언트 디지털의 공동 설립자 알렉스 버켓(Alex Birkett)
왜 Alex의 말을 인용합니까?
Alex Birkett은 이 토론에서 독특한 관점을 가지고 있습니다. 그는 사내 팀이 실험 추진력을 모으는 데 도움을 요청하는 사람입니다. 그는 또한 사내 실험 리더로 여러 A/B 테스트 기관에 빌드 및 CX 연구를 아웃소싱했습니다.
다음 이유는 원격 측정 지원을 위한 아웃소싱만큼 성공을 위한 협업이 필요합니다.
3. 고객 조사 지원
협동:
의심할 여지 없이 고객 조사는 신뢰할 수 있는 가설을 구상하는 데 가장 비용이 많이 들고 시간이 많이 걸리며 지루한 측면입니다. 그러나 증거의 계층 구조에서 알 수 있듯이 통제된 온라인 실험(A/B 테스트)의 기반이 됩니다.
여기서 잘못될 수 있는 몇 가지 사항이 있습니다.
- 사내 팀에는 적절한 고객 조사 질문을 구성하는 노하우가 없습니다.
그들은 오해의 소지가 있고 편향되어 있으며 궁극적으로 정량적 데이터에 의해 밝혀진 문제를 조사하기보다는 기존 의견을 검증하려고 할 수 있습니다.
외부 연구원은 이 금광을 캐는 데 보다 중립적인 관점을 제시할 것입니다.
- 사내 팀은 진정한 전문가만이 할 수 있는 놀라운 관점에 몰두할 수 있는 대역폭이 없습니다.
탐색할 모든 각도는 무엇입니까? 풍부하고 다양한 경험에서 도출하지 않고 어떻게 이 수준의 관점으로 더 나은 가설을 생성할 수 있습니까?
4. 전도 실험 지원
협동:
예, 실험 승인은 C-suite에서 이루어져야 합니다.
Manuel Da Costa가 말하는 "송금"은 여기에서 매우 중요합니다. 기업의 DNA에 내재된 실험은
- 테스트에서 "더 많은" 승리를 거둘 수 있다는 약속에 대한 부분적인 열정입니다.
- CRO 프로그램 초기에 이러한 이질적인 성공이 지표 최적화에서 회사의 의사 결정 지원에 이르기까지 어떻게 구축될 수 있는지에 대한 부분적인 이해.
- 직감보다 과학적 실행 가능성을 선제적으로 선택하는 리더십의 "실험은 협상 불가능" 부분입니다.
대행사가 각 부분에 기여하는 방식은 다음과 같습니다.
- 테스트는 프로세스 및 QA에 대한 방대한 경험을 바탕으로 합니다. Convert의 내부 데이터에 따르면 기관은 더 중요한 테스트를 수행합니다.
- 그들은 체인지메이커에게 회사 전체 실험의 영향에 대해 목소리를 낼 수 있는 자신감을 주는 테스트 배포의 기술적 측면을 처리합니다. 그들이 조직 전체의 교육을 지원하는 것은 나쁘지 않습니다.
- 그들은 산업 및 업종 전반에 걸쳐 실험의 힘을 입증한 실적 때문에 C-suite 승인의 초기 단계에서 실험 리드를 도울 수 있습니다. 필요할 수도 있는 궁극적인 로비는 성숙한 POV에서 이익을 얻습니다.
이것이 바로 올바른 에이전시를 참여시키는 것이 중요한 이유입니다. 즉, 데이터 작업 방법을 이해하고 이미 있는 실험 프레임워크에 기꺼이 적응하며 지식을 이전하고 사내 팀이 A/B 테스트를 통해 검증되지 않는 한 대부분의 아이디어에 의문을 제기하는 것이 좋은 접근 방식인 이유를 이해합니다.
우리는 400개 이상의 CRO 및 A/B 테스트 기관을 조사했습니다. 다음은 우리가 신뢰하는 서비스 제공업체 목록입니다.
면책 조항: 그들 중 일부는 Convert 대행사 파트너입니다. 그러나 우리는 모든 후보자를 선정하는 데 사용된 요소를 명확하게 나열했으며 에이전시도 예외는 아닙니다.
우리는 A/B 테스팅 에이전시를 온보딩해야 하는 큰 이유를 다뤘습니다. 이제 A/B 테스트를 아웃소싱해야 하는 잘못된 이유를 보여드리겠습니다.
아웃소싱해야 하는 세 가지 정말 나쁜 이유
1. 당신은 당신의 실험이 항상 승리하기를 원합니다.
원하는 실험 결과를 얻을 수 있습니다.
이 게시물과 댓글이 증거입니다.
승자를 찾기 위해 대행사를 데려오면 승자를 찾을 것입니다. 그리고 결코 학습이나 수익에 영향을 미치지 않는 성공적인 테스트 포트폴리오를 갖기 위해 데이터 쿼리에서 결과 해석에 이르기까지 모든 것에 영향을 미치는 미묘하고 미묘하지 않은 방법이 100가지 있습니다.
결과: 대행사에서 A/B 테스트를 실행하는 것은 귀하의 일이 아니라고 선언할 것입니다. 그러나 당신은 정확히 당신이 찾고 있는 것을 얻었을 것입니다. 바로 테스트에서 승리했습니다.
기관은 파트너가 되어야 합니다. 그들은 실제로 수익과 성과를 가로막는 문제를 조사할 자유가 있어야 합니다. 특히 건물을 짓는 것뿐만 아니라 실험을 연구하고 설계하도록 계약하는 경우에는 더욱 그렇습니다.
2. 엄격한 테스트에서 코너를 자르기 위해 기관의 "직관"을 활용하려는 경우
실험은 과학적 과정을 따릅니다. 따라서 과학자(A/B 테스트 기관 참조)의 경험을 활용하여 가장 빠른 승리 경로를 찾는 정확한 방법은 없습니다.
대행사를 온보딩할 때 고유한 과제를 제시해야 합니다. 그들이 이렇게 말할 수 있는 상황이 아닙니다. “우리는 이것을 전에 본 적이 있습니다. 이것은 일반적으로 작동하는 것입니다. 그걸하자."
잠재 고객이 CRO/실험에서 그들과 함께 일하기 위해 우리에게 접근할 때, 그들은 종종 그 틈새 시장이나 분야에서 우리의 과거 경험에 대해 묻습니다. 예를 들어, 럭셔리 여행 브랜드/고가 가구/금융 서비스 등을 작업한 경험이 있습니까?
이것은 실험이 무엇인지 매우 확고하게 오해하고 있습니다.
당신이 브랜드나 크리에이티브 에이전시를 고용한다면, 그들은 당신이 테스트하지 않을 것 같은 무언가를 디자인하기 위해 직관과 창조력을 사용할 것입니다. 그러므로 당신은 어떤 종류의 직관과 창의성을 구매하고 그들이 청중을 '얻는지' 알아야 합니다. 고객과 검증되지 않은 의사 소통을 할 사람을 신뢰하고 있습니다.
반대로, 궁극적으로 비즈니스에서 과학적 방법의 복제인 실험의 전체 요점은 다음을 통해 의견, 편견 및 직관을 제거하는 것입니다.
) 아이디어를 공식화하기 위해 연구 및 데이터 사용
b) 실제 고객과 이러한 아이디어를 테스트하고
c) 더 큰 일을 하기 전에 효과가 입증된 것과 같은 학습을 기반으로 합니다.
특정 분야의 과거 '경험'이 아니라 올바르게 실행하기 위해 많은 전문 지식이 필요한 프로세스와 방법을 구매하고 있습니다.
우리는 귀하의 부문이나 고객에 대한 다른 사람의 의견이 아닌 데이터를 기반으로 합니다.
Jonny Longden (Test Everything 뉴스레터를 통해 )
A/B 테스팅 에이전시의 직관을 활용하고 문제를 진단하려고 할 때 완전히 어둠 속에 있다고 느끼지 않거나 CRO 성공을 위한 보다 통합된 로드맵을 제공할 계획이라면 명확한 커뮤니케이션을 통해 더 나은 클라이언트-에이전시 협업을 위해 노력해야 합니다. 흐름 시스템.
3. 당신은 사내 테스트에 대한 열정을 불태울 생각이 없으며 영원한 목발로 에이전시를 원합니다
에이전시를 영입하는 것을 사내에서 더 큰 도약을 위한 기회로 여기지 않습니다. 몇 가지 성공적인 테스트에 점수를 매길 수 있으며 실제 비즈니스 이점으로 전환되거나 전환되지 않을 수 있지만 한 가지 확실한 것은 일관된 실험은 결코 성공할 수 없다는 것입니다.
실험은 전술이 될 수 없습니다. PPC와 마찬가지로 다른 부서와 분리되어 운영될 수 있으며 (여전히) 살아남을 수 있습니다.
테스트 실행의 진정한 힘은 모든 팀 구성원이 직장에서 주요 결정을 내리는 방식을 재구성하는 데 있습니다. 우리가 어쨌든 실험하고 그것을 "위험 감수"로 신고한다는 것을 깨닫는 것입니다. 이러한 위험과 도박의 기초가 되는 건전한 과학적 구조를 갖추는 것은 회사를 선견지명, 효과에 대한 더 큰 명확성, 그리고 가장 중요한 것은 일관된 성공으로 이끄는 원동력입니다.
귀하와 귀하의 CRO 에이전시가 장단기적으로 잘 맞는지 확인하는 것이 지표를 충족하고 기대치를 초과하는 데 성공하는 시너지 관계를 만드는 열쇠입니다.
A/B 테스팅 에이전시와 협력하기 위한 간단한 청사진
1. 클리어
에이전시를 도입하는 이유를 알고 싶습니다. 개선을 위해 노력할 프로그램 및 비즈니스 모두에 대한 KPI를 선택하십시오.
더 높은 목표를 달성하기 위해서는 항상 거시적 수준의 비즈니스 목표와 미시적 수준의 목표가 있어야 합니다. 테스트 팀은 연구와 혁신을 통해 중요한 목표에 집중해야 하며, 이 목표는 테스트할 수 있습니다.
여기서 핵심은 예상 KPI를 달성하기 위해 실험이 비즈니스가 올바른 결정을 내리는 데 어떻게 도움이 되는지 비즈니스 이해 관계자와 소통하는 것입니다. 이를 바탕으로 실험 로드맵을 작성해야 합니다. 그러나 동시에 로드맵은 긴급한 비즈니스 요구 사항을 지원할 만큼 충분히 유연해야 합니다. 마지막으로 전담 팀의 지원을 받아 이를 추진할 전담 인력이 필요합니다 .
타신 레자
여기에서 조심하십시오. 프로그램에만 관련된 KPI는 더 많은 테스트(더 빠른 테스트 속도), 버그와 함께 배포되는 더 적은 테스트 및 더 짧은 배포 시간을 초래합니다. 이것들은 모두 건강한 프로그램의 훌륭한 징후입니다.
그러나 실험 기계가 해결해야 하는 문제(일명 해결해야 할 문제)에 대한 명확성이 없으면 최적화는 성공할 수 있지만 회사를 발전시키지 못할 것입니다.
명확하지 않으면 제품/사이트 전략(비즈니스에 영향을 미치는 KPI 추진)과 실험 전략(생동감 넘치는 CRO 프로그램을 촉진하는 KPI 추진) 사이에 간극이 있을 것입니다.
이 간극을 메우려면 학습과 사용자 경험 개선에 집중하세요. 수익 메트릭을 주시하면서 터널 비전을 개발하고 실험이 실제로 무엇에 관한 것인지를 보지 않도록 하십시오.
예산에 의존하는 프로그램의 경우 ROI 측면에서도 보고해야 합니다.
Microsoft Store의 실험 프로그램 관리자인 Tim Mehta는 Speero와의 이 인터뷰에서 리더십이 혁신에 초점을 맞추면 도움이 된다고 밝혔습니다. 그러면 잠재적인 수익에 대한 언어로 말하면서 실험에서 얻은 통찰력의 관점에서 ROI를 보여줄 수 있기 때문입니다. 잠재적인 수익 손실 회피 지표.
그리고 "승"과 "패"만 공유하지 마십시오. 그 용어들은 CRO 영역 밖에서 같은 것을 의미하지 않습니다. 대신 권장 사항 으로 제시된다면 가치 있는 비즈니스 결정으로 더 잘 해석되고 번역될 것입니다.
2. 이해관계자 식별
실험 프로그램이 어떻게 실행될 것인지에 대한 완전한 명확성이 있다면 에이전시를 소개하는 것이 더 쉽습니다. 오류가 발생할 때 시작하고 수정하기 위해 기다릴 필요가 없습니다. 그것은 비효율적이고 비용이 많이 듭니다.
대신 RACI 할당 매트릭스를 사용하여 처음부터 프로세스를 간소화하십시오. 이 차트는 관련된 각 이해 관계자에 대한 프로젝트의 주요 목표, 이정표, 작업 및 책임을 매핑하는 데 도움이 됩니다.
또한 핵심 이해 관계자(즉, 정보를 유지해야 하는 사람들)가 누구인지 파악하는 방법이기도 합니다.
RACI는 프로젝트를 구성하는 방법을 설명하는 약어입니다.
- 책임 – 누가 작업을 완료하거나 결정을 내릴 책임이 있습니까? 이것은 일반적으로 사람들의 그룹입니다.
- 책임 – 누가 작업을 승인하고 이정표가 완료되었는지 확인합니까? 누가 임무를 완수할 책임이 있는 사람에게 할당할 것입니까? 이것은 일반적으로 프로젝트 리더이며 최종 결정을 내릴 수 있는 단일 역할입니다.
- Consulted – 프로젝트 작업에 대해 누가 자문해야 합니까? 작업 완료를 돕기 위해 작업에 대한 정보를 제공해야 하는 사람은 누구입니까?
- 정보 제공 – 프로젝트 상태에 대해 누구에게 알려야 합니까? 진행 상황에 대한 업데이트가 필요하지만 일상적인 입력이 필요하지 않은 사람은 누구입니까?
실험 프로젝트를 위해 RACI 차트를 작성하고 사용하는 방법에 대해 이야기했습니다. 다음은 커뮤니케이션을 구성하는 데 사용되는 예입니다.
기관이 하는 일에 대해 알려야 하는 이해 관계자와 업무에 직접적인 영향을 받을 이해 관계자에 초점을 맞춥니다. 대행사를 온보딩한다고 해서 일반 비즈니스 운영을 방해할 필요가 없기 때문입니다.
경험 많은 CRO 에이전시를 고용할 때 RACI 매트릭스를 사용하여 전문 지식을 가진 사람들을 찾아내고 결과를 제공하고 향후 문제에 대한 다양한 솔루션을 제공할 수 있는지 확인하십시오.
3. 온보드 웰
에이전시를 온보딩하는 것은 새 팀원을 온보딩하는 것과 같습니다. 그들이 쉽게 시작할 수 있도록 필요한 리소스를 준비해야 한다는 것을 알고 있습니다.
당신이 전에 함께 일하지 않았다면 그들이 모르는 많은 것들이 있습니다. 예를 들면: 내부 작동 및 사이트의 다양한 사용 사례, 우선 순위 매트릭스 등. 그렇다면 어떻게 그 지식을 전달할 수 있습니까?
우선 순위 매트릭스, 스프린트 계획, 출시에 사용하는 QA 체크리스트 및 디자인 팀을 포함하여 프로그램의 매개변수 내에서 작업하는 방법을 에이전시(에이전시)가 반드시 알아야 합니다. 운 좋게도 대부분이 자동화되어 누구나 액세스할 수 있는 Airtable에 배치됩니다 .
알렉스 버켓
나는 클라이언트가 외부 사람들이 최적화해야 하는 내부 웹사이트나 앱에 대해 알고 있는 것을 잊어버린다는 사실을 알게 되었습니다. 내부 팀은 웹사이트 자체와 매우 밀접합니다. 그들은 웹 사이트가 제시하는 모든 다양한 시나리오, 사용 사례 및 예외 사항에 대해 자세히 알고 있습니다. 그리고 그들은 때때로 외부 기관의 누군가가 자신의 웹사이트에 대해 같은 깊이의 지식을 가지고 있지 않다는 사실을 잊어버립니다. 이것은 초기 단계에서 기관에 몇 가지 문제를 제공할 수 있습니다. CRO 프로그램 초기에 비즈니스를 돕는 데 필요한 내부 지식을 공유하는 것은 매우 중요합니다. 그렇게 하면 기관은 테스트 아이디어를 내거나 테스트를 개발하고 QA할 때 무엇을 예상하고 고려해야 하는지 알 수 있습니다.
타신 레자
처음부터 시작하는 경우 대행사에서 비즈니스를 이해하고 다음을 작성하는 데 필요한 시간을 제공합니다.
- 고객 조사 핸드북
이것은 기관에 고객이 누구인지에 대한 귀중한 통찰력을 제공하는 내부 문서/데이터베이스입니다. 여기에는 포커스 그룹, 인터뷰, 이메일 설문 조사, 분석 분석, 데이터 기반의 이상적인 고객 프로필 및 인구 통계 정보에서 수집한 데이터가 포함됩니다.
- 우선순위 매트릭스
모든 것을 테스트할 수는 없습니다. David Mannheim의 기사에 따르면 대부분의 프로그램은 다음으로 제한됩니다.- 조직에서 테스트의 목적
- 트래픽 가용성
- 원하는 변경
- 사용 가능한 시간
테스트 아이디어의 바다에서 구현해야 할 테스트와 나중에 남겨둘 테스트를 결정하는 시스템이 필요합니다. 당신이 이것을 알아냈다면, 당신의 대행사도 알아야 합니다.
- Q&A 체크리스트
테스트가 완료되면 결과의 정확성을 어떻게 검증합니까? 테스트 실행에는 많은 단계가 필요하며 이는 문제가 발생할 수 있는 여러 접점을 의미합니다.
결과를 확인하기 위해 수행한 작업을 반영하기 위해 취하는 단계를 공유해야 합니다. 사용할 수 있는 Q&A 체크리스트가 있으므로 처음부터 시작할 필요가 없습니다.
- 기초 학습 저장소
이것은 과거 테스트에 대한 데이터와 문서를 보관하는 곳입니다. 여기에 있는 정보는 향후 테스트의 효율성과 품질을 뛰어난 수준으로 향상시킬 수 있습니다.
학습 저장소가 없으면 실험 프로그램의 성공을 높일 수 있는 통찰력을 잃게 됩니다.
그렇다면 왜 대행사가 비즈니스를 이해하고 이러한 리소스에서 정보를 흡수할 시간을 주어야 합니까? 프로세스는 실험 성숙도의 기둥이기 때문입니다. 몇 가지 기본 규칙을 만드는 것은 엄격한 온보딩의 핵심 측면입니다. 놓치지 마세요.
4. 신뢰 구축
그들에게 플랫 및 패배 테스트를 보고할 수 있는 자유를 주십시오. 실행하는 테스트의 대부분이 손실된다는 점을 이해하십시오. 대단해, 왜? 작동하지 않을 수 있는 것을 적극적으로 제거하고 상당한 긍정적 영향을 미칠 가능성이 더 높은 변경, 기능 및 결정으로 이동하기 때문입니다.
승리에 대해서만 듣는다면 통찰력의 90%를 잃게 될 것입니다. 10번의 테스트 중 9번은 일반적으로 실패하기 때문입니다.
또한, 귀하의 대행사가 플랫 테스트를 볼 때마다 스스로 설명해야 하는 경우 적어도 실험과 그 잠재력을 이해하는 대행사는 다른 곳에서 서비스가 더 가치 있다고 느낄 것입니다.
당신은 그것을 원하지 않습니다. 대신 커뮤니케이션 A-game을 가져오고 신뢰를 구축하고 싶습니다. 방법은 다음과 같습니다.
- 대행사와 공개적으로 의사 소통
말하고 듣습니다. 조직의 목표와 대행사와의 관계에서 기대하는 바에 대해 이야기하십시오. 그리고 그들이 당신과 당신의 팀에 대해 기대하는 바에 귀를 기울이십시오.
이러한 요구와 의견을 인정하십시오. 후속 회의 중에도 프로젝트가 진행됨에 따라 피드백과 아이디어가 팀에 중요하다는 것을 알리십시오.
우려 사항이 있으면 솔직하게 표현하십시오. 대부분의 경우 CRO 기관은 이러한 문제에 익숙하며 건전한 방식으로 문제를 해결하는 방법을 알고 있습니다. 또한 목표에 대한 안전한 경로를 매핑하는 데 도움이 될 수 있습니다.
그것은 일이 흐릿할 때 항상 뒤돌아보고 올바른 길을 가고 있다는 것을 알 수 있는 것입니다.
- 상호 유익한 커뮤니케이션 목표 설정
대행사와 파트너 관계를 맺을 때마다 명확한 커뮤니케이션 기대치를 설정해야 합니다. 여기에는 의사 소통 매체, 회의 시간 및 빈도, 요점 등이 포함됩니다.
이러한 것들을 미리 정의하면 장기적으로 작업 프로세스가 원활해질 뿐만 아니라 그만큼 확실성이 신뢰를 조성합니다. 양 당사자는 무엇을 기대해야 하는지 알고 있으므로 긴장을 풀고 다른 의무를 이행할 수 있습니다.
그러나 한 가지 더 있습니다. 이것을 설정하고 끝까지 사용하는 것이 아닙니다. 의도한 대로 작동하는지 수시로 확인해야 합니다. 예를 들어, 중요한 정보를 제시간에 받고 있는지 대행사에 문의하십시오.
추신: 변경하는 것이 있으면 다른 이해 관계자에게 알리십시오.
- 챔피언과 같은 충돌 처리
우리는 장밋빛 타는 것을 좋아하지만 사실은 갈등이 발생할 것입니다. 세세한 부분까지 관리하고 있다면 갈등에 유리하게 승산을 쌓아가고 있는 것입니다. 세세하게 관리하지 마세요.
그러나 CRO 대행사와 의견이 일치하지 않는 경우 어떻게 합니까?
내부 HR 관리자에게 채널을 돌리고 전문가처럼 힘든 대화를 처리하세요. 그 순간은 당신이 이길 수 있는 "대행사" 경쟁이 아님을 이해하십시오. 대신, 그것은 당신의 파트너이며 당신은 최적화(또는 다른 무엇인가)를 통한 성장이라는 공통의 목표를 가지고 있습니다.
목표에 대해 그들을 안심시키고, 함께 다시 방문하고, 거기에서 당신의 방법을 작동하십시오.
뭔가를 바꿀 필요가 있습니까? 그 변화로 인해 프로젝트의 원래 목표에 더 가까워졌습니까? 잘못 이해하신 것이 있습니까? 아니면 더 잘 설명할 수 있는 것이 있습니까?
이와 같은 순간에 더 많은 질문을 하면 해결 시간을 절약할 수 있습니다.
마지막으로 신뢰를 얻기 위해 신뢰를 줍니다. 대행사에서 최선을 다하고 결과를 제공할 것이라고 믿으십시오. 그러면 그 신뢰를 귀하에게 다시 확대할 가능성이 더 큽니다.
CRO 파트너와 이런 식으로 관계를 맺는다면 조직을 위해 그 이상으로 나아가는 데 열광하는 관계의 질을 키울 것입니다.
5. 추출 학습
학습 저장소를 구축하십시오. 이전 테스트에서 얻은 통찰력을 포기하고 QA 팀이 깨진 캠페인을 더 빨리 진단할 수 있는 기회를 거부할 여유가 없습니다.
또한 프로세스 및 결과를 상사에게 보고하는 프로세스를 원활하게 하고 테스트 속도를 높이는 데 도움이 됩니다(실험 기록 전체에 아이디어가 흩어져 있기 때문에).
그러나 이것은 접근 가능하고 적절하게 구조화된 경우에만 가치가 있을 수 있습니다. 생산적인 학습 리포지토리는 다음과 같은 방식으로 모든 학습을 문서화하는 것으로 시작됩니다.
- 테스트의 모든 메타데이터 기록
테스트 유형, 테스트를 실행한 페이지, 접점, 대상 및 성장 표면 영역을 강조 표시합니다. 이 정보와 가설, 메트릭 및 결과를 메타데이터 스코어카드로 압축합니다.
이것을 실험 저장소 도구에 보관하십시오. 시작할 때 Google 슬라이드, Notion 또는 Airtable을 사용하여 이 정보를 유지하고 공유할 수 있습니다.
- 다양한 학습 스타일에 대한 기록
모든 사람이 정보 저장 방식을 선호하는 것은 아닙니다. 일부는 텍스트로 번성하고 다른 일부는 이미지 및 비디오와 같은 시각 자료를 좋아합니다. 이전 테스트에서 학습한 내용을 기록할 때 가능한 위치에 스크린샷과 화면 기록을 추가합니다.
- 테스트에 태그 지정
저장소를 통과하는 사람은 누구나 테스트의 목적을 즉시 식별할 수 있어야 합니다. 반복했습니까 아니면 중단되었습니까? 아니면 최적화나 혁신을 위한 것이었습니까? 실험 프로그램에 맞는 태그를 개발하고 테스트를 정렬하는 데 사용하십시오.
이 학습 저장소는 귀하와 귀하의 CRO 기관에 매우 중요합니다. 그들은 너무 많은 질문을 하지 않고도 실험 프로그램의 역사를 탐색할 수 있습니다.
또한 신속하게 문제를 진단하거나 이미 수행한 테스트에 시간을 낭비하지 않는 계획을 설계할 수 있습니다.
또한 실험 프로그램을 조직의 다른 프로세스와 별개의 개체로 생각하지 마십시오. 다른 팀원들은 대행사가 하는 일에 동참해야 합니다. 이때 일대일로 조직하여 기관 전문가가 테스트에 대해 생각하고 접근하는 방식을 모방하고 흡수할 수 있습니다.
옵티마이저가 생각하는 방식을 모델링하는 것과 관련하여 먼저 시작했습니다.
이러한 1:1은 실험 문화를 촉진하는 데 필수적이지만 집계된 데이터 및 보고서에 대한 액세스와도 일치시켜야 합니다.
이는 CRO 대행사 전문가의 경험을 활용하는 한 가지 방법입니다. 또 다른 방법은 최적화 팀 구성(중앙 집중식 또는 분산형 CoE)과 관련된 의견을 요청하는 것입니다. 전문가들은 선견지명과 선례를 가지고 있기 때문에 실험 로드맵을 기반으로 올바른 방향으로 당신을 넛지할 수 있습니다.
결론
이제 최대 생산성을 위해 CRO 에이전시와 협력하는 방법을 알았으므로 가능한 한 적은 마찰로 성장 목표를 달성할 수 있습니다. 진행 상황을 의심하는 경우가 있을 수 있지만 충분한 협력을 제공하고 올바른 기대치를 갖고 있는 한 파트너십은 결실을 맺을 것입니다.