如何處理定性數據和定量數據以贏得 A/B 測試?
已發表: 2021-12-09如果我們將其分解為核心概念,CRO 不是關於轉化,而是更多地了解您的受眾以及他們如何與您的網站互動。
您越了解他們、他們想要什麼以及他們在您的網站上的行為方式,您就可以提供更好的客戶體驗和優惠。
這意味著我們作為測試人員的主要目標是找出盡可能多的信息。 我們擁有的數據越多,我們就可以更好地計劃測試並嘗試看到結果的提升。
問題?
我們並不總是擅長收集或理解這些數據。 也許我們不知道要使用的工具、查找信息的過程,或者我們沒有分析和獲得準確的見解,要么是缺乏經驗,要么更糟糕的是,增加了我們自己的偏見,從而破壞了結果。
這就是我們將在今天的指南中介紹的內容:如何收集有關您的受眾的信息、理解並使用它。 我們甚至會深入研究其他測試人員及其流程,以便您為新測試收集更多想法和見解。
繼續閱讀以了解更多信息,或單擊此處了解“如何使用數據來推動成功的 A/B 測試”。
- 什麼是定量數據?
- 什麼是定性數據?
- 在 A/B 測試中使用數據的正確方法是什麼?
- 收集和分析數據時要避免的大錯誤
- 問題 #1:收集數據以證明觀點
- 問題 #2:在沒有明確闡明問題的情況下支持分析
- 問題#3:依賴單一數據源而不讓自己沉浸在不同的觀點中
- 問題#4:不優先考慮批判性思維作為一種技能
- 什麼是批判性思維?
- 什麼是認知偏差?
- 問題#5:以相關為因果
- 收集定性和定量數據的不同方法
- 收集和分析數據時要避免的大錯誤
- 實驗專家如何處理定性和定量數據?
- Gursimran Gurjal – OptiPhoenix
- Haley Carpenter,高級 CRO 戰略專家
- Rishi Rawat – 無摩擦商業
- Sina Fak – 轉換倡導者
- 雅庫布·林諾夫斯基 – GoodUI
- Eden Bidani - 綠燈副本
- Shiva Manjunath – Speero
- 使用數據設計獲勝測試的最佳方式是什麼?
- 如何提高組織中的數據可訪問性
- 如何通過收集可信數據來提高數據可用性
- 如何進行無偏見的數據分析以生成為假設提供信息的見解
- 允許從測試中學習以激發更多測試
- 結論
在測試和查找您的網站或應用程序的信息時,我們要查看兩種類型的數據。
什麼是定量數據?
定量數據都是關於原始數字的。 我們在分析時的目標是提供關於每次交互在我們網站上的執行情況的直接反饋,並為其分配一個實際的數值
定量數據分析的例子可以是:
- 測量頁面流量
- 該流量的跳出率
- 點擊率
- 訂戶率
- 銷售率
- 平均銷售價值。
大多數測試程序都將從技術分析開始,以獲取有關網站上運行或損壞的數據的數據,然後進行定量分析以獲取網站當前性能的基線,然後再進行定性分析。
什麼是定性數據?
定量數據為我們提供了頁面或應用程序如何執行的原始數據,但它並沒有告訴我們為什麼會發生這些事情。
這就是定性數據分析的用武之地。它可以幫助我們理解事情發生的原因(好或壞),以便我們可以形成如何改進它們的假設。
定性數據的例子是
- 用戶研究
- 滾動地圖
- 點擊跟踪
- 熱圖
- 調查。
目標是更好地了解受眾及其互動方式,以便我們發現網站使用的潛在問題,或了解可能影響他們在網站上的行為的任何外部問題。
例如,雖然我們知道 CTA 沒有獲得很多點擊,但只有通過客戶訪談,我們才發現語言不清晰或無法引起觀眾的共鳴。
在 A/B 測試中使用數據的正確方法是什麼?
雖然看起來我們只是在跟踪特定的轉化事件或監控用戶行為,但我們的目標是結合定量和定性數據。 也許是為了發現技術故障或常見問題,但理想情況下,我們將它們結合起來,以便我們可以自我教育並更全面地了解我們的受眾。
我們也不只是想要即時信息。 我們想找出事情發生的原因,然後更進一步找到根本原因。
假設我們進行定量研究,我們發現頁面上的轉化率很低。 報價或產品是否只是不想要的? 還是我們需要改進流程?
然後,我們在登錄頁面上運行熱圖,發現大多數觀眾沒有點擊特定的 CTA,因此我們可以假設原因。 可能語言不清楚?
但是在更深入的檢查中,我們發現對於某些設備,它只是在屏幕外,而在其他設備上,它甚至不夠突出,甚至無法清楚地表明它是一個需要按下的按鈕。
- 如果我們只看定性數據,那麼我們只會認為這是一個低點擊率。
- 如果我們只看定性數據,那麼我們可能會假設人們只是沒有點擊。
但是通過將它們結合起來,我們可以看得更深。 (這就是我們在 A/B 測試中真正理解數據的方式。)
古老的成語是正確的,即“得到衡量的東西得到管理”。 當然,關鍵是確保我們不會根據有限或有缺陷的數據集做出決策,因此始終查看多個數據源。
學會放慢腳步,問為什麼,讓數據沉入其中,這將幫助你成為一個更好的測試者和問題解決者。
與其試圖立即找到答案,不如問問自己是否有足夠的信息:
- 您的用戶是否有易於修復的問題(按鈕損壞或 CTA 較弱),或者是否還有更多可以改進的地方?
- 您是否有影響您最初想法的固有偏見或以前的經驗?
- 你能先了解更多關於你的觀眾的信息嗎?
如果通過深入研究這個 CTA 和佈局問題,您會發現您的大多數受眾使用具有不同屏幕分辨率和加載速度的過時移動設備? 可能是他們缺少您的大部分內容和互動,而不僅僅是您的 CTA 和銷售頁面。 甚至您的社交媒體和博客內容也可能受到影響!
再深入一點。 為什麼他們有這些設備? 他們買不起更昂貴的設備嗎? 對他們來說不重要嗎? 如果不是,那是什麼?
不要只是試圖根據你目前所擁有的做出所有決定。 花點時間,思考並深入研究你得到的任何結果。 找出原因。
收集和分析數據時要避免的大錯誤
現在,如果您是那種試圖從他們的初始研究中立即獲得洞察力的測試人員,請不要擔心,因為您並不孤單。
這只是大多數人在嘗試收集或理解他們的數據時反復出現的幾個問題之一……
問題 #1:收集數據以證明觀點
您是否正在使用數據來尋找新的見解? 還是您正在使用數據來驗證當前的想法?
可以使用數據來驗證一個想法。 這就是假設的目標。 我們知道出了什麼問題以及如何解決它,因此我們嘗試通過測試及其結果來證明這一點。
但不要忘記科學方法! 我們不能執著於我們的想法和意見。 我們需要相信數據並找到真正的原因。 這就是我們所關心的。 假設“錯誤”是可以的。 從失敗的測試中找出不同的見解只會讓您更多地了解您的受眾!
小心數據告訴你一件事,但你歪曲它試圖證明別的東西。
問題 #2:在沒有明確闡明問題的情況下支持分析
測試(甚至大多數企業)中的一個常見問題是分析數據的人並不總是分析師。
相反,分析師被用作將信息提取到報告中的媒介,以供試圖解決問題的第三方使用。 (它們幾乎變成了美化的儀表板。)
這是一個例子:
- 你的老闆有一個目標和一個問題。
- 他們對解決方案和原因有一個粗略的了解,因此向分析師詢問有關 XYZ 的數據,但沒有上下文。 他們試圖弄清楚這個問題和解決方案是否可行。
- 通常,來回請求更多數據。 這個請求要么錯誤地支持了這個想法,要么沒有發生進一步的理解。
- 因此提出了新的測試或想法,但問題仍未解決。
不太好,對吧?
但是想像一下,如果老闆帶著特定問題的背景來找分析師,他們一起努力闡明問題並找到根本原因?
這既可以快速跟踪理解,也可以通過新的測試來解決它。
問題#3:依賴單一數據源而不讓自己沉浸在不同的觀點中
我們之前暗示過這一點,但不要只堅持單一的數據源非常重要,因為您嚴重限制了您的理解和潛在的測試解決方案和想法。
你擁有的資源越多,你就越能描繪出正在發生的事情和原因。
是的,這需要時間,但轉化率優化就是要了解受眾。 盡可能多地完成工作並學習。
你知道的越多越好!
通過 GIPHY
問題#4:不優先考慮批判性思維作為一種技能
我們的大腦很奇怪。 我們在一個由基本衝動、情緒驅動和以前的經驗組成的系統上運作。 目標是在不浪費太多精力的情況下讓我們保持活力、生育和做出決定。
知道這一點後,測試人員(以及任何企業主)了解批判性思維和認知偏差的過程以及它們如何影響我們的理解和決策總是很明智的……
什麼是批判性思維?
批判性思維是分析事實和數據以形成不帶偏見的判斷的能力。
我們的決策涉及數百種不同的事情,其中之一是基於以前的生活經歷或情況的決策偏見。 我們稱這些認知偏差。
那些練習批判性思維的人明白這一點,因此他們使用特定的過程來幫助他們做出公正的判斷:
- 鑑定。 找出問題所在。
- 收集數據。 確保使用多個來源。 確保不要在來源選擇中添加偏見。
- 分析。 你能相信這些來源嗎? 他們可靠嗎? 數據集是否足夠大以至於真實?
- 解釋+推理。 您可以從這些數據中看到哪些模式? 到目前為止它告訴你什麼? 最重要的是什麼? 你看到因果關係還是相關性?
- 解釋。 你認為為什麼會這樣?
- 自我調節。 您是否有任何認知偏差影響這種分析和檢驗假設? 你在做不正確的假設嗎? 通過他們確定。
- 思想開放,解決問題。 以您目前的理解,您如何解決這個問題? 您需要先了解更多信息嗎?
如您所見,有一個分析這些信息的過程非常重要。 即便如此,您也應該關注任何可能影響您如何做出決策和分析這些數據的潛意識偏見。
什麼是認知偏差?
認知偏差是我們大腦通過使用模式識別來節省決策能量的作弊代碼。 當然,問題是我們的偏見並不總是正確的,它們會積極或消極地影響我們的決定和行動。 Ik 這在測試時尤其明顯。
這裡有些例子:
- 行動偏差:即使數據表明無法改進,也願意採取行動的傾向?
- 錨定偏差:根據先前獲得的信息做出決策的傾向。
- 權威偏見:傾向於高度重視權威職位的意見。
你能看到這些如何影響你的數據分析和測試想法嗎?
這些內容太多了,我無法在這裡介紹(有些人估計總共大約 150 個)。 我強烈建議您製作自己的清單。 然後,您可以嘗試建立一個批判性思維過程來分析我們之前描述的數據,並“檢查”任何可能影響您分析的潛在偏見。
問題#5:以相關為因果
這幾乎與認知偏差有關,因為我們看到數據中可能存在的模式,但可能不是結果的原因。
它們只是作為副產品或簡單的巧合經常一起出現。
例如,大多數衝浪者不會在上午工作,而是會衝浪。 (這是您擁有最適合海浪的海上風的時候)。
對於在海灘上觀看的人來說,你會假設這些人可能沒有工作或請病假。 然而,在海洋中進行了多次對話之後,很明顯,幾乎每個衝浪的人都是為自己工作的,因此可以選擇他們的時間。
現在他們中的一些人開始衝浪,因為他們有這種靈活性和空閒時間(相關性),但其他人選擇了他們可以擁有這種靈活性的職業,以便他們可以去沖浪(因果關係)。
很酷,對吧?
但事實是,即使在最初的研究和“訪談”之後,很容易得到對數據集的不准確視圖。 請務必以開放的心態查看您的數據,並深入研究以找到真正的原因。
收集定性和定量數據的不同方法
我們可以用什麼來收集這些數據?
對於定量數據收集,我們通常關注兩種類型的工具:
- 用於獲取當前結果的分析工具,例如 Google Analytics 或第三方提供商。
- A/B 測試工具,例如 Convert Experiences,因此您可以測量變體和控件之間的性能數值變化。
這兩個都會給我們原始的數字數據。
(在此處查看我們對 A/B 測試工具的比較指南,以便了解哪種最適合您。)
對於定性研究,我們正在尋找更廣泛的選擇,因為我們正在測試多種不同的元素:
- 熱圖
- 點擊跟踪
- 眼動追踪
- 用戶錄音
- 現場調查,以及
- 直接客戶調查。
由於其硬件要求,眼動追踪往往是成本最高的工具。 有一些軟件可供內部安裝和使用,而另一種選擇是聘請外部公司設置眼動追踪眼鏡或攝像頭來檢查眼球運動和感興趣的位置。
對於熱圖、點擊跟踪、基本用戶記錄和調查,您可以使用結合所有這些功能的低成本工具,如 Hotjar。 它可以幫助您發現常見問題並獲得幾乎立即的洞察力,而無需獲得第 3 方的幫助,並且*幾乎*執行與眼動追踪類似的功能。
最後,您還可以將用戶記錄更進一步,聘請代理機構來引入獨立用戶使用您的網頁,讓他們執行設定的任務,然後記錄他們的交互並將信息傳遞給您。
TL;博士
如果您不介意錯過眼動追踪,您可以使用 GA、Convert 和 Hotjar 獲取幾乎所有數據。
邊注:
雖然我們沒有在定量工具部分列出這些,但有時定性工具可用於定量數據採集的重疊。
您可以使用調查工具並測量 X 名參與者的回复,以獲得他們對銷售文案的想法以及他們認為自己會如何回應的數值。
但是……這仍然是主觀的,因為人們所說的並不總是他們所做的。
衡量他們對某項行動的反饋(他們所說的話)然後衡量實際行動響應(他們採取的行動)總是一個好主意。 有時,這可以讓您更深入地了解要提供什麼以及如何構建它。
實驗專家如何處理定性和定量數據?
想知道專業人士如何收集和使用數據? 作為“像 CRO 專業人士一樣思考”系列的一部分,我們最近採訪了 7 位 CRO 專業人士。
我不會破壞他們的採訪,因為我強烈建議您閱讀它們,但是,我已經提取了一些有趣的花絮,關於他們如何看待下面的數據,以及我對他們方法的看法……
Gursimran Gurjal – OptiPhoenix
定量數據通常有助於發現基本的轉化漏洞,以了解用戶在哪裡掉線、不同渠道的表現、來自不同設備的 CR、用戶退出網站的位置等,而定性數據有助於我們發現用戶掉線或採取某種行動的原因的細節.
將“Where+Why”與實驗相結合,描繪了用戶行為的完整圖景。
研究定性數據(例如熱圖、會話記錄、調查結果或進行可用性測試)需要更多時間來製作具有統計意義的模式,而定量數據更容易分析。當您想要收集更詳細和更有意義的見解時,這一點很重要不僅僅依靠 GA 或 Hotjar 來收集數據,而是推送您自己的自定義事件以使數據更有意義,例如為在結帳過程中出現錯誤的所有用戶標記記錄,將事件發送到 GA 用於哪個過濾器或排序選項使用最多,等等,因此您可以充分利用可用的數據。
添加自定義標籤以獲取數據直通線是一個絕妙的主意。 這樣,您不僅可以看到問題及其導致的位置,還可以看到它的起源和流量來源。
Haley Carpenter,高級 CRO 戰略專家
不斷提醒自己,我們都有偏見。 知道盡可能如實和準確地報告是您的工作。 誠信是高舉的關鍵價值。
此外,如果您不確定某事,請仔細檢查您的工作或讓其他人對其進行檢查。 有時,第二雙眼睛會非常有益,尤其是當您盯著某物看幾個小時、幾天或幾週時。
我曾經參加過人類學課程,我們必須轉錄錄音。 教授強調,最重要的是要讓說話者真實地轉錄。 我們甚至連刪減一個兩個字母的單詞或糾正一個小的語法錯誤都不會做。
直到今天,我一直在學習這一課,並將其應用於數據分析……尤其是用戶測試記錄。 盡可能讓您的分析與原始數據保持一致,這一點很重要
多方關注研究和結果是不錯過任何問題、消除潛在偏見並獲得不同觀點的好方法。 這通常會導致單個測試人員錯過的洞察力。
Rishi Rawat – 無摩擦商業
我對定量數據的看法:
數據就是數據。 不要瞇著眼睛去理解它。 不要在情感上與之掛鉤。 在數據收集開始之前陳述你的假設。 如果數據反駁了你的直覺,重新設計一個新的測試並啟動它。 數據就是數據。 尊重它。
我對定性數據的看法:
我們對這個話題有爭議。 我們不相信最終用戶研究,也就是說,我不與購買產品的人交談。 並不是說我認為這類研究不重要,而是; 只是很貴。 我更喜歡從我正在開發的產品的創始人或發明者那裡獲得我所有的定性數據。
最終購買者的用戶體驗只是在那一刻進行的一次購買的快照,發明者對整個旅程都有背景。 我想從創始人那裡得到我的量化“感覺”。創始人/發明者擁有如此多的機構知識,會讓你頭暈目眩。 只是他們已經在“中間”太久了,他們不知道從哪裡開始。 這就是優化器的提問技巧發揮作用的地方。 優化器幫助創建者獲得外部視圖。 我非常看重這種類型的定性數據
現在,這是一個有趣的想法……
在 CRO 中,我們傾向於關注用戶以了解客戶旅程。 問題是客戶有時不知道哪裡出了問題或如何表達。
然而,同樣地,企業主可以從裡到外了解產品,但不善於溝通。 對他們來說,這很明顯,因為他們擁有所有的經驗,但對客戶來說,這個信息可能會遺漏一些東西。 在理想的世界中,如果您正在為另一家公司進行測試,您希望同時與觀眾和所有者交談。
如果您在時間或資源上遇到困難,請與企業主交談。 就像 Rishi 說的那樣,他們通常擁有所有可以提取的洞察力。 作為測試人員,我們的工作就是找出缺失的地方以及它如何與客戶建立聯繫。
Sina Fak – 轉換倡導者
現實情況是,所有數據都內置了偏見。
從數據的收集方式,到用於分析的樣本數據,再到審查數據和運行分析的人員——都存在我們無法完全控制的偏見因素。
單獨的數據不會給你完整的故事。 它只會為您提供了解部分故事並得出見解的起點。 以講述公正故事的方式處理數據的唯一方法是對其進行測試並對其進行實驗
這與我們之前所說的有關。
每個測試和研究都有偏見。 我們可以嘗試通過批判性思維和分析過程來否定其中的一些,但它仍然可以潛入。
測試這個想法,找出並測試更多。 不要忘記科學的方法。 我們也可以“向前失敗”並找到我們正在尋找的答案。
雅庫布·林諾夫斯基 – GoodUI
一般來說,我們擁有的一致措施越多,我們的實驗就越可靠和值得信賴。
在比較 A/B 測試結果時,我們可以採用以下幾種方法:
● 比較同一實驗中的多個指標(例如,添加到購物車、銷售、收入、退貨購買等方面的效果一致性)
● 比較不同實驗的歷史數據(例如,在 2 個不同網站上運行的兩個獨立實驗之間的效果一致性
不要忘記 Quant 和 Qual 數據分析在 POST TEST 中與在我們最初的計劃中一樣重要。
有一個流程來檢查潛在問題和“aha moment”的位置可以比最初的一瞥產生更好的結果。
(有時數據就在那裡,我們錯過了它。)
Eden Bidani - 綠燈副本
我嘗試盡可能多地在我面前並排處理兩種類型的數據。 對我來說,這有助於平衡整體情況。
質量數據為量化提供了深度和意義,量化數據提供了關於質量數據的哪些元素應該被賦予更多的總體方向。
將兩個數據集放在一起以便您可以比較和對比是分析和了解正在發生的事情的最佳方式。
這與我們之前所說的使用單一數據集來查找問題和解決方案有關。 如果我們只有一個,那麼我們會得出不同的結論。 使用兩者來嘗試找到這種相關性。
Shiva Manjunath – Speero
我嘗試進行 Quant + Qual 分析的方式就像警察審訊一樣。 有一個動機或假設,但你不能假設你帶去審問的人是無辜的還是有罪的。 被帶入的人(實驗數據)被假定為無罪,您的工作是證明他們有罪,排除合理懷疑(統計意義)。
因此,您可以自己查看數據,採訪其他人(定性數據),還可以查看銀行對賬單或查看某人何時上班/下班的日誌,以查看他們的不在場證明是否檢查出來(定量數據)。
也許不是最好的例子,但你必須始終客觀地對待它。 並證實數據源(例如帶有定量數據的網站上帶有民意調查的熱圖)以提出一個故事,看看它是否支持或不支持該假設。 嚴格統計,顯然是y!
我喜歡這個類比,它讓我想起了福爾摩斯,並直接與測試聯繫在一起。
我還沒有數據。 (或不夠)。 在沒有數據之前進行理論化是一個大錯誤。 不知不覺中,人們開始扭曲事實以適應理論,而不是扭曲理論以適應事實。
作為實驗者,我們需要消除所有偏見。 要么經驗豐富,要么僅僅因為我們提出了這個假設。 相反,我們需要公平對待結果並找出真相。
我們的目標不是正確的。 這是為了找到有效的方法,以便我們可以在此基礎上進行構建!
使用數據設計獲勝測試的最佳方式是什麼?
如果您已經進行了一段時間的測試,那麼您就會知道大多數測試不會創造出贏家。 事實上,只有大約 3/10 會獲勝,而其他人則被視為失敗。
贏或失敗的術語雖然不是很好。 是的,測試沒有提供提升,但它確實為我們提供了數據,我們可以使用這些數據來改進並找出原因。
記住:
我們不專注於單一測試。 即使它贏了,我們仍然使用迭代的學習和改進過程。 我們再次測試、學習、假設和測試。
這有助於我們創建新數據的反饋循環,以支持或反駁想法。
- 我們測試和失敗,但我們學習。
- 我們接受這些學習並對其進行測試,直到我們獲勝並取得進步。
- 然後我們繼續測試,直到達到局部最大值並且無法進一步改進。
不要專注於試圖立即獲得勝利。 這是聲稱 CRO 不適合您的捷徑。 相反,將數據轉化為洞察力並每次都了解更多。
您可能接近贏家,但它只需要更好的執行。
或者你可能接近一個可以從根本上改變你的整個消息傳遞的時刻。 堅持下去,並在每次測試中不斷學習!
將該反饋循環構建到您的數據處理和測試過程中。
但最重要的是? 確保您可以訪問和理解您正在收集的數據,您正在正確使用該數據並且您可以信任它!...
如何提高組織中的數據可訪問性
有數據可以處理一切都很好,但如果你不能訪問它來學習它是沒有用的!
一些公司通常只能通過他們的數據科學家訪問他們的數據,從而在他們的數據流中遇到瓶頸。 如果您需要這些信息,那麼您要么需要訪問權限,要么直接與他們合作,從而導致問題。
克服這個問題的一個好方法是使數據訪問民主化:
- 允許需要它的團隊訪問傳統單一角色工具(GA 等)的數據,
- 考慮使用具有數據報告功能的自助服務工具,供整個團隊使用,
- 構建數據結果的集中學習存儲庫。 這允許整個組織獲得數據洞察力,而不僅僅是直接測試團隊。
為什麼要關心數據訪問?
因為對數據的訪問增加了可以做出的可能影響您的業務投資回報率的決策的數量。
訣竅當然是確保一旦您有權訪問,您就可以找到您想要的……
如何通過收集可信數據來提高數據可用性
數據可用性是指使用數據回答問題的難易程度。
如果我們從概述中看,您的數據目標應該是:
- 尋找影響業務投資回報率的洞察力。 沒有它,它只是沒有目標的信息數據。
- 快速找到它們,而不必費力地獲取信息。
- 並利用這些洞察力做出快速且值得信賴的決策。 要么是因為數據是可信的,要么是因為您了解並且沒有操縱結果或被誤報。
您可以猜到,這裡可能存在一些問題,具體取決於您現有的系統和流程。
我們已經討論了能夠訪問該信息的重要性以及擁有具有自助服務功能的工具或流程在公司範圍內打開數據報告的好處。
但是現在我們可以訪問這些數據,我們需要確保我們既能找到我們想要的信息,又能信任它。
理想情況下,您需要主動運行流程來組織數據集:
- 使最重要的指標易於查找。
- 使用參考模型和目標來查找傳統工具可能無法跟踪的特定數據集。
- 確保數據源之間的同步,以便更新和編輯以及新信息不會丟失。
- 並允許您的數據科學團隊處理您的大數據,以便您可以輕鬆找到所有這些信息並信任它!
一旦你為你的數據記住了這個最終目標,就可以更容易地為新的數據集提前建立準備過程。(當你知道你想成為的時候,記住提前標記特定的動作會容易得多以後可以找到它們)。
如何進行無偏見的數據分析以生成為假設提供信息的見解
那麼我們如何使用這些數據來獲得洞察力和想法呢?
好吧,劇透警報,到目前為止,我們實際上一直在通過本指南介紹這一點。
- 旨在使用多個數據源來獲得更廣闊的視野。
- 嘗試使用公正的流程來收集這些數據。 如果可能,不要限制特定的人口統計數據或設備。
- 使用批判性思維來評估信息。
- 查看認知偏差以及它們如何影響您的分析。
- 請務必調查組合的每個數據源。 (技術、定量和定性結合在一起)。
允許從測試中學習以激發更多測試
您應該將您的測試視為進一步改進的反饋循環。 這可以在您當前的測試中不斷改進並獲得更多提升,或者您甚至可以將其應用於舊測試,您的新見解可以進一步提供幫助。
無論哪種方式,目標都應該是測試、學習、改進和重複,直到你無法再獲得提升。
但是……我們實際上如何從這些測試結果中學習?
好消息是,我們編寫了一個從 A/B 測試結果中學習的 7 步指南,您可以在此處查看。
如果您現在沒有時間,那麼這裡有一個快速回顧:
- 首先確保您可以信任您的結果。 它們準確嗎? 它們很重要嗎? 你對他們有信心嗎? 測試運行的時間是否足夠長? 是否有任何外部因素影響他們?
- 去微觀和宏觀。 僅僅因為測試獲勝或失敗,您就需要了解它如何影響您的護欄指標。 具有諷刺意味的是,如果它吸引了錯誤的受眾,點擊率的提升可能意味著銷售額的下降。 同樣,點擊率下降可能會提高銷售額,因為它現在可能只吸引最好的受眾。 因此,請檢查您的指標,而不僅僅是您的測試結果。
- 更深入地細分您的結果。 並非每個受眾、流量渠道和設備都會執行相同的操作。 某些頻道可能已損壞。 然後,由於您沒有詳細的圖片,因此這可能會使結果看起來好或壞。 (這還可以讓您深入了解最適合某些渠道的變體,幫助您細分投放以獲得更高的提升)。
- 檢查性能和用戶行為。 僅僅因為我們之前進行了定性和定量數據分析,並不意味著您應該在測試後跳過它。 事實上,這是了解發生的事情以及如何獲得這些結果的最佳方式。
- 從失敗中吸取教訓。 什麼地方出了錯? 你怎麼能解決這個問題?
- Learn from the winners and improve further. Did you get a new aha moment? Do you have more ideas of how to improve the page again after the QA and Qual analysis? Keep pushing for more lift!
- Don't forget what you did! Get in the habit of creating and using a learning repository. This way you can see past tests, learn from them, train new staff and even go back and apply new insights to old ideas.
結論
所以你有它。 Our entire guide to using technical, quantitative, and qualitative data to create winning tests.
It doesn't matter if it's A/B, split URL, or multivariate testing. You can use this same methodology to learn more from every test you run, so go ahead. Run those tests, learn from those mistakes, analyze that data and then let us know how much lift you got!