Come leggere e interpretare con precisione un rapporto sulle esperienze di conversione

Pubblicato: 2022-09-14
Come leggere e interpretare con precisione un rapporto sulle esperienze di conversione

Se sei un utente di Convert, allora sai che i tuoi rapporti sono ricchi di dati preziosi. Ma cosa rappresentano tutti quei numeri e grafici? E come fai a sapere quali conclusioni puoi trarre da esse e usi queste informazioni per migliorare i tuoi test?

È semplice come utilizzare un calcolatore di significatività statistica per convalidare un'esperienza?

Calcolatrice statistica test A/B

Chiamare un test A/B è un successo se mostra abbastanza verde su un rapporto di esperimento o dovremmo considerare anche altri fattori?

Chiamare un test A/B un successo se mostra abbastanza verde su un rapporto di esperimento

Sebbene i calcolatori di significatività statistica siano essenziali per test accurati, non raccontano l'intera storia. Per ottenere il massimo dai tuoi rapporti di conversione, devi avere una solida conoscenza delle statistiche dei test A/B.

E perché?

Perché il test A/B è fondamentalmente un metodo di analisi statistica. Non puoi averne uno senza l'altro.

Un test o un'esperienza A/B è un esempio di test di ipotesi statistica, in cui viene sviluppata e confrontata un'ipotesi sulla relazione tra due set di dati per vedere se viene trovata una significatività statistica.

Quindi, che tu sia un principiante o un utente esperto, continua a leggere per comprendere l'intera gamma di statistiche sui test disponibili nei tuoi rapporti e ottenere risultati migliori dai tuoi test A/B!

Quindi cosa puoi fare con un rapporto di test A/B? Diamo un'occhiata a due esempi pratici.

Esempio 1

Un'azienda di e-commerce sta pianificando di ottimizzare le pagine dei prodotti per migliorare i tassi di conversione.

In questa particolare situazione,

il tasso di conversione della pagina del prodotto = il numero di ordini / il numero di visitatori della pagina del prodotto

Il team di marketing sta valutando tre nuovi design di pagine di prodotto. Vogliono scegliere quella più efficace tra quattro possibilità: un design esistente e tre nuovi. Come possono utilizzare il rapporto Converti esperienze e i suoi metodi statistici per individuare il miglior rendimento, dato che il tasso di conversione è un fattore?

Esempio 2

Modificando la sua pagina dei prezzi, un sito Web SaaS spera di far crescere la sua base di membri.

Per loro,

il tasso di conversione della pagina dei prezzi = il numero di abbonamenti / il numero di visitatori della pagina dei prezzi

Il marketing sta valutando tre diversi design per vedere se qualcuno di loro può attirare più abbonati di quello attuale.

Utilizzando il rapporto Converti esperienze e i suoi metodi statistici, come possono effettuare un simile confronto utilizzando il tasso di conversione come criterio di selezione?

Questo articolo spiegherà cosa contiene il rapporto Converti esperienze, come puoi usarlo per migliorare il tuo sito web e come interpretare l'analisi dettagliata delle esperienze dei tuoi visitatori in modo che tu possa agire.

Continua a leggere per una guida facile da seguire per aiutarti a comprendere le statistiche alla base dei rapporti di test di Converti A/B.

nascondere
  • Una mappa dettagliata di ogni sezione di un rapporto sull'esperienza di conversione
    • ➢ Menu principale
      • Filtra per un intervallo di date specifico
      • Filtra per un segmento specifico
      • Condividi rapporto
      • Visualizza codice
      • Impostazioni statistiche
      • Pausa Esperienza
    • ➢ Riepilogo
      • Abilita suggerimenti intelligenti
      • Visualizza i suggerimenti intelligenti
      • Schermata di base
      • Collegamenti di anteprima dal vivo e variazione forzata
    • ➢ Variazioni
    • ➢ Obiettivi
      • Nome della variante
      • Miglioramento
      • Visitatori
      • Conversioni
      • Tasso di conversione
      • Livello di confidenza (rilevanza statistica)
      • Box plot (intervallo di confidenza)
      • Stato
      • Grafici
        • Conversioni
        • Prodotti
        • Reddito
          • Passa il mouse sopra il grafico
          • Visualizza la deviazione standard
  • Le formule statistiche convertono gli usi
    • Tasso di conversione
    • Cambio del tasso di conversione per le variazioni
    • Intervalli di confidenza
    • Punteggio Z
    • Miglioramento
  • Cosa cercare quando si interpretano i rapporti sull'esperienza
    • I dati dell'esperienza sono significativi?
      • Variante vincente: impatto positivo
      • Variazione perdente: impatto negativo
      • Risultati inconcludenti: impatto neutro
    • Esiste una distribuzione uniforme del traffico?

Una mappa dettagliata di ogni sezione di un rapporto sull'esperienza di conversione

In qualità di utente Convert, hai accesso a informazioni dettagliate sulle prestazioni del tuo sito Web tramite rapporti. Diamo uno sguardo completo a tutti gli elementi di un rapporto Converti in modo che tu possa capire esattamente quali informazioni vengono presentate e come utilizzarle al meglio per migliorare le prestazioni del tuo sito web.

Puoi accedere ai rapporti selezionando l'esperienza che desideri visualizzare e facendo clic sulla scheda Rapporto.

Puoi accedere ai rapporti selezionando l'esperienza che desideri visualizzare e facendo clic sulla scheda Rapporto

In questa sezione vedrai quattro diverse sezioni:

  • Menù superiore
  • Riepilogo
  • Variazioni
  • Obiettivi

➢ Menu principale

Il menu in alto fornisce un rapido accesso alle seguenti informazioni:

  • Data di inizio : la data di inizio dell'esperienza
  • Giorni di esecuzione : durata dell'esperienza
  • Intervallo report : un filtro data consente di filtrare i dati per un periodo di tempo specifico
  • Segmento : filtra il rapporto per segmenti di visitatori
  • Tutti gli utenti testati : il numero di utenti che hanno partecipato al test
  • Conversioni totali : numero totale di conversioni all'obiettivo. Converti tiene traccia solo delle conversioni a obiettivo singolo per visitatore unico. Dai un'occhiata a questa pagina per le conversioni a più obiettivi.
  • Obiettivi : il numero di obiettivi di una determinata esperienza
Il menu in alto fornisce un accesso rapido

Filtra per un intervallo di date specifico

I dati possono essere filtrati per un intervallo di date specifico utilizzando l'intervallo del rapporto. È possibile specificare intervalli di date personalizzati utilizzando le scelte esistenti o il controllo del calendario.

Filtra per un intervallo di date specifico

Filtra per un segmento specifico

Puoi filtrare il rapporto per segmenti di visitatori selezionandoli dalla casella a discesa "Tutti gli utenti". Puoi usarlo per rispondere a domande come

  • Come si è comportato il traffico proveniente da diverse origini nell'esperienza?
  • Qual è stata la variazione vincente tra dispositivi mobili e desktop?
  • Quale variante ha attirato il maggior numero di nuovi utenti?

Dovresti rivolgerti a segmenti di pubblico/segmenti importanti per la tua organizzazione e che possono mostrare una varietà di comportamenti degli utenti e segnali di intenti.

Esamina i punteggi di miglioramento e affidabilità per ciascun pubblico per vedere come si è comportata ogni variazione. A seconda dei risultati della tua analisi, puoi decidere se lanciare la variante vincente su tutto il tuo traffico o modificare la tua allocazione.

Un rapporto sull'esperienza di conversione include i seguenti segmenti:

  • browser utilizzato,
  • dispositivo utilizzato,
  • nuovi vs vecchi visitatori,
  • Paese utente,
  • fonte di traffico,
  • continente, e
  • 10 segmenti personalizzati.

Ecco come creare un segmento personalizzato (audience).

Filtra per un segmento specifico

Puoi anche utilizzare il menu a tre punti e applicare alcune ulteriori azioni:

Puoi anche utilizzare il menu a tre punti e applicare alcune ulteriori azioni

Condividi rapporto

Facendo clic su Condividi rapporto si aprirà un popup con le seguenti opzioni per scaricare i dati dell'esperienza:

Facendo clic su Condividi rapporto si aprirà un popup con le seguenti opzioni per scaricare i dati dell'esperienza

Visualizza codice

Visualizza codice è la seconda opzione, che ti dà accesso al tuo codice di monitoraggio Converti:

Visualizza codice è la seconda opzione, che ti dà accesso al tuo codice di monitoraggio Converti

Impostazioni statistiche

La terza opzione, Impostazioni statistiche, ti consente di configurare quanto segue:

  • Livello di confidenza (significatività statistica) — descritto qui
  • Valori anomali della transazione: descritti qui
  • Automazioni — descritte qui
  • Il pulsante Ripristina statistiche per ripristinare i dati dell'esperienza
Impostazioni statistiche

Pausa Esperienza

Una quarta opzione ti consente di mettere in pausa l'esperienza.

➢ Riepilogo

Nella sezione Riepilogo del rapporto sull'esperienza di conversione, troverai un riepilogo dell'area del sito e delle condizioni del pubblico che si applicano alla tua esperienza. Offre anche alcuni consigli intelligenti:

Nella sezione Riepilogo del rapporto sull'esperienza di conversione, troverai un riepilogo dell'area del sito e delle condizioni del pubblico

Abilita suggerimenti intelligenti

Vai alla configurazione del tuo progetto, Altre impostazioni, per abilitare i suggerimenti intelligenti:

Abilita suggerimenti intelligenti

Visualizza i suggerimenti intelligenti

Puoi visualizzare questi consigli intelligenti in due posizioni.

  1. Nella sintesi del rapporto:
Visualizza i suggerimenti intelligenti nel riepilogo del rapporto

I seguenti messaggi possono essere visualizzati in base ai risultati:

  • Significativo e incremento negativo : Stiamo osservando che la variante ${variant_name} è quella con le migliori prestazioni con un aumento negativo di ${lift}%. L'esperimento per l'obiettivo ${primary_goal_name} è significativo. Suggeriamo di estrarre gli apprendimenti e progettare una nuova ipotesi.
  • Ascensore significativo e positivo : Congratulazioni! Per ${primary_goal_name}, ${variant_name} sta attualmente vincendo con un miglioramento di ${lift}%. L'esperimento è significativo".
  • Incremento positivo e insignificante : sono necessari più visitatori per trarre una conclusione valida per ${primary_goal_name}. Vediamo solo che ${variant_name} è quello con le migliori prestazioni con un aumento di ${lift}%, ma ha bisogno di più visitatori prima di poter trarre una conclusione definitiva.
  • Incremento insignificante e negativo : sono necessari più visitatori per trarre una conclusione valida per ${primary_goal_name}. Si prega di mantenere il test in esecuzione prima di poter trarre una conclusione.
  1. Nella casella espansa Obiettivi:

Di seguito sono riportati alcuni possibili messaggi che potresti visualizzare in base ai risultati:

Visualizza i suggerimenti intelligenti nella casella espansa Obiettivi
  • Congratulazioni {variation.name} è un vincitore, siamo sicuri con un'affidabilità statistica del 00%.
  • Sfortunatamente, {variation.name} ha ottenuto risultati peggiori rispetto a {baselineText}, siamo sicuri con un'affidabilità statistica del 00%.
  • {variation.name} sembra funzionare meglio di {baselineText}, ma non possiamo ancora esserne sicuri
  • È troppo presto per giudicare {variation.name}

Schermata di base

Se passi il mouse sopra lo screenshot di base, vedrai alcune opzioni aggiuntive:

  • Visualizza l'istantanea a dimensioni reali
  • Anteprima variazione
  • Riprendi l'istantanea della variazione
Se passi il mouse sopra lo screenshot di base, vedrai alcune opzioni aggiuntive

Collegamenti di anteprima dal vivo e variazione forzata

La variazione di anteprima aprirà un popup in cui è possibile ottenere gli URL di anteprima live e variazione forzata.

Collegamenti di anteprima dal vivo e variazione forzata

➢ Variazioni

Una sezione chiamata Variazioni fornisce dettagli sulle variazioni della tua esperienza. Ogni colonna dopo la colonna Stato rappresenta i tuoi obiettivi di esperienza:

Una sezione chiamata Variazioni fornisce dettagli sulle variazioni della tua esperienza

Puoi abilitare/disabilitare le colonne o riordinarle facendo clic sul menu a tre punti:

Puoi abilitare/disabilitare le colonne o riordinarle facendo clic sul menu a tre punti

Con il pulsante di stato abilitato, potrai mettere in pausa le variazioni:

Con il pulsante di stato abilitato, sarai in grado di mettere in pausa le variazioni

Sono disponibili alcune opzioni extra quando fai clic sul menu a tre punti su una delle righe delle varianti:

  • Apri l'URL della variante forzata
  • Interrompi la variazione
  • Converti in una nuova distribuzione
  • Converti in originale in un nuovo esperimento
  • Modifica variazione
  • Anteprima dal vivo
Sono disponibili alcune opzioni extra quando fai clic sul menu a tre punti su una delle righe delle varianti

➢ Obiettivi

In questa sezione è possibile trovare una breve descrizione di ciascuno degli obiettivi dell'esperienza, nonché alcune statistiche e grafici interessanti che analizzeremo nella prossima sezione. Prima di procedere, spieghiamo alcuni termini che potresti non conoscere.

  • Obiettivo predefinito : se vedi il termine Obiettivo predefinito accanto a uno dei tuoi obiettivi, significa che è uno dei 2 obiettivi predefiniti che aggiungiamo a ogni esperienza.
  • Obiettivo primario : può esserci un solo obiettivo primario, che deve essere deciso da te. È l'obiettivo più importante per la tua esperienza. Questo verrà mostrato per primo nell'elenco degli obiettivi e lo stato dell'esperienza verrà modificato in base a questo.
  • SRM : potenziale disadattamento del rapporto di campionamento rilevato nel test. Controlla la configurazione dell'esperienza o contatta [email protected] se lo noti.
  • Baseline : questa è la baseline predefinita dell'esperienza.
In questa sezione è possibile trovare una breve descrizione di ciascuno degli obiettivi dell'esperienza, nonché alcune statistiche e grafici interessanti

Ora, esaminiamo ciascuno degli elementi in questo rapporto.

Nome della variante

Questo è il nome della tua variante. Accanto c'è una casella di controllo che puoi abilitare/disabilitare per mostrare e nascondere le statistiche della variazione.

Miglioramento

Puoi vedere qui come si comportano l'originale e la variazione della tua pagina web in termini di tassi di conversione. La differenza percentuale può essere positiva o negativa. Quando la confidenza calcolata è maggiore della confidenza impostata nelle impostazioni delle statistiche, il colore cambia in questo modo:

  • Rosso per –
  • Verde per +
  • Grigio per altro
Miglioramento verde
Miglioramento verde
Miglioramento rosso
Miglioramento rosso

Visitatori

Questo è il numero totale di visitatori raggruppati per l'esperienza. I visitatori unici sono elencati qui.

Conversioni

Questo rappresenta il numero totale di conversioni per ogni obiettivo/variante. Qualsiasi azione desiderata che desideri venga eseguita dall'utente viene definita conversione. A seconda del tuo sito web, questo potrebbe includere qualsiasi cosa, dal fare clic su un pulsante all'effettuare un acquisto.

Tasso di conversione

Questa colonna mostra la percentuale di visitatori che si è trasformata in conversioni.

Livello di confidenza (rilevanza statistica)

Quando si interpretano i risultati A/B, la significatività statistica è il concetto più importante.

Questa colonna indica quanto è diverso l'intervallo di confidenza per il tasso di conversione per la variazione dell'esperimento dall'originale. Se la fiducia non mostra alcun numero, è perché (per impostazione predefinita) sono necessarie un minimo di 5 conversioni obiettivo per ogni variazione per calcolarla. Inoltre deve soddisfare i visitatori minimi fissati per ogni variazione. Se hai modificato le conversioni minime, il minimo che hai selezionato dovrebbe essere raggiunto.

Questa colonna contiene punti grigi/verdi che indicano:

  • 1 punto verde per una confidenza del 75%-85%.
  • 2 punti verdi per una sicurezza dell'85%-95%.
  • 3 punti verdi per una sicurezza del 95%-96%.
  • 4 punti verdi per una sicurezza del 96%-97%.
  • 5 punti verdi per il 97% e oltre
2 punti verdi per la significatività statistica
2 punti verdi per la significatività statistica
Set minimo di visitatori e conversioni per calcolare la significatività statistica
Set minimo di visitatori e conversioni per calcolare la significatività statistica

Box plot (intervallo di confidenza)

Il box plot o l'intervallo di confidenza indica un intervallo di valori in cui il tasso di conversione reale diminuisce.

È una buona idea mostrare la differenza osservata nel valore del tasso di conversione per le pagine originale e variante quando si discutono i risultati e l'intervallo entro il quale i tassi di conversione possono effettivamente rientrare. L'intervallo di differenza è un possibile intervallo di valori tracciati su una scala di linee numeriche.

L'intervallo più alto possibile di tasso di conversione è contrassegnato dal limite superiore sulla scala numerica e l'intervallo minimo possibile di tasso di conversione è contrassegnato dal limite inferiore sulla scala numerica.

Sulla scala, puoi vedere i seguenti colori:

  • Area grigia: indica che l'esperimento non è ancora conclusivo o che sono necessarie altre persone per dichiarare un risultato valido.
  • Una variante vincente è indicata dal colore verde .
  • Una varianza perdente è indicata dal colore rosso .
Trama a scatola verde
Trama a scatola verde
Trama a scatola rossa
Trama a scatola rossa

Nel box plot, tieni d'occhio la sovrapposizione tra i tassi di conversione Originale e Variazione.

Si supponga che i tassi di conversione per l'originale abbiano un intervallo di confidenza del 10-20% e che i tassi di conversione per la variazione 1 abbiano un intervallo di confidenza del 15-25%. Vale la pena notare che la sovrapposizione tra i due intervalli di confidenza è del 5% ed è compresa tra il 15 e il 20%. In questo contesto, è impossibile dire se la variazione in B sia effettivamente un miglioramento importante. Questo è il motivo per cui, in caso di sovrapposizione dei box plot, Convert non dichiarerà un vincitore.

Stato

Questo ti mostra un rapporto sullo stato della variazione.

Grafici

Da qui è possibile accedere a tre diversi tipi di grafici.

Di seguito è riportata una spiegazione di ciascuno:

Gruppo di grafici
Gruppo di grafici
Conversioni
Conversioni
Conversioni
  • Tasso di conversione nel tempo : l'asse Y mostra il tasso di conversione, l'asse X mostra il tempo. Ogni riga rappresenta una variazione (tasso di conversione cumulativo) + una per il tasso di conversione dell'intero esperimento (media di tutte le variazioni) + un secondo asse Y a destra che rappresenta il numero cumulativo di visitatori all'interno dell'intero esperimento
  • Conversioni nel tempo : l'asse Y mostra le conversioni, l'asse X mostra il tempo. Ogni riga rappresenta una variazione (conversioni) + una per le conversioni dell'intero esperimento (conversioni medie di tutte le varianti) + un secondo asse Y a destra che rappresenta il numero cumulativo di conversioni all'interno dell'intero esperimento.
  • Tasso di conversione giornaliero nel tempo : tasso di conversione non cumulativo – simile al grafico Tasso di conversione nel tempo, tranne per il fatto che l'asse Y non mostra i visitatori cumulativi e il non cumulativo viene utilizzato per l'API.
  • Miglioramento nel tempo : miglioramento del tasso di conversione di giorno sull'asse X e linee ogni variazione (ma non originale).
  • Visitatori giornalieri nel tempo
Prodotti
Prodotti
  • Prodotti per visitatore : media cumulativa dei prodotti ordinati per visitatore – l'asse Y mostra la media dei prodotti ordinati per visitatore, l'asse X mostra il tempo. Ogni riga rappresenta una variazione (media cumulativa dei prodotti ordinati per visitatore) + una per la media dei prodotti ordinati per visitatore dell'intero esperimento (media di tutte le variazioni) + un secondo asse Y a destra che rappresenta il numero cumulativo di visitatori all'interno dell'intero esperimento .
  • Prodotti giornalieri per visitatore : prodotti ordinati medi non cumulativi per visitatore
  • Miglioramento nel tempo : miglioramento dei prodotti di giorno sull'asse X e linee ogni variazione (ma non originale)
  • Visitatori giornalieri nel tempo
Reddito
Reddito
  • Entrate nel tempo : entrate medie cumulative per visitatore: l'asse Y mostra le entrate medie per visitatore, l'asse X mostra il tempo. Ogni riga rappresenta una variazione (ricavi medi per visitatore) + una per le entrate medie per visitatore dell'intero esperimento (media di tutte le variazioni) + un secondo asse Y a destra che rappresenta il numero cumulativo di visitatori all'interno dell'intero esperimento
  • Entrate giornaliere per visitatore : entrate medie non cumulative per visitatore
  • Miglioramento nel tempo : miglioramento delle entrate di giorno sull'asse X e linee ogni variazione (ma non originale)
  • Visitatori nel tempo
Passa il mouse sopra il grafico

Passare il mouse sopra il grafico rivelerà il tasso di conversione di ogni variante in quel giorno e il tasso di conversione della variazione rispetto all'originale:

Passa il mouse sopra il grafico
Visualizza la deviazione standard

Puoi anche selezionare la casella per visualizzare la deviazione standard (chiamata anche errore standard):

Visualizza la deviazione standard

Le formule statistiche convertono gli usi

Nota: i termini statistici sono trattati in un blog diverso , quindi non li ripeteremo qui. Il nostro scopo qui è menzionare le formule matematiche utilizzate da Convert.

Convert utilizza un test Z frequentista a due code con un livello di confidenza di 0,05 (95%). Cioè .025 per ogni coda essendo una normale distribuzione simmetrica con l'opzione di cambiarlo tra l'80% e il 99%.

Presto aggiungeremo le statistiche bayesiane ai rapporti di conversione. Resta sintonizzato per ulteriori informazioni.

Z-test
Fonte

Un test a due code dovrebbe essere utilizzato quando vogliamo trovare una differenza statisticamente significativa in qualsiasi direzione (sollevamento o discesa). L'obiettivo qui è determinare se la variazione ha comportato un aumento o una diminuzione statisticamente significativo delle conversioni.

Tasso di conversione

Questa formula viene utilizzata per calcolare il Tasso di Conversione per ciascuna variazione:

(Numero totale di conversioni all'obiettivo / Numero di visitatori unici) * 100

Questa formula viene utilizzata per calcolare il Tasso di Conversione per ciascuna variazione

Cambio del tasso di conversione per le variazioni

La variazione percentuale del tasso di conversione tra la variazione dell'esperienza e l'originale è calcolata in questo modo:

Cambio del tasso di conversione per le variazioni

Intervalli di confidenza

Per ogni variazione viene utilizzato un metodo statistico per calcolare un intervallo di confidenza attorno al tasso di conversione.

L'errore standard (per 1 deviazione standard) viene calcolato utilizzando il metodo di Wald per una distribuzione binomiale. Pertanto, per un dato tasso di conversione ( p ) e dimensione del campione (numero di visitatori unici), l'errore standard viene calcolato come

Intervalli di confidenza

L'errore standard viene calcolato utilizzando questa formula, che presuppone che la distribuzione binomiale possa essere approssimata con una distribuzione normale (a causa del teorema del limite centrale ). La distribuzione campionaria può essere approssimata con una distribuzione normale quando sono presenti più di 10 conversioni sull'obiettivo specifico.

Per determinare l'intervallo di confidenza del tasso di conversione, moltiplicare l'errore standard per il 95° percentile di una distribuzione normale standard (un valore costante pari a 1,65).

In altre parole, puoi essere certo con una sicurezza del 90% che il tuo vero tasso di conversione p rientri in questo intervallo:

Per una confidenza del 95%, utilizzare p ± (1,96 * SE), mentre per una confidenza del 99%, utilizzare p ±
Nota: per una confidenza del 95%, utilizzare p ± (1,96 * SE), mentre per una confidenza del 99%, utilizzare p ± (2,575 * SE).

Punteggio Z

Utilizzando uno Z-Score, possiamo determinare se i risultati sono significativi (che i tassi di conversione non differiscono a causa di variazioni casuali):

Punteggio Z

Il punteggio Z è il numero di deviazioni standard tra i valori medi originali e di variazione. Utilizzando una distribuzione normale standard, la significatività del 95% viene determinata quando il conteggio degli eventi di visualizzazione è maggiore di 1000 e viene soddisfatto uno dei seguenti criteri:

  • Probabilità (ZScore) > 95%
  • Probabilità(ZScore) < 5%

Miglioramento

La possibilità di essere diversi (visualizzata nel report) è derivata dal valore di Probabilità (Z-Score) dove:

  • Se

    Probabilità(ZScore) <= 0,5

    poi
    Miglioramento = 1- Probabilità (ZScore)
  • Se

    Probabilità(ZScore) > 0,5

    poi
    Miglioramento = Probabilità (ZScore)

Cosa cercare quando si interpretano i rapporti sull'esperienza

Ora che conosci tutte le sezioni del rapporto sull'esperienza Converti e le relative formule statistiche, proviamo a interpretare alcuni rapporti sull'esperienza diversi e vediamo cosa puoi ricavarne.

I dati dell'esperienza sono significativi?

Prima di valutare i risultati ed esprimere giudizi su cosa fare dopo, assicurati che i dati dell'esperienza siano significativi. Utilizzando il "Livello di fiducia" nel rapporto sull'esperienza di conversione, puoi determinare se i risultati sono dovuti al caso o se rispecchiano fedelmente il comportamento dei tuoi utenti.

Un livello di significatività del 95% significa che sei sicuro al 95% che le conclusioni osservate non siano il risultato del caso. Implica anche che c'è una probabilità del 5% che ti sbagli.

In alternativa, puoi pensare al livello di confidenza come alla probabilità di ottenere risultati diversi se ripeti l'esperimento.

Se guadagni un punteggio di confidenza del 90%, c'è una possibilità su 10 che otterrai risposte diverse se ripeti il ​​test. Con una confidenza del 95%, c'è una possibilità di 1 su 20, mentre con una confidenza del 99%, c'è una possibilità di 1 su 100.

Utilizzando il "Livello di fiducia" nel rapporto sull'esperienza di conversione, puoi determinare se i risultati sono dovuti al caso o rispecchiano fedelmente il comportamento dei tuoi utenti

Variante vincente: impatto positivo

Ecco un esempio di una variazione significativa che ha sovraperformato l'originale e ha comportato un miglioramento positivo.

Ecco un esempio di una variazione significativa che ha sovraperformato l'originale e ha comportato un miglioramento positivo

Per l'obiettivo "Personalizza abbonamento - Visualizzazione della pagina del passaggio 1", la variante 1 ha una probabilità del 98,7% di battere la variazione 0 (originale) in questa esperienza. Il box plot mostra che la selezione della Variazione 1 può comportare un miglioramento rispetto all'Originale del 13,73% +- 0,6%

Il box plot mostra che la selezione della Variazione 1 può comportare un miglioramento rispetto all'Originale del 13,73% +- 0,6%

In questa esperienza, si può affermare con certezza che il miglioramento è +7,20%, ma c'è la stessa possibilità che il tasso di conversione sia compreso tra 13,73% +- 0,6%. Indipendentemente dalla situazione, la Variazione 1 migliorerebbe rispetto all'originale, quindi questa è una forte indicazione per implementarla!

Come mai?

Se la stessa esperienza fosse ripetuta 10.000 volte in condizioni identiche, la variante 1 vincerebbe comunque 9.870 volte su 10.000.

Variazione perdente: impatto negativo

Diamo un'occhiata più da vicino ai risultati di un'esperienza significativa in cui la Variazione 1 non si traduce in un miglioramento positivo ma ha invece un'influenza negativa sul Tasso di Conversione della Variazione 0 (Originale).

Variazione perdente: impatto negativo

In questa esperienza, c'è una probabilità del 98,87% che la variazione 1 perda sul tasso di conversione rispetto alla variazione 0. Con la variazione 1 è possibile prevedere un impatto negativo sul tasso di conversione dell'originale tra il 4,5% +- 1%.

Con la Variazione 1 è prevedibile un impatto negativo sul Tasso di Conversione dell'Originale tra il 4,5% +- 1%

Risultati inconcludenti: impatto neutro

Ora diamo un'occhiata a un'esperienza che non è significativa. Nell'esperienza seguente, nessuna delle varianti ha una probabilità di vincita sufficientemente alta o una probabilità maggiore del 95%.

Risultati inconcludenti: impatto neutro

La probabilità che la Variante 1 vinca sulla Variante 0 è solo dell'84,58% in questa esperienza.

Qual è il prossimo passo che puoi fare?

Ci sono diverse opzioni tra cui scegliere, tutte dipendenti dall'ipotesi e dall'obiettivo finale dell'esperienza. In ogni caso, ci sono sempre alcune opzioni sul tavolo:

  • Estendi il tuo pubblico. Se il tuo segmento di visitatori è troppo limitato, prova a concentrarti su un segmento con un pubblico più ampio.
  • Rimuovi alcune varianti. Se hai sviluppato quattro varianti, ad esempio, prova a eseguire la stessa esperienza con due o tre varianti.
  • Lasciarlo in funzione per un periodo di tempo più lungo.
  • Segui il tuo istinto e scegli ciò che è più coerente con il tuo marchio. Se i risultati sono simili in due varianti e i tuoi colleghi concordano sul fatto che una è più in linea con i requisiti del tuo marchio rispetto all'altra, puoi scegliere di sceglierne una come vincitrice.
  • Rilancia l'esperienza. Eseguire lo stesso test due volte per convalidare o invalidare i risultati iniziali è una pratica intelligente. Poiché è improbabile che le circostanze siano le stesse (periodo di tempo diverso, fluttuazioni del traffico, ecc.), i risultati potrebbero essere diversi!
  • Lascia che sia. È possibile che l'originale sia già ottimizzato.

Esiste una distribuzione uniforme del traffico?

Quando imposti un'esperienza A/B, assegni una percentuale di traffico a ciascuna variante (per impostazione predefinita, 50/50).

Quando imposti un'esperienza A/B, assegni una percentuale di traffico a ciascuna variante (per impostazione predefinita, 50/50)

Il conteggio dei visitatori dovrebbe rappresentare la suddivisione del traffico prevista.

Nel caso di una differenza significativa, c'è quasi sicuramente un mismatch del rapporto campionario (SRM)

Nel caso di una differenza significativa, c'è quasi sicuramente un mismatch del rapporto campionario (SRM)

In una divisione 50/50, se ottieni 400 visitatori da un lato e 600 dall'altro, i risultati non sono affidabili. Quando ciò accade, è il momento di esaminare la configurazione dell'esperienza A/B. I risultati potrebbero essere distorti da valori anomali come indirizzi IP interni o bot esterni.

Ricorda, i dati sono buoni solo quanto l'analisi che fai con essi. Sfrutta tutti gli strumenti a tua disposizione, incluso il reporting approfondito di Convert Experiences, per ottenere informazioni dettagliate e fruibili.

Se non disponi già di un account, registrati per una prova gratuita e provalo per 15 giorni. Avrai accesso a tutte le fantastiche funzionalità di cui abbiamo discusso in questo post, oltre a molte altre. E se hai domande o hai bisogno di aiuto per iniziare, il nostro team è qui per aiutarti.