為 A/B 測試建立單一事實來源 (SSOT) 的最佳實踐

已發表: 2022-06-14

您的 CX 測試取決於您的數據質量。 你不能使用有問題的數據形成有效的、可檢驗的假設。 如果您不知道自己正在查看準確的指標,您將無法相信測試的結果。

這就是為什麼您需要圍繞單一事實來源 (SSOT) 數據集構建測試程序的原因。 如果你做不到,即使是最簡單的 A/B 測試也將缺乏價值。 本文探討了為什麼建立 SSOT 如此重要,並分享了我們在 Kameleoon 開發的一些經過現場測試的最佳實踐。

什麼是 SSOT

現代商業決策必須是數據驅動的。 維護 SSOT 意味著對於 CX 實驗或任何其他功能,您將一個數據源標準化為確定的“真理”,您圍繞該數據源開展該團隊的工作並為公司的決策提供信息。

如果沒有 SSOT,您就有可能將數據分散到由不同團隊為不同功能保護的孤島中。 沒有標準化,沒有共識,也沒有辦法知道是否有人根據最佳可用信息做出決定。

SSOT 不是特定的技術或系統。 這是一種旨在從團隊活動中獲得最佳結果的商業實踐。 一些公司通過轉向 SSOT 數據策略而節省了數百萬美元,甚至無需觸及基礎工作。

研究表明,高質量的客戶行為指標仍然是為戰略決策提供信息的最受歡迎的數據。 連續幾年,在普華永道的年度 CEO 調查中,CEO 將其視為他們想要進行戰略規劃的最重要指標。

什麼是 A/B 測試

A/B 測試是一種通過比較原始版本(A 或控製版本)與修改後的 B 版本的性能來試驗網站、移動應用程序或廣告的方法。 目標是收集每個版本的性能數據,進行統計分析,並根據數據確定哪個版本的性能最好。
A/B 測試不僅僅用於測試單個網頁元素。 例如,您可以使用它來優化定價、驗證產品功能以及針對不同的訪問者細分個性化網站。 此外,A/B 測試是許多其他 CX 優化技術的基礎,包括多變量測試、產品推薦和基於配置文件的定位。

誰需要 SSOT 進行測試?

實驗團隊正在瀏覽其分析平台、CRM、測試平台等生成的數據。 他們需要建立一個 SSOT 進行測試,以闡明他們的團隊想要做什麼。 讓我們考慮一個例子。

Kameleoon 的一位客戶發起了一項活動,以優化其網站的搜索功能。 他們進行了服務器端測試,包括跟踪訪問頁面的流量。

但他們遇到了許多實驗程序面臨的問題:Google Analytics 中的數據顯示了一個頁面訪問次數,而他們的實驗工具顯示了另一個。 差異超過 9%。

作為一個每月訪問量超過一百萬的電子商務網站,決定信任哪個數據集對公司的 KPI 報告產生了重大影響。 雖然一些中型和企業品牌可以忽略訪問者統計數據中高達 10% 的差異,但 9% 的數據差異讓這家公司的實驗團隊感到緊張。

這個團隊最近才獲得他們的實驗計劃的支持,包括投資於 Kameleoon 等工具的預算。 他們希望得到明確結論的測試。 相反,他們數據的準確性值得懷疑。 他們需要建立一個SSOT。

我們幫助這家公司清理了他們的訪客數據跟踪,建立了 SSOT 並獲得了他們成長所需的測試結果。 為此,我們幫助他們採用了七項 SSOT 最佳實踐。 我們在這里分享這些最佳實踐,因為任何想要處理他們的測試數據並從他們的實驗計劃中獲得最大收益的 CX 團隊都可以使用這些來成長。

消除測試數據差異和建立 SSOT 的最佳實踐

1. 在你做任何事情之前,先進行一個 A/A 測試

A/B 測試比較您的產品或頁面的舊版本和新版本,而 A/A 測試比較類似和類似。 你為什麼想做這個? 所以可以比較各個監控平台生成的數據。

在 A/A 測試中,兩種變體是相同的,但看到它們的用戶會有所不同:

Kameleoon A/A 測試截圖

如何採取行動

在進行任何嚴肅的 A/B 測試或推出要收集數據的新實施之前,請運行 A/A 測試以進行校準。 在理想情況下,您的 A/A 測試將返回相同的結果。 實際上,這種情況很少發生,但您仍然會了解您正在處理的差異有多大。

例如,運行 A/A 測試可讓您查看 Google Analytics(分析)在相同會話、用戶、訪問、轉化或您想要衡量的任何指標中與您的測試工具進行比較的指標。

2.在所有工具中以相同的方式跟踪訪問者和訪問

您的分析工具跟踪的訪問者或訪問數量永遠不會與用戶和會話精確匹配。 但是,您可以確保在分析和 A/B 平台中以相同的方式計算訪問次數,以減少差異。

在 Google Analytics 中,訪問有兩種結束方式:

  • 基於時間的過期:在這裡,會話在 30 分鐘不活動或午夜後過期。 然而,例如,在 Kameleoon,它是在 30 分鐘不活動之後。
  • 活動更改:如果同一訪問者通過一個活動到達,2 分鐘後離開,然後在 2 分鐘後通過另一個活動返回,Google Analytics 將計算兩次訪問。 一些 A/B 測試工具會將其視為一種。

如何採取行動

檢查在您的分析工具中如何計算訪問者和訪問次數,並確保它與您的測試工具相同。 或者你可以改變它。 在 Kameleoon,我們建議使用您的分析平台作為唯一的事實來源。

在 GA 中,您可以在會話設置下編輯會話和廣告系列超時的時間。

谷歌分析截圖。

為什麼? SSOT 應在組織級別進行定義。 因此,即使您的測試團隊整天都在處理您的測試平台中的數據,其他團隊可能仍需要出於其他目的參考 GA 中的數據。 將 SSOT 設置為組織中最廣泛的團隊引用的數據集。

3. 在您的分析工具中創建瀏覽器和版本過濾器

許多 A/B 測試平台不在 Internet Explorer 上運行,因此該瀏覽器中的任何訪問都會自動從實驗報告中排除。 但是,如果您針對使用它的大型遺留組織,IE 仍然可能導致數據差異。

另一個潛在的跟踪問題是 Google Analytics 與所有瀏覽器版本兼容,而 A/B 測試工具通常僅與最後幾個版本保持完全兼容。

如何採取行動

在 Google Analytics 中,根據瀏覽器和您關心的瀏覽器版本創建自定義過濾器,以便所有平台匹配。 你這樣做

例如,在“查看”下,排除舊版 Google Chrome 的方法如下:

谷歌分析截圖。

4. 在所有工具中過濾有問題的流量

僅從合法受眾成員收集數據,盡可能保持您的 SSOT 數據集乾淨。 您不想讓機器人、巨魔、跟踪器錯誤或其他異常流量混淆您的數據。 不要擔心數量減少,您的結果質量會提高。

如何採取行動

高級 A/B 測試工具提供了多種開箱即用的機器人過濾設置。 例如,如果他們檢測到異常行為或會話陷入可疑活動條件,他們可以自動從收集的統計數據中刪除流量。

另一方面,如果您使用的是 GA,則由您決定如何使用過濾器從您的分析數據中檢測和排除機器人流量。 作為參考,這裡有一些您可能想要排除的條件。

  • 參觀時間 > 120 分鐘
  • 訪問時間 < 100 毫秒
  • 事件數量(轉化、點擊、定位、產品、頁面瀏覽等)> 10K

您還希望排除組織內部的內部流量。 請記住,構建此 SSOT 數據集的目標是獲得有關您的實際客戶的明確數據源,而不是您的同事。

要過濾 GA 中的內部流量,請轉到管理面板 > 所有過濾器並創建一個新過濾器。 將過濾器類型設置為“未定義”。 然後,添加您要排除的內部 IP 範圍。

谷歌分析截圖。

5.避免廣告攔截器

許多訪問者使用 Adblock、Ghostery 和 uBlock 等廣告攔截器。 一些廣告攔截器還可以攔截客戶端跟踪器,包括來自實驗工具的分析事件。

如果您的大部分訪問者在他們的瀏覽器中啟用了廣告攔截器,那麼記錄的訪問次數很可能會因您的 A/B 測試工具和分析平台而異。

如何採取行動

一些平台可以提供“本地”跟踪請求 URL,使它們能夠避免被廣告攔截器阻止。 在這裡,跟踪發生在服務器端,因此客戶端代碼阻止(例如來自廣告攔截器)不會停止合法跟踪。 在所有可能的平台上激活它。

另一種更好地了解分析和測試平台之間差異的方法是在測試工具加載後向分析平台發送事件。 這應該讓您清楚地了解使用阻止您的 A/B 測試工具的廣告攔截器的訪問者百分比。 然後,您將不得不過濾您的流量以排除使用廣告攔截器的訪問者。

6. 在所有相同的頁面上安裝您的工具

代碼段放置是數據差異的常見根本原因,尤其是在您要運行針對整個站點的實驗時。 原因是許多實驗工具將“整個站點”視為攜帶其代碼片段的所有頁面。 不幸的是,如果您在那裡複製了片段,那甚至可能包括您的登台站點。

如何採取行動

如果您還沒有,現在是運行該 A/A 測試以校準您的平台的好時機。 然後,確保您的所有工具都在相同的頁面上實現。

識別它們是否不是的一種方法是按訪問的頁面 URL 分解您的數據。 這將向您顯示運行實驗的所有主要 URL,以便您可以識別那些不應該加載測試工具的 URL。 以下是此選項在 Kameleoon 中的外觀:

Kameleoon 的數據細分

最後的想法

經過仔細分析,Kameleoon 確定存在數據差異的客戶遇到了最後一個問題。 谷歌分析和他們的測試工具沒有在同一個頁面上運行。

儘管 GA 會跟踪所有訪問其搜索結果頁面的流量,但他們將測試工具配置為更窄的參數——實驗僅在搜索欄中搜索後才計算訪問頁面的訪問次數。

雖然兩個頁面看起來相同,但 URL 不同,從而產生了數據差異。 然而,一旦解決,他們就有了一個可靠的 SSOT 來測試數據,並產生許多有價值的見解。

通過識別測試工具中的開箱即用設置與您的分析跟踪不一致的地方,您可以決定要報告的訪問者數量或如何使用您的設置來最小化差異。

消除差異,建立單一的事實來源,並圍繞一個通用數據集召集您的團隊。 建立 SSOT 是更好、更可靠和更有洞察力的測試的第一步。