負載測試入門:工作負載設計與結果判讀
釐清虛擬使用者、迭代到達率與每秒請求數,設計應用程式負載測試、設定門檻,並結合瀏覽器、施壓機、追蹤與日誌分析結果。
延遲曲線看起來很好,有時只是因為施壓端沒有送出預定流量。判定測試成功前,得先看應用程式實際收到多少請求、完成多少,以及哪些工作根本沒有開始。
負載測試是在指定的工作負載、時間與環境下,評估應用程式表現的方法。 它能提供瓶頸與容量的判斷依據,檢查這組條件是否符合延遲和錯誤率目標,但不能保證所有正式環境情境都不會變慢或當機。
本文依官方文件整理,未對被測應用程式執行負載測試或效能基準。門檻數字僅為範例,實際資料、環境與設定需依專案決定。
後端與瀏覽器:兩個量測視角
| 視角 | 量測對象 | 常見方法 |
|---|---|---|
| 後端 | 有負載時的吞吐量、回應時間與錯誤率 | 使用 k6、Locust、JMeter 等工具在協定層請求 API |
| 前端 | 瀏覽器中的頁面載入與互動體驗 | 瀏覽器自動化或合成測試可與後端負載搭配;真實使用者監控(RUM)補充真實使用者資料,本身不產生測試負載 |
API 快,不代表頁面就快;繪製、資源載入與第三方指令碼仍會影響體驗。頁面慢,也不一定是後端的問題。協定層請求不會自動執行頁面的 JavaScript 或量測繪製體驗,瀏覽器測試的資源消耗也要另行估算。
腳本要代表實際工作
- 先看使用者旅程。 登入→瀏覽→下單適合驗證完整業務流程;若要找特定 API 的容量或定位回歸,隔離端點測試也有價值。依問題選擇範圍,兩者不能互相取代。
- 配合真實資料分布。 準備符合目標情境的帳戶、查詢字詞與資料集。同一份資料反覆使用,可能製造不符合實際負載的快取命中或資源競爭。
- 決定控制哪一種速率。 工作階段模型可能需要思考時間;到達率 executor 控制的是迭代啟動速率。不要為了控制已由 executor 安排的速率,在迭代結尾機械式加上 sleep。
- 檢查回應內容。 HTTP 200 也可能帶著錯誤頁,因此要驗證重要欄位。檢查失敗是否使整次測試失敗,需另外設定;例如 k6 的
check記錄通過率,得搭配 threshold 才能當作測試失敗條件。
讓負載模型對應問題
- 負載形狀: 一般測試可採逐步上升→維持→下降;尖峰測試則刻意製造突變,不能要求所有類型都避免瞬間增加。
- 並行與到達率: 虛擬使用者(VU)是並行執行腳本的單位,不等同真人數。每秒啟動的迭代數也不等於每秒請求數,一次迭代可以送出多個請求。封閉模型中,回應變慢會拉長迭代,固定 VU 數下的到達率可能下降。開放的到達率模型雖按計畫啟動迭代,仍需要可用 VU 與施壓機資源;設定速率不等於實際完成速率。
- 測試類型: 負載測試檢查預期一般或尖峰負載下的表現;壓力測試檢查超出預期負載時的退化與恢復,不必以當機為目標。尖峰測試看突發變化,浸泡測試看長時間的穩定性與資源成長。發現記憶體成長後,仍需確認是否為洩漏。
建立可重用的測試架構
把登入、驗證、資料準備抽成模組,將環境、認證資料與門檻分開設定,統一結果輸出格式。大版本前便能重跑相同工作,持續比較差異。
結果也要保留應用程式與腳本版本、工具設定、資料分布和資源規格。環境或組態已改變時,不能直接把兩次數字當作同條件的前後對照。
選擇測試環境
| 環境 | 優點 | 風險 |
|---|---|---|
| 接近正式環境的預備環境 | 較易隔離、風險較低,仍需保護共用的下游服務 | 費用與資料去識別化;快取、資料量、相依服務仍可能有差異 |
| 正式環境離峰時段 | 使用實際基礎設施與相依服務,但測試流量仍須建模 | 可能影響真實使用者,需流量限制與停止計畫;離峰結果不能直接代表高峰 |
先取得目標系統與下游服務的明確授權。支付、簡訊等使用沙箱或 Mock,不能用「已告知」代替許可。設定測試租戶、清理方式、流量上限、費用預算與立即停止條件,也要確認預備環境是否仍連到正式環境的共用依賴。
先定義指標,再設定門檻
- 回應時間: 除了平均值,也看 p90、p95、p99。註明是哪個 API、時間區段、樣本數,以及全部請求或僅成功請求。p95 不是最慢值,也不能將不同機器或不同時段的 p95 平均成全域 p95。k6 的
http_req_duration不包含最初的 DNS 查詢與連線建立,不能視為完整使用者操作時間。 - 吞吐量: 先定義 TPS 代表哪種業務交易,並區分預定到達、實際發起與成功完成。RPS/TPS 要搭配延遲、錯誤率、施壓機 CPU、記憶體與網路用量一起看;單一曲線的轉折不足以確認限制在哪。
- 錯誤與未執行工作: 依回應與業務 SLO 定義成功,HTTP 結果和業務檢查分開記錄,過載時預期的拒絕也單列。還要記錄未能啟動或中斷的迭代。到達率情境下,k6 的
dropped_iterations可能是沒有可用 VU,不能算成伺服器已收到並回覆失敗的請求。 - 資源飽和: 將 CPU、記憶體、連線池、磁碟 I/O 對應到具體元件。若施壓機先達上限,量到的可能是發流能力,而非應用程式容量。
例如先訂下 p95 < 800 ms、錯誤率 < 0.1%,並附上統計範圍、目標負載與維持時間。數字只是範例;如果未達計畫流量,或未啟動、中斷的工作很多,不能只憑已完成請求的延遲達標就宣告通過。
從結果縮小調查範圍
把回應時間依時間軸展開,觀察負載增加時是逐步退化,還是在某個時點突然變化,再將慢請求分布與各元件資源曲線對齊。這有助於縮小範圍,但同時變化不等於因果證明;還需看呼叫路徑、佇列等待,並以控制條件的重測確認。
結論應說明目前組態在這組工作負載與時間下達到什麼表現,以及下一步要改什麼再測。擴容後需重新量測,不能預設容量會隨節點數等比例增加。
已接入觀測雲的服務,可以在已採集的慢請求追蹤中查看各 Span 耗時,再以 trace_id 查相關日誌。依日誌與追蹤關聯文件(簡體中文)注入一致的 trace_id、span_id、服務、環境與版本欄位,並核對日誌索引對應、時間範圍與資料存取權限。
Trace 與日誌都須實際採集且仍在保留期內;不會因為日誌裡還有 ID,就復原被採樣捨棄的 Trace。記錄測試批次與時間區間,篩選同一批流量,再查看請求細節。僅憑時間接近,不能斷定是同一請求。
常見問題
多久做一次負載測試?
大版本與預期流量成長活動前應安排測試。核心旅程也可加入定期回歸,例如每月一次,並維持可比較的前提,讓趨勢有意義。
測試結果和正式環境不同怎麼辦?
先比對負載模型、資料分布、快取、版本、資源規格與相依服務,也要確認施壓機是否送出預定流量。工作階段模型缺少合理思考時間可能失真,但不能在到達率模型機械式加入 sleep。透過受控比較逐項確認差異,不要只靠一條彙總曲線認定原因。
小團隊沒有專職效能工程師怎麼辦?
從 k6、Locust 等程式碼導向工具開始,先在隔離環境為核心 API 建立低負載基準,每次版本發布比較趨勢。挑戰容量極限的測試另外安排授權與流程;比起等待完美的測試體系,先做出範圍明確、可重複的比較更實際。
官方參考
文件核對日期:2026 年 11 月 5 日。
