觀點 · 資訊分享

Amazon MSK Replicator 支援外部 Kafka 叢集:自架或他雲的 Kafka 也能複製到 MSK Express

AWS 宣布 MSK Replicator 可以把資料從外部 Apache Kafka 叢集(包含機房自架、AWS 自管或其他雲)複製到 Amazon MSK Express brokers,也能反向複製。主題名稱可保留,消費者位移還能雙向同步。

發布
2026-04-20
篇幅
約 3 分鐘 · 1,520 字
結構
8 節 + 4 題常見問題
標籤
#AWS#Amazon MSK#Kafka#資料遷移
Amazon MSK Replicator 支援外部 Kafka 叢集:自架或他雲的 Kafka 也能複製到 MSK Express

一句話看懂:AWS 的 Kafka 託管服務(Amazon MSK)新增一項功能:可以把你自己架的、或放在別家雲上的 Kafka 資料,持續複製到 MSK Express,要搬家或做備援都更方便。

MSK Replicator 支援外部 Kafka資訊圖卡:自架或他雲的 Kafka 資料,能複製到 MSK Express,也可反向

先用白話講:Kafka 與複製是什麼?

想像一間大型物流中心,所有包裹都先送到「分揀線」,再由各個部門來領。Apache Kafka 就是軟體世界的分揀線:系統之間的資料像包裹一樣流進來、被分類、被各個服務領走。

MSK 是 AWS 幫你代管這條分揀線的服務。這次的新功能,是讓你把別處的分揀線(自己機房的、別家雲的)上的包裹,自動「複製一份」到 AWS 的新分揀線上,兩邊同步。

發生什麼事

AWS 在 4 月 20 日宣布:Amazon MSK Replicator 現在支援從外部 Apache Kafka 叢集複製資料到 Amazon MSK Express brokers。外部叢集可以是機房自架、AWS 上自己管理,或其他雲服務商的。

官方列的三個用途:

  • 遷移:把工作負載搬到 MSK Express brokers。
  • 災難備援:用 MSK Express 叢集當備援或備份目標。
  • 混合與多雲:在不同環境之間分發資料。

反向也行:可以從 MSK Express 複製到外部 Kafka 叢集,用來可靠地「回切」或做多雲分發。

跟自管複製差在哪?

自管複製工具 MSK Replicator
基礎設施 自己管理 官方託管
主題名稱 — 保留原名稱
無限複製迴圈 — 自動避免
消費者位移 — 雙向同步

官方特別提到,位移雙向同步的好處是:生產者與消費者可以各自、依任意順序搬到新叢集,不需要協調、也不會有資料遺失的風險。

Express brokers 是什麼?

官方說,MSK Express brokers 比標準 brokers 的 Kafka,每個 broker 最高有 3 倍吞吐量、擴充速度最快 20 倍、復原時間縮短 90%。這些是官方的數字,實際差異要看你的工作負載。

給開發者的技術細節

  • 支援範圍:所有提供 MSK Express brokers 的 AWS 區域。
  • 複製方向:外部叢集到 Express,或 Express 到外部叢集,雙向都支援。
  • 公告沒有寫計價細節與外部叢集的版本限制,請看 MSK Replicator 的官方文件。
  • 官方另外提供影片示範,連結在公告頁底。

我的看法

我接過的案子大多用不到 Kafka,多半是資料庫加簡單的佇列就夠了。但偶爾遇到客戶已經有一套自管的 Kafka,要搬進雲端,最怕的就是「停機」和「資料漏掉」。

這個功能把兩個最麻煩的問題包起來:複製和位移同步。不過我會提醒自己,官方的描述是「可以」不協調地搬,不代表不用測試。遷移前還是要在測試環境走一遍,確認主題、權限與消費者行為都符合預期,再排時間切換。

名詞小辭典

  • Apache Kafka:開源的事件串流平台,用來在系統之間即時傳遞大量資料。
  • Broker:Kafka 叢集裡負責收發與儲存訊息的伺服器節點。
  • 消費者群組位移(Consumer group offset):記錄每個消費者讀到哪裡的書籤,換叢集時要同步,才不會重讀或漏讀。
  • 災難備援(DR):主要環境出問題時,能切到備用環境繼續服務。

資料來源

常見問題

MSK Replicator 是什麼?
它是 Amazon MSK 的功能,用來在 Kafka 叢集之間自動複製資料,讓你不必自己管理複製用的基礎設施,也不用設定開源的複製工具。
這次新增了什麼?
這次官方公告的新能力,是可以從外部 Apache Kafka 叢集複製到 MSK Express brokers,也可以反向複製。外部叢集包含機房自架、AWS 上自管,或其他雲服務商。
搬家時 App 要停機嗎?
官方說 Replicator 會雙向同步消費者群組位移,所以可以讓生產者與消費者在不同時間、依任意順序搬到新叢集,不需要協調同時切換,也能避免資料遺失。實際切換步驟還是要自己規劃與測試。
哪些區域可以用?
官方說所有提供 MSK Express brokers 的 AWS 區域都支援。
LINE