2009年12月23日星期三

為什麼MyMirror可以支援跨WAN的同步與HA

在同一個LAN(區域網路)做同步與HA是比較容易的,因為在LAN裡面的網路頻寬比較大,網路管理與系統架設都比較容易。難是難在跨WAN(廣域網路)的同步與HA,因為跨WAN可以使用的頻寬比較小,網路管理鞭長莫及,系統架設複雜的多,採購成本與頻寬費用也是不可忽視地問題!

傳統上,要做跨WAN的同步與HA,系統一定要有幾個基本的能力:

1. 只需複製變更的資料:如果是整個檔案或整個硬碟都需要複製,傳輸的資料量太大,頻寬的需求太多,跨WAN一定是做不到的。

2. Block Level:實體傳輸的單位必定是block。block 分子夠小,傳輸才夠快,又比較不會排擠到其他的網路傳輸。如果不是block level的系統,肯定做不到跨WAN的HA。

3. 斷線續傳:假設1G的資料需要傳輸,傳到900M的時候Internet網路突然中斷,一分鐘之後網路回復正常,但是必須重頭開始傳,這種系統無法支應跨WAN的同步需求。夠格的系統必須支援「斷線續傳」,就是在網路回復正常時,系統可以從901M的地方繼續傳送下去,系統才會夠效率夠、穩定。

看來,跨WAN的HA的問題,都鎖定在網路頻寬與穩定性的問題上。

MyMirror如果只能達到上述的三個傳統需求之外,就稱不上有什麼秘密可言!

傳統的思維邏輯,認為要做跨WAN的資料傳輸,終極解決辦法就是不斷的「壓縮」與「擠壓」,就是在有限的頻寬之下,將檔案壓縮到最小,再用力擠壓出最大頻寬,等資料到達彼岸的時候,再將資料釋放與解壓縮回來。就像公司請一個員工,鞭策他專心工作、努力加班而不求酬勞,短期可能可以,長期下來,這種方法一定是行不通的。
新的思維,是希望根本不需要傳輸,兩地的資料就能同步。做不到對不對!現在我們能夠做到的,是大量的減少傳輸的資料量,不需要的資料就不要傳輸,只要傳輸需要的資料就可以了,我們從傳輸資料的結構來處理跨WAN同步的問題。

MyMirror可以跨WAN的秘密,是將需要傳輸的資料篩選到小之又小

傳統的備份是volume base,就是整個檔案卷冊(volume)都是需要被複製與被同步的對象,我們可以簡單的將volume base看做是將整顆硬碟的資料都需要做同步,假設硬碟的大小是100G。

MyMirror的方法,是將需要傳輸的資料結構縮小,從volume base縮小為directory base,MyMirror可以依照不同的directory(目錄,或稱資料夾),將資料同步到不同的地方。如下圖,我們將同步的基礎,從volume的100G,縮小為directory的1G。網路所需傳輸的資料,頓時小了100倍。

MyMirror其實還可以做到更小。MyMirror是所謂file based的結構,有別於database與volume based的結構。MyMirror實際是以file為基礎來傳輸資料。如上圖,MyMirror可以只傳輸4M的檔案,資料量又小了256倍。

MyMirror其實還可以再做到更小!MyMirror的底層真正跑的資料單位是block,MyMirror只需要傳輸變更過的區塊(block),主機端與備援端的資料就可以保持一致。圖中所示的4M的檔案實際只有52KB的資料被修改,所以只需同步52KB的異動資料即可。

要將資料跨WAN做即時同步,重點在資料的結構與資料量要減小,而不是將網路頻寬這條水管壓榨到最大,這種新思維可以突破以往的困境,這就是MyMirror可以支援LAN與WAN的秘密。

2009年12月17日星期四

MyMirror 的管理手冊與技術白皮書

問:因為最近想要使用MyMirror來測試RHEL的HA,請問有沒有MyMirror的架設步驟可以參考?請問可以索取MyMirror的管理手冊嗎?

問:我已經初步安裝測試過MyMirror了,請問有沒有MyMirror進一步的技術資料?

答:
1. 安裝步驟與管理手冊:
您所下載的MyMirror(或TPS for Linux)軟體之壓縮檔內,附有快速安裝指南與管理手冊。
請到 http://www.twinpeaksoft.com/download.html 下載MyMirror軟體

2. MyMirror技術白皮書:
對MyMirror技術、架構、與原理有興趣的朋友,可以直接到TPS網站取得Twin Peaks Software White paper技術白皮書,網址如下 http://twinpeaksoft.com/TPS_White_Paper

以上資料也可以直接向我索取,請寄信至 mark.ting@twinpeaksoft.com

2009年12月10日星期四

從黑玉斷續膏到CDP

什麼是CDP?

CDP全文是Continuous Data Protection,字面上的意思是「連續資料保護」 ,讓資料的備份作業連續不中斷。CDP的效益是當災難發生時,系統可以將資料還原到過去的任何一個時間點。

先看歷史

CDP「連續資料保護」的前身是「斷續資料保護」,主要有兩種技術,一種是快照(snap shot),另一種是克隆(clone);快照的速度快、執行容易,但對資料的保護較不周全;克隆的速度慢、執行不易,但對資料的保護較周全。

快照與克隆屬於「斷續的」資料保全;快照大概可以密集到每30分鐘做一次,你可以擁有29分鐘前的備份,因為下一分鐘還要再做一次snap shot。克隆一天大概只能做個一兩次,做多了系統就吃不了兜著走。

Snap shot頂多只能說是「密集的資料保護」,還稱不上「連續的資料保護」。資料也不是即時(real-time)備份的 秒秒 備份,也算不上是近時(near real-time)備份的 分分 備份,頂多算是 時時 備份或是 斷續 備份。這種做法可以達成「斷續的資料保護」,這讓我想到倚天屠龍記中的神藥 黑玉斷續膏,骨頭斷了可以再接上。

再看現在

時序演進到CDP時代。CDP在技術上的意思,簡單的說就是:

Real-time replication+time stamp(即時複製+時間戳記)

CDP的特性是資料的變動必須即時的、連續的被記錄,而且因為資料被附上了時間戳記,使用者可以選擇任意的時間點,將資料還原到該時間點。這種做法可以達成連續的資料保護,從「黑玉斷續膏」進步到「白玉連續膏」

CDP還必須將保存的資料與主機分開保存,也就是異地備份。如果只做到資料連續保護,而沒有做到異地備份,備份資料與主機的資料放在一起,當主機發生災難時,兩份資料一起毀損,想要還原資料也沒有機會。所以,達成異地備份也是CDP一個重要目標。

嚴謹的CDP還包含高可靠度系統(HA)。很顯然的,一個資訊系統如果做Backup不夠,還需要做到CDP,那麼這個系統一定非常重要,肯定屬於執行關鍵任務的主機,服務不能中斷,所以必須再為CDP伺服器設計HA架構。請注意,是CDP伺服器做HA,不是主機伺服器的HA。這好比是,花錢請來保護主機的CDP保鑣,需要另外再請個保鑣來保護自己。

總的來說,CDP是一群歷史產品的組合,組成的分子包括:

備份+即時複製+異地複本+高可靠度系統+成雙成對的軟硬體設備

感覺好像,舊公寓頂樓加蓋一層再加蓋雨棚再加兩個水塔再圍上鐵欄杆保護

CDP產品的概念是從Backup延伸、衍生、演繹而來,所以CDP的原罪是必須背負歷史的包袱而不得創新自由,就像舊公寓頂樓的違章建築一般。

可想而知,CDP這款「白玉連續膏」不討喜的地方除了架構疊床架屋之外,就是它太貴。不僅軟硬體的需求很硬,甚至需要「指定的」硬體品牌與型號,這類的硬體價格「貴不可言」。若再加上可觀的顧問、學習、與維護費用,會讓我想到八國聯軍的庚子賠款-「多少的民脂民膏啊」

另外,CDP最重要的特性,是可以「還原」到任意的時間點。但是它的缺點與優點相同,也是「還原」這兩個字。「還原」兩字是個歷史包袱,未來的系統應該把還原的概念拋棄。如果一個系統可以不用「還原」就可以不中斷的使用,資料也可以妥善的保存,才是理想的解決方案。

展望未來

那麼MyMirror可否算是一種CDP,做得到連續資料保護嗎?

無論是CDP或是Backup都是基於agent based或是disk based來設計,其侷限性如上所述。而MyMirror是全球唯一基於作業系統OS based的系統(參閱 這裡),其創新的設計擺脫CDP與Backup的舊包袱,讓我們可以從新的視野來體驗連續資料保護。

MyMirror是一種即時的、異地的、高可靠的備援系統,而且備份的資料不需要還原restore就可以立即使用(參閱 這裡)。

即時備份
MyMirror無疑是即時備份與即時派送軟體的首選;如果資料的備份或派送可以等待一天、一小時、或30分鐘完成,市面上至少有100種付費或免費的產品可以挑選;如果要做到「秒差」程度的real-time同步,捨MyMirror其誰!

異地備份
MyMirror可以做到本地即時備份、異地即時備份,甚至本地異地的多點即時備份,還可以從「備份」昇華為「備援」。

高可靠度
MyMirror不僅可以做到「資料」 的高可靠度,還同時達成「主機」的高可靠度;MyMirror不僅可以做到本地的高可靠度備援,還能達成異地的高可靠度備援。MyMirror的高可靠度比市場的CDP產品的規格更勝一籌。

結論

MyMirror不僅符合CDP的基本定義,其架構遠比CDP精簡、不需restore的規格又在CDP之上、其學習也容易、其管理也簡單、其價格更令人驚艷,值得您向人推薦。


延伸閱讀:
Continuous Data Protection (CDP) and beyond...
極簡的MyMirror
姚明需要黑玉斷續膏

2009年12月9日星期三

Google 即時搜尋功力大增

昨天的報導 - Google 即時搜尋功力大增

節錄於下:
Google在7日召開記者會宣布重大新增功能,未來幾天,社群網站Twitter、Facebook、Myspace的更新資訊,將即時顯現在搜尋結果中。

以往,社群網站的內容要花幾分鐘才會進入Google的搜尋結果。Google幹部辛哈說:「在當前世界,這顯然不夠快。資訊被張貼出來的速度前所未見,而現在分秒必爭。」

部落格Search Engine Land的蘇利文表示,Google提供社群網站最新內容,可能在發生地震等突發事件時最有用,因為網友希望不用掃描多重來源就能掌握最新消息。

real-time (即時)搜尋已成搜尋引擎必爭之地;為了增加搜尋量,雅虎上個月宣布,開始從Twitter的短訊裡挖掘有關熱門話題的最新資訊。
↑↑↑↑↑↑↑↑↑↑

注意到沒有,real-time才是未來呀,real-time才是IT的必爭之地。

這是MyMirror的好機會,MyMirror只做real-time的事情,不是real-time的任務還用不上MyMirror。而real-time的任務一定是關鍵性的任務,專注在關鍵任務才是IT人的未來、才是IT界的必爭之地。

MyMirror=Real-time

我們的願景就是讓這個世界可以快速的連結在一起;我們希望將MyMirror將嵌入各種作業系統、各種資訊設備、各種通訊器材,讓資訊可以real-time即時的同步到世界每一個角落。

MyMirror可以收費或不收費來達成這個願景,收費是讓這個願景不斷前進,不收費是讓這個願景快速普及。如此一來,不僅資訊都是即時的,散落在雲端的資訊也保持一致;檔案這籃雞蛋因此得到分散的保護,雲端上的系統也瞬間擁有備援的能力。

這是我們看到的未來。

2009年12月1日星期二

明年房價一定漲

日前媒體報導:「擔心高房價,彭淮南喊話
我特別去請教一位房地產的專家明年(2010)的房價會不會漲?

專家:「明年的房價一定漲!如果沒有漲,你來找我。」
我問:「找你做什麼?要補償我嗎?」
專家:「不,我再告訴你沒有漲的原因。」
-----------

上次提過,專家的第一定義:「所謂的專家,就是把簡單的事情弄的很複雜的人。」
現在公布專家第二定義:「所謂的專家,就是可以解釋事前預測失敗的人。」

符合第一型專家的有:政客、哲學家、金融家、搞電腦的
符合第二型專家的有:股市分析師、名嘴、經濟學家、搞電腦的

兩種專家都有「搞電腦的」!

舉例說我們做備份/備援的,要將資料當場備份好,並且架好備援系統是沒有問題的;
但是一兩年之後當災難發生了,才發現備份卻不能還原,備援系統也沒有啟動(參考 這裡那裡)。

這時再來請教「搞電腦的」專家,專家就會表示:「備份尚未成功,備援仍須努力。」

備份作業不保證成功,是這類軟體的宿命。備援作業也不保證過關,因為備援作業要考慮軟硬體搭配、網路的狀況、與人為因素,只要時間久了人事已非,就沒人可以保證備援系統是正常的。

那麼我們家的 MyMirror,為什麼可以保證備份、備援是成功的?

原因在於她是 Live file 備份(參考 這裡),備份的資料可以立即被檢測、被閱讀、被使用,所以沒有備份不成功的問題。更由於 MyMirror 是即時同步的,所以兩端的資料時時保持一致,所以備援作業也保證過關。

毫無疑問,MyMirror 是新世代的備份、備援系統,唯有揚棄舊世代的備份觀念的包袱,才能夠進入新世代的即時備援的創新紀元。

2009年11月23日星期一

MyMirror系統部署之6(複合式配置)

隨著企業漸漸成長壯大,分公司日增、地域日廣、需求日益,IT部署也愈來愈複雜。IT不僅不能成為企業大步向前的絆腳石,還要有企圖心領導(leading)企業前行。MyMirror的特色是架構可以擴展自如,跟隨企業成長的腳步前進。MyMirror初始可以是一個很基本的架構,譬如是在機房裏一對檔案伺服器的同步與叢集(cluster),提供檔案的即時備份與高可靠度。接著MyMirror可以架構成擴展到全球的佈署,彼此相接永不停頓,本文展示MyMirror複合式的配置方式。

E公司是電力能源公司,全台灣各處都有分支機構。之前E公司為台北總公司的檔案伺服器(file server)安裝一套MyMirror,總部的重要檔案因此擁有本地端的即時備份與備援。現在要將這套備援系統擴大應用到其他伺服器,並且從本地備援提升到異地備援。

E公司的總部有多個檔案伺服器(file server),分別為個別部門所用,各部門自行管理與備份該伺服器資料,有問題找資訊管理人員,常常為了某些檔案的遺失,營業部門與資訊部門大吵一架。

營業部門的說法是:「這個檔案這麼重要,我們絕對不會自己將它刪除,況且我們不懂電腦。」

資訊部門的反應是:「營業部門自己的檔案伺服器不歸我們管,營業部門的人太多,大有可能有人不小心刪除檔案而不自覺,況且他們又不懂電腦。」

資訊部門常常吃下這種爭議的暗虧,只好「默默」的找方法解決,結果找到了MyMirror,原因是MyMirror可以「默默」的在幕後解決這個問題,使用者完全發覺不到MyMirror存在,而他們的重要檔案即時就被備份好了。

如上圖,左邊是各部門的檔案伺服器,我們為它們規劃了集中的即時備份系統X1 server,將所有的檔案伺服器的重要檔案,即時複製一份到X1 server。而且檔案伺服器不用把硬碟所有的檔案都倒到X1 server,只要把需要備份的目錄(folder)同步到X1 server就可以了。原本以為X1 server的硬碟容量需要非常非常的大,選用MyMirror,則X1 server使用市面上一般的硬碟就很足夠了。

X1 server做為重要檔案的集中備份,地位就十分重要,我們為它在本地再做了一套備援系統X2 server。X2與X1的資料時時保持一致,X2又為X1提供即時的備援,萬一X1發生毀損,X2可以立即接手服務。

資料通通擺在總部也有風險,所以X2再將資料同步複製到台中資料中心的Y server。Y server不用安裝MyMirror軟體就可以運作了,這是MyMirror神妙的地方,因此管理與維護都比較方便。我們為Y server安裝其他的備份軟體做排程備份(schedule backup),在每天凌晨一點,將Y的資料備份到磁帶上。

整個架構完成之後,營業部門想要遺失檔案也很困難了。

MyMirror除了在技術上與管理上符合E公司的需求,成本也是重要考量。MyMirror的特色是,系統的架構愈大,整體的成本效益就愈好,客戶可以用極有限的預算就建置了這套複合式的即時備援系統。

2009年11月18日星期三

洋基的防守不好怎麼辦

洋基是一支以攻擊為主的棒球隊,所以看洋基的球賽是一場華麗的表演,可看性與戲劇性很高,包含洋基差勁的守備能力,也是製造比賽高潮的一部份。

棒球的防守策略很複雜,先決條件是內野手外野手都要很強;一二三壘有人的時候,防守的變化更多,下一棒是強棒要考慮保送,下一棒是左打要考慮換左投。整個來看,守備策略既深奧又微妙,需要所有球員與教練共同配合。

麼一支防守不好的球隊,如何能夠拿到世界大賽冠軍?

洋基的總經理金錢人表示:「就是三振,不讓打擊者上壘」

只要不讓對手上壘,防守的工作就會大幅的減輕,而守備不好的缺點,就不會影響戰局。所以洋基今年(2009)找來了沙胖和柏奈特,這兩位以三振為主的投手,不僅直接降低了野手的防守工作,也間接的提昇整體的守備能力,球員和教練也就不需要擔心不會發生的事

資訊的備份與還原,也是一個既複雜又微妙的系統;除了固定的月、週、日備份,還有週期更短的「快照」等等的near real-time備份。災難復原(Disaster Recovery)的作業更是考驗,因為Backup不保證成功DR仍須努力(請參考 這裡)。備份作業跟棒球守備一樣,工作繁重又影響戰局。

那麼如何做好資料的備份與還原?

TPS的馬克表示「就是 real-time backup,不需要 recovery」

譬諸棒球,第一時間把打擊者三振,是最好的防守方式;第一時間就把資料備份,是最好的備份方式。MyMirror(TPS)是即時備份real-time backup系統,在第一時間就把資料備份到遠方。

不需要守備,是最好的守備策略。不需要還原,是最好的還原策略。MyMirror(TPS)提供不需要還原的還原服務,當主機停止服務時,備援機會立刻接手服務,是最佳的商業不停頓解決方案。

企業在市場爭雄,「守備」是不可或缺的後防策略。資訊的「守備」,現在就交給MyMirror(TPS for Linux),讓MIS和企業主管,不需要擔心不會發生的事

2009年11月16日星期一

企業版TPS for Linux之容量極限

企業版TPS for Linux連三問:
  • 問題1:我有一台主機接了兩台RAID (兩個 LUN),這樣需要買幾套TPS for Linux?
答:一套。TPS for Linux的計價方式是依據per system,不是依據per LUN。

  • 問題2:承上題,假設每個LUN的容量都是2 TB,這樣TPS for Linux跑的動嗎?
答:跑的像飛的一樣(It will run very fast)。

  • 問題3:承上題,乾脆告訴我TPS for Linux同步資料量的上限是多少?我的意思是,可以管理的檔案系統有多大?
答:8 TB。若以一般的區塊大小4k block size來算,TPS for Linux管理的檔案系統可以大到8 TB。