操屁眼的视频在线免费看,日本在线综合一区二区,久久在线观看免费视频,欧美日韩精品久久综

新聞資訊

    當(dāng)人工智能不再遙不可及,用戶像“插上電”一樣“接入云”,開發(fā)者再次迎來新一波的機遇。在云+未來峰會上,騰訊云正式推出“智能云”。而在6月22日的開發(fā)者專場上,騰訊發(fā)布面向開發(fā)者的云實驗室,讓未來AI技術(shù)唾手可得。

    同時預(yù)告,針對AI領(lǐng)域,即將開源Angel、NCNN等項目,并表示支撐3000多家企業(yè)的騰訊高效開發(fā)工具TAPD將在騰訊云開放,以及明年初開放支持移動APP開發(fā)的持續(xù)集成云平臺。

    現(xiàn)場,騰訊云揭秘內(nèi)測中的CDN邊緣計算,可一次部署全球執(zhí)行,應(yīng)用在多個場景。同時騰訊云歡迎開發(fā)者參與到的優(yōu)化中。以上分享進一步滿足人工智能、云計算下開發(fā)者的需求(即希望使用更敏捷的開發(fā)、更敏捷的基礎(chǔ)服務(wù)等),降低AI使用門檻,加速AI的落地。

    著名框架推廣者大漠窮秋做了開場演講,分享互聯(lián)網(wǎng)的四波浪潮,即桌面互聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)時代、云計算時代和人工智能時代。并表示,在桌面互聯(lián)網(wǎng)時代,開發(fā)者或者初創(chuàng)企業(yè)想去做一件事情很困難,人工智能時代則不一樣,開發(fā)者依然有發(fā)揮空間,這不只是巨頭的紅利時代,市場需求背后隱藏的未知領(lǐng)域需要各行業(yè)共同開拓。

    陳子舜:騰訊云實驗室發(fā)布,未來技術(shù)唾手可得

    騰訊云技術(shù)總監(jiān)陳子舜分享,“我的一個朋友和我分享他的見聞,‘一個優(yōu)秀云計算工程師有5家企業(yè)在爭搶,他們的平均薪資比傳統(tǒng)IT人員高出40%’。”他表示,這是一個很好的時代,騰訊云希望將自身擁有的大數(shù)據(jù)、AI等前沿技術(shù),向開發(fā)者開放,讓未來技術(shù)變得唾手可得。

    為此,騰訊云正式發(fā)布實驗室,為開發(fā)者提供從學(xué)習(xí)工具、實驗內(nèi)容到經(jīng)驗分享的閉環(huán)服務(wù),開發(fā)者可以獲得一站式的沉浸式學(xué)習(xí)環(huán)境,使用微信掃碼即可免費領(lǐng)取實驗機器,直接采用真實的環(huán)境作為實驗基礎(chǔ)。同時,騰訊云還引入社區(qū)+實驗室的服務(wù)模式,讓開發(fā)者在技術(shù)社區(qū)提問或分享經(jīng)驗教程,幫助更多開發(fā)者解決問題。

    按照騰訊云在開發(fā)者社區(qū)的計劃,不僅為開發(fā)者提供開發(fā)者實驗室,還會提供開源技術(shù)、開發(fā)工具和文檔、線下活動、培訓(xùn)和認證等各類服務(wù)。

    許勇:騰訊開源在路上,工程師熱情參與

    騰訊研發(fā)管理部總監(jiān)許勇揭秘了騰訊開源之路,從騰訊人的角度,解讀騰訊開源的技術(shù)。目前,騰訊已經(jīng)開源的項目有、、WEUI、Mars、MSEC、Libco、GT、Tars、WCDB等,針對AI領(lǐng)域,騰訊還即將開源AI框架Angel、NCNN等項目,以滿足高性能機器學(xué)習(xí)、天天P圖及其他不同應(yīng)用場景的需求。許勇表示,相比于國外成熟的開源社區(qū),騰訊還在追趕階段,不過,騰訊正被開源的力量喚醒,和開發(fā)者一起把中國的開源做得更好。

    許勇致力于騰訊內(nèi)部開源社區(qū)建設(shè)及外部開源項目管理,他分享到,騰訊內(nèi)部開源社區(qū)提供了從輕量到重度參與開源的各種形式,可以簡簡單單的分享片段,也可以分享自己的開源項目,以實現(xiàn)更大的技術(shù)價值,建立自己的技術(shù)影響力。截止2016年,騰訊內(nèi)部的開源組件達到了1600個以上,目前的日活躍用戶數(shù)量在3000以上。

    同時騰訊云作為騰訊開源的一支重要力量,積極參與開源社區(qū),最近2個月加入3個開源組織,首先在5月加入CNCF基金會和Linux基金會,在容器服務(wù)和KVM虛擬化方面貢獻自己的力量,同時于6月加入基金會。去年騰訊也加入了基金會,騰訊同時也在運營獨立開源社區(qū),在外界有不錯的口碑,并匯聚了一群熱心的開發(fā)者。騰訊也在積極貢獻一些開源項目,包括,維護、patch的提交等等,越來越多的騰訊工程師熱情參與到開源中來。

    陸瑩:開放騰訊2萬多人使用的敏捷研發(fā)平臺TAPD

    面對復(fù)雜多變、快速迭代的開發(fā)環(huán)境,騰訊擁有2萬多人的研發(fā)團隊,同時進行3000多個項目,孕育400多個產(chǎn)品的背景下,如何進行高效合作?

    騰訊產(chǎn)品專家陸瑩的答案是騰訊敏捷研發(fā)平臺TAPD,20個模塊可以靈活應(yīng)用,可以自由搭配適合自己研發(fā)過程的流程,賦予了團隊更多的可能。去年6月份TAPD開始提供給騰訊投資的一些公司和騰訊云部分用戶使用,到2017年5月,TAPD已經(jīng)全面開放注冊,目前成功支撐3000多家企業(yè)進行敏捷研發(fā)協(xié)作。

    hadoop集群監(jiān)控工具_元數(shù)據(jù)管理工具 hadoop_hadoop可視化工具

    她表示,將和騰訊云一起將TAPD開放給更多致力敏捷研發(fā)的伙伴們,“我們將會分享騰訊近十年的研發(fā)協(xié)作案例和經(jīng)驗,讓騰訊云生態(tài)上的小伙伴們都能進行敏捷研發(fā),讓協(xié)作更敏捷。”

    魏文強:騰訊將提供持續(xù)集成云平臺,開放游戲經(jīng)驗

    騰訊互娛持續(xù)集成平臺負責(zé)人魏文強從Why、How兩個角度帶來了持續(xù)集成云平臺上的一些思考。他表示,現(xiàn)在競爭越來越激烈,特別是游戲行業(yè),經(jīng)常是你問產(chǎn)品下一步要做什么事情,可能只有一個大概的方向,但具體做什么不知道,所以要求開發(fā)迭代越來越快,周期越來越短。

    這樣會導(dǎo)致什么問題?軟件開發(fā)不是在最后產(chǎn)品部署階段才有云上需求,而是貫穿整個生命周期,從軟件開發(fā)初始階段就要考慮云怎么部署。在云上提供集成平臺服務(wù),是必做的環(huán)節(jié)。此外,代碼托管、持續(xù)集成、項目管理、工具鏈等云平臺逐步發(fā)展,帶來了持續(xù)集成平臺的需求。

    關(guān)于如何做,魏文強從突出自己特色、安全和穩(wěn)定、構(gòu)建速度以及最佳實踐和靈活替換四個角度作了總結(jié)。他表示,在2018年初計劃提供優(yōu)先支持移動APP開發(fā),特別是針對手游做特定優(yōu)化的持續(xù)集成云平臺,2018年年中對和進行支持。

    余子軍:揭秘騰訊云CDN邊緣計算,解決多個關(guān)鍵問題

    騰訊CDN技術(shù)總監(jiān)余子軍揭秘內(nèi)測中的騰訊云CDN邊緣計算,這是適應(yīng)大數(shù)據(jù)、AI時代對網(wǎng)絡(luò)加速需求而誕生的服務(wù)。余子軍現(xiàn)場舉例說到,騰訊的用戶到騰訊的CDN平均距離是170多公里,如果采用光纜,成本非常昂貴的,而采用CDN可以很好地解決這個問題。

    騰訊云CDN邊緣計算可以在離用戶更近的地方進行計算,一次部署全球執(zhí)行,更快速更安全。還可以應(yīng)用在多個場景,靈活敏捷低成本地解決關(guān)鍵問題:

    ? 圖片自適應(yīng)的場景:根據(jù)終端類型、網(wǎng)絡(luò)狀態(tài)和請求字段等決策編碼方案,支持圖片縮放、裁剪、水印等。

    ? 防盜鏈和權(quán)限控制的場景:可靈活控制全部禁止、部分禁止、限速的結(jié)果;還可以用在灰度測試中,新版本發(fā)布的時候。

    ? 控制發(fā)布進度的場景:靈活決策新版本的用戶范圍、設(shè)置標(biāo)記用戶和上報訪問日志。

    周軍:騰訊云CAM應(yīng)用,如何靈活保障用戶信息的安全

    騰訊云產(chǎn)品總監(jiān)周軍從騰訊云CAM應(yīng)用案例,分享騰訊如何通過對用戶認知、權(quán)限驗證以及日志審計等各個環(huán)節(jié)的把控,為用戶保障信息的安全、無泄漏。

    “簡單來說,在用戶認證訪問時,我們通常先問你是誰,問你想干什么。這些東西驗證下來就讓賬戶體系變得很復(fù)雜,這就是我們常說的魚和熊掌不可兼得,安全與便捷也是一樣的。”周軍說,“如果沒有安全問題,很多的服務(wù)成本可以去掉,不考慮黑客問題,不考慮別人盜用數(shù)據(jù)問題,安全是負成本的問題,但是要安全就很可能不便捷。”

    為了讓賬戶既安全又便捷,騰訊做了幾件事情,第一個事情是賬戶關(guān)聯(lián),所有賬戶體系都支持。第二是認證體系里二次驗證變得非常靈活,用戶可以采用任何一種方式來驗證。周軍還提到,騰訊云、企業(yè)郵箱、企業(yè)微信都做到了賬戶互通,用戶可以用一個企業(yè)微信賬戶體系來授權(quán)和管理騰訊云的所有東西。

    hadoop可視化工具_hadoop集群監(jiān)控工具_元數(shù)據(jù)管理工具 hadoop

    黃文俊: 讓開發(fā)者抽離繁重運維

    騰訊云技術(shù)專家黃文俊打了一個比方,一個基因數(shù)據(jù)公司,利用基因數(shù)據(jù)進行相應(yīng)的數(shù)據(jù)分析,需要面對有各種各樣的分析函數(shù),不同的執(zhí)行流程。為了解決這個問題,首先要準(zhǔn)備相應(yīng)的服務(wù)器,讓用戶提交數(shù)據(jù),上傳數(shù)據(jù);每次提交來做相應(yīng)執(zhí)行,再用另外一個服務(wù)器接受這些任務(wù),處理這些數(shù)據(jù);真正處理數(shù)據(jù)的程序還要進行開發(fā)部署,完成了開發(fā)部署還要去規(guī)劃,究竟要用多大的服務(wù)器,多少臺服務(wù)器來準(zhǔn)備,后期服務(wù)器的運維又將多么復(fù)雜,這是每一個開發(fā)者需要煩惱的問題。

    “我們能否有一個更好的解決方法?把我們從繁重的運維上抽離出來?”黃文俊說,無服務(wù)器計算可以很好地解決這個問題,“這是一個很新的概念,無服務(wù)器是不是就沒有服務(wù)器了?是不是真的了?不,不是說沒有服務(wù)器,而是開發(fā)人員和運維人員不需要再考慮服務(wù)器,不需要再放太多的精力在上面,而是交給云。”

    用戶只需要上傳代碼即可以最便捷的方式使用騰訊云高效穩(wěn)定的全球基礎(chǔ)設(shè)施,并可實現(xiàn)毫秒級的彈性伸縮,服務(wù)成本低廉,代碼按需運行,空閑時不收費。經(jīng)測試,按調(diào)用次數(shù)和運行時間付費,在每個月請求不足百萬時,使用無服務(wù)器云函數(shù)比使用多臺云主機搭建集群的成本減少約70%,適用于云計算和AI時代下需要低門檻進入技術(shù),以及體驗佳的要求。

    他提到,這里面有兩個核心,一個是 as a ,以函數(shù)的形式委托到云上來,由云來做頂層管理。還有一個就是 as a ,比如說對象存儲、數(shù)據(jù)庫、消息隊列或者云的緩存。其中 as a 的核心就是騰訊云最新推出的產(chǎn)品—— Cloud 。目前騰訊云的架構(gòu)在內(nèi)測階段,非常歡迎開發(fā)者積極參與到無服務(wù)器的優(yōu)化當(dāng)中,共筑最佳運維環(huán)境。

    英特爾劉斌:FPGA異構(gòu)計算的價值在計算力、靈活性、未來可擴展性

    英特爾可編程解決方案事業(yè)部亞太區(qū)計算業(yè)務(wù)總經(jīng)理劉斌帶來FPGA異構(gòu)計算前沿的分享,“我們看到一個問題,今天談人工智能,特別是談更多智能化事物的時候,可能會遇到需要解決感知的問題,需要解決決策的問題,需要解決執(zhí)行的問題。異構(gòu)的好處就是,在需要解決多種問題的時候,在計算力、效率靈活性、未來可擴展性上是它的價值所在。”

    分享中,劉斌還講述了異構(gòu)計算出現(xiàn)的三個推動力,一是強計算、高性能計算的需求;二是數(shù)據(jù)的存取、訪問、緩存的需求;三是成本的需求。他表示,異構(gòu)計算是為解決問題復(fù)雜度而催生出的新技術(shù)。

    異構(gòu)的計算是解決現(xiàn)在所出現(xiàn)問題的主要結(jié)構(gòu),可以提供不同的價值,如何構(gòu)建異構(gòu)計算系統(tǒng)并提升開發(fā)者的生產(chǎn)力是目前的主要挑戰(zhàn),異構(gòu)的結(jié)構(gòu)下面是不是還存在其他的東西,是需要發(fā)展的方向。未來,異構(gòu)性是長期存在的,怎么樣在高階上實現(xiàn)開發(fā)系統(tǒng)的融合,是短期內(nèi)需要思考的問題。

    美國東部時間5月8日,全球知名非營利性組織CNCF (Cloud )在全球開源盛會“2017 峰會”上宣布,騰訊云作為金牌會員正式加入CNCF基金會。

    按照規(guī)則,基于企業(yè)會員對代碼的貢獻、貢獻的標(biāo)準(zhǔn)和規(guī)范、為開源組織提供的支持等綜合標(biāo)準(zhǔn),CNCF基金會授予騰訊云金牌會員身份,同時基于騰訊云在Linux領(lǐng)域的積極貢獻,騰訊云獲CNCF基金會邀請加入Linux基金會。

    騰訊云是國內(nèi)最大的基于提供容器服務(wù)的公有云服務(wù)商,也是擁有國內(nèi)最大規(guī)模KVM集群的企業(yè)。騰訊云加入CNCF和Linux基金會,標(biāo)志騰訊云深度參與全球開源技術(shù)生態(tài)圈,在容器服務(wù)、KVM虛擬化等重大開源項目的實力已經(jīng)得到全球核心開源組織和業(yè)界的認可,將為騰訊云進一步參與全球開源社區(qū)技術(shù)交流、參與開源項目開發(fā)等領(lǐng)域開拓全新局面。

    CNCF及Linux基金會

    據(jù)悉,CNCF基金會是由Linux 基金會發(fā)起的,致力于管理和運轉(zhuǎn)原生云項目,吸納開源社區(qū)和合作伙伴,共同推動以及容器計算發(fā)展的非營利組織,其成員包括、、Intel、Red Hat、IBM等國際知名科技公司。

    Linux基金會是全球知名的非營利性的聯(lián)盟,致力于促進Linux的發(fā)展,推動行業(yè)產(chǎn)生原創(chuàng)性技術(shù)研究和內(nèi)容,以促進Linux的發(fā)展。

    騰訊云加入基金會的用戶價值

    hadoop集群監(jiān)控工具_元數(shù)據(jù)管理工具 hadoop_hadoop可視化工具

    CNCF基金會的執(zhí)行董事Dan Kohn對騰訊云的加入表示歡迎,他表示,“建立在開源技術(shù)上的容器服務(wù)正在以難以置信的速度,讓公司實現(xiàn)向云計算的遷移,這印證了目前大環(huán)境對開源技術(shù)的熱情和信任。同時,對容器服務(wù)的積極采用將助燃一個新興市場的產(chǎn)生,并讓我們的用戶立于不敗之地。CNCF熱烈歡迎新成員加入元數(shù)據(jù)管理工具 hadoop,我們希望大家可以從基金會和社區(qū)中獲得幫助和指導(dǎo),這將進一步夯實CNCF作為提供行業(yè)最優(yōu)實踐和云原生生態(tài)系統(tǒng)的第三方的重要價值。”

    騰訊云專家工程師劉穎表示,容器技術(shù)的發(fā)展在為中國的云計算提供新思路,對云計算領(lǐng)域產(chǎn)生積極深遠的影響,騰訊云在國內(nèi)提供的容器技術(shù)已經(jīng)幫助大量互聯(lián)網(wǎng)和傳統(tǒng)企業(yè)快速構(gòu)建云原生應(yīng)用,使企業(yè)系統(tǒng)組件化、微服務(wù)化,實現(xiàn)持續(xù)集成和交付,加快應(yīng)用迭代,降低開發(fā)成本,同時也是實現(xiàn)的重要支撐。

    騰訊云在CNCF與Linux領(lǐng)域的貢獻

    在實際的產(chǎn)品設(shè)計中,騰訊云的容器技術(shù)不僅擁抱開源、支持用戶直接調(diào)用 API,還基于打造了CBS、CLB等產(chǎn)品插件,并在容器網(wǎng)絡(luò)上以騰訊云私有網(wǎng)絡(luò)為基礎(chǔ),實現(xiàn)高可靠、高性能的網(wǎng)絡(luò)方案。三一重工、華爾街見聞APP在面對原系統(tǒng)拆分后微服務(wù)架構(gòu)部署、開發(fā)測試應(yīng)用部署等需求時,均選擇使用騰訊云容器服務(wù)。

    在加入CNCF基金會后,騰訊云將從產(chǎn)品出發(fā),基于大量用戶在產(chǎn)品使用中的感受和騰訊云的服務(wù)實踐,將有價值的特性推送和反饋給社區(qū),與社區(qū)一起完善相關(guān)特性,同時又從社區(qū)中獲得廣泛的用戶反饋,再次回到產(chǎn)品,提升騰訊云的產(chǎn)品體驗。比如騰訊云將在未來推送自身的相關(guān)特性進入CNCF開源社區(qū),并繼續(xù)通過的,Code 及 等方式更多地參與到社區(qū)特性開發(fā)的工作當(dāng)中。在這個過程中,騰訊云緊密服務(wù)社區(qū),并進一步拓寬技術(shù)視野,更深地加入到全球技術(shù)交流中 。

    與此同時,騰訊云多年來一直與Linux開源社區(qū)互動,與專注系統(tǒng)底層、高性能加速、解決方案的各類社區(qū)保持穩(wěn)定良性的交流,不斷反饋技術(shù)成果。騰訊云在云計算基礎(chǔ)IaaS關(guān)鍵技術(shù)——虛擬機熱遷移和穩(wěn)定方面已經(jīng)取得了重大成果,設(shè)計熱遷移過程中內(nèi)存的快速寫保護算法,解決了虛擬機熱遷移過程中如虛擬機磁盤IO性能下降、遷移后QCOW2鏡像零頁寫操作等難題,還重構(gòu)了KVM的RTC計時框架,讓虛擬機的時鐘系統(tǒng)在時鐘頻率頻繁調(diào)整的情況下保持精準(zhǔn)。

    騰訊云在CNCF與Linux社區(qū)的計劃

    過去,這些成果都由騰訊云以核心patch的方式回饋給CNCF和Linux社區(qū),而加入CNCF和Linux基金會后,基于騰訊云在容器服務(wù)的實踐,將給予CNCF原生云建設(shè)回饋;同時騰訊云基于龐大的用戶規(guī)模,在虛擬機方面有豐富的研究與實踐,將給予Linux社區(qū)以巨大的回饋。

    劉穎表示,希望能成為全球開源社區(qū)的新力量,推動CNCF和Linux的發(fā)展,分享騰訊云的經(jīng)驗,為CNCF和Linux的項目做出貢獻,騰訊云將與社區(qū)緊密聯(lián)系在一起,為全球用戶提供高品質(zhì)、全能力的技術(shù)服務(wù)。

    在數(shù)字經(jīng)濟時代,云計算正在改變整體商業(yè)的運作模式,而開源技術(shù)也在加速企業(yè)向云計算遷移的步伐,以及改變云計算領(lǐng)域部署和管理應(yīng)用的方式。自建立以來,CNCF和Linux基金會始終在推動合作伙伴在社區(qū)共同貢獻更多的開源技術(shù),騰訊云的加入將有望加速全球技術(shù)的發(fā)展進程。

    隨著云計算、虛擬化等技術(shù)的飛速發(fā)展,數(shù)據(jù)中心向虛擬化、云存儲已成大勢,有專家預(yù)測,未來90%的大型企業(yè)、政府機構(gòu)等都將使用虛擬化。在這一過程中,數(shù)據(jù)中心所面臨的安全風(fēng)險也在發(fā)生著演進與變化。虛擬化數(shù)據(jù)中心面臨比傳統(tǒng)數(shù)據(jù)中心更大的安全挑戰(zhàn)。服務(wù)器虛擬化在帶來種種好處的基礎(chǔ)上也引入了新的安全威脅,如虛擬機之間的互相攻擊,隨時啟動的防護間歇等。企業(yè)必須考慮各種潛在的威脅,然后才能遷移到云模型上。下面是幾個企業(yè)應(yīng)該注意的云安全問題:

    誰有訪問權(quán)限?

    訪問控制確實是一個問題。云身份認證是如何管理的?內(nèi)部人員攻擊是一種持續(xù)威脅。任何獲得云平臺訪問權(quán)限的人都有可能成為潛在的問題。舉一個例子:有一名員工可能離職或被辭退,結(jié)果他或她是唯一有訪問密碼的人。或者說,或許這一名員工是唯一一位負責(zé)給云提供商支付費用的人。你必須知道誰有訪問權(quán)限,他或她是如何交接工作的,以及訪問權(quán)限是如何中止的?

    你是否有審計權(quán)限?

    這個問題并不是小問題,相反是其中一個最重要的云安全問題。云提供商可能同意在書面上遵守一個審計標(biāo)準(zhǔn);但是,對于審計人員和評估人員而言,想要評估云計算是否符合法規(guī)要求,已經(jīng)被證明是一件越來越難完成和驗證的工作。在IT要面對的諸多法規(guī)中,幾乎沒有專門針對云計算的。審計人員和評估人員可能還不熟悉云計算,也不熟悉某個特定的云服務(wù)。

    云提供商給員工提供了哪一些培訓(xùn)?

    這確實是一個非常值得注意的問題,因為人們在安全面前總是弱勢群體。了解云服務(wù)商提供了哪些培訓(xùn)。大多數(shù)攻擊都同時包含技術(shù)因素和社會因素。云服務(wù)商應(yīng)該采用措施處理各種來源的社會攻擊,包括電子郵件、惡意鏈接、電話及其他方式,它們都應(yīng)該在出現(xiàn)在培訓(xùn)和認知項目中。

    是否使用了加密手段?

    加密手段也應(yīng)該在考慮范圍內(nèi)。原始數(shù)據(jù)是否允許離開企業(yè),或者它們應(yīng)該留在內(nèi)部,才能符合法規(guī)要求?數(shù)據(jù)在靜止和或移動過程中,是否加密?此外,你還應(yīng)該了解其中所使用的加密類型。要保證自己知道是誰在保管密鑰,然后再簽合約。加密手段一定要出現(xiàn)在云安全問題清單中。

    hadoop集群監(jiān)控工具_元數(shù)據(jù)管理工具 hadoop_hadoop可視化工具

    你的數(shù)據(jù)與其他人的數(shù)據(jù)是如何分隔的?

    數(shù)據(jù)位于一臺共享服務(wù)器還是一個專用系統(tǒng)中?如果使用一個專用服務(wù)器,則意味著服務(wù)器上只有你的信息。如果在一臺共享服務(wù)器上,則磁盤空間、處理能力、帶寬等資源都是有限的,因為還有其他人一起共享這個設(shè)備。你需要確定自己是需要私有云還是公有云,以及誰在管理服務(wù)器。如果是共享服務(wù)器,那么數(shù)據(jù)就有可能和其他數(shù)據(jù)混在一起。

    提供商的長期可用性體現(xiàn)有什么保障?

    云服務(wù)商開展這個業(yè)務(wù)有多長時間了?過往的業(yè)務(wù)表現(xiàn)如何?如果它在這個業(yè)務(wù)上出現(xiàn)問題,你的數(shù)據(jù)會面臨什么問題?是否會以原始格式交回給你?

    如果出現(xiàn)安全漏洞會有什么應(yīng)對措施?

    如果發(fā)生了安全事故,你可以從云服務(wù)商獲得哪些支持?雖然許多提供商都宣稱自己的服務(wù)是萬無一失的,但是基于云的服務(wù)是極其容易受到黑客攻擊的。側(cè)向通道、會話劫持、跨站腳本和分布式拒絕服務(wù)等攻擊都是云數(shù)據(jù)經(jīng)常遇到的攻擊方式。

    根據(jù)預(yù)測,未來三年有80%以上的數(shù)據(jù)中心流量將來自云服務(wù)。這意味著,即使你現(xiàn)在還沒有做好云遷移,那么到2020年前你也會這樣做的。所以,要用這一段時間保證自己采用正確的遷移方法。要提前定義合同要求,然后不能只是復(fù)制原來用于本地環(huán)境的安全策略。相反,要從遷移的角度去改進它。

    OTPUB直播活動又雙叒叕來嘍!

    直播主題

    Excel的“天上人間”-“出臺”到PPT的動態(tài)圖表

    直播時間

    2017年4月25日 14:00-15:00

    點擊參與報名>>>

    簡述

    是現(xiàn)在技術(shù)前沿的大數(shù)據(jù)引擎,常見的組合有ES++作為一套成熟的日志系統(tǒng),其中是ETL工具,是數(shù)據(jù)分析展示平臺。讓人驚艷的是他強大的搜索相關(guān)能力和災(zāi)備策略,開放了一些接口供開發(fā)者研發(fā)自己的插件,結(jié)合中文分詞的插件會給的搜索和分析起到很大的推動作用。是使用開源全文檢索庫 進行索引和搜索的,所以底層是依賴的。

    關(guān)于:

    將寫入索引的所有信息組織成一種倒排索引( Index)的結(jié)構(gòu)之中,該結(jié)構(gòu)是種將詞項映射到文檔的數(shù)據(jù)結(jié)構(gòu)。其工作方式與傳統(tǒng)的關(guān)系數(shù)據(jù)庫不同,大致來說倒排索引是面向詞項而不是面向文檔的。且索引之中還存儲了很多其他的信息,如詞向量等等,每個都是由多個段構(gòu)成的,每個段只會被創(chuàng)建一次但會被查詢多次,段一旦創(chuàng)建就不會再被修改。多個段會在段合并的階段合并在一起,何時合并由的內(nèi)在機制決定,段合并后數(shù)量會變少,但是相應(yīng)的段本身會變大。段合并的過程是非常消耗I/O的,且與之同時會有些不再使用的信息被清理掉。在中,將數(shù)據(jù)轉(zhuǎn)化為倒排索引,將完整串轉(zhuǎn)化為可用于搜索的詞項的過程叫做分析。文本分析由分析器()來執(zhí)行,分析其由分詞器(),過濾器()和字符映射器( )組成,其各個功能顯而易見。除此之外,有自己的一套完整的查詢語言來幫助我們進行搜索和讀寫。

    *注:中的索引指的是查詢/尋址時URI中的一個字段如:[host]:[port(9200)]/[index]/[type]/[ID]?[],而中的索引更多地和ES中的分片的概念相對應(yīng)。

    架構(gòu)設(shè)計理念特性如下:

    hadoop集群監(jiān)控工具_hadoop可視化工具_元數(shù)據(jù)管理工具 hadoop

    合理的默認配置:只需修改節(jié)點中的Yaml配置文件,就可以快速配置。這和中對配置的簡化有相似的地方。分布式工作模式:強大的Zen發(fā)現(xiàn)機制不僅支持組廣播也支持點單播,且有“知一點即知天下”之妙。對等架構(gòu):節(jié)點之間自動備份分片,且使分片本身和樣本之間盡量”遠離“,可以避免單點故障。且節(jié)點和Data節(jié)點幾乎完全等價。易于向集群擴充新節(jié)點:大大簡化研發(fā)或運維將新節(jié)點加入集群所需的工作。不對索引中的數(shù)據(jù)結(jié)構(gòu)增加任何限制:ES支持在一個索引之中存在多種數(shù)據(jù)類型。準(zhǔn)實時:搜索和版本同步,由于ES是分布式應(yīng)用,一個重大的挑戰(zhàn)就是一致性問題,無論索引還是文檔數(shù)據(jù),然而事實證明ES表現(xiàn)優(yōu)秀。

    分片策略

    選擇合適的分片數(shù)和副本數(shù):

    ES的分片分為兩種,主分片( Shard)和副本()。默認情況下,ES會為每個索引創(chuàng)建5個分片,即使是在單機環(huán)境下,這種冗余被稱作過度分配(Over ),目前看來這么做完全沒有必要,僅在散布文檔到分片和處理查詢的過程中就增加了更多的復(fù)雜性,好在ES的優(yōu)秀性能掩蓋了這一點。假設(shè)一個索引由一個分片構(gòu)成,那么當(dāng)索引的大小超過單個節(jié)點的容量的時候,ES不能將索引分割成多份,因此必須在創(chuàng)建索引的時候就指定好需要的分片數(shù)量。此時我們所能做的就是創(chuàng)建一個新的索引,并在初始設(shè)定之中指定這個索引擁有更多的分片。反之如果過度分配,就增大了在合并分片查詢結(jié)果時的復(fù)雜度,從而增大了耗時,所以我們得到了以下結(jié)論:我們應(yīng)該使用最少的分片!

    主分片元數(shù)據(jù)管理工具 hadoop,副本和節(jié)點最大數(shù)之間數(shù)量存在以下關(guān)系:

    節(jié)點數(shù) <= 主分片數(shù) *(副本數(shù)+1)    NodeNum <= PNum * ( Rnum + 1 )

    這個關(guān)系,其實就是保持最好一個數(shù)據(jù)節(jié)點,最好保存一個索引的一個分片(不管主副)。

    控制分片分配行為:

    以上是在創(chuàng)建每個索引的時候需要考慮的優(yōu)化方法,然而在索引已創(chuàng)建好的前提下,是否就是沒有辦法從分片的角度提高了性能了呢?當(dāng)然不是,首先能做的是調(diào)整分片分配器的類型,具體是在.yml中設(shè)置...type屬性,共有兩種分片器,(默認)。是盡量保證每個節(jié)點都具有相同數(shù)量的分片,是基于可控制的權(quán)重進行分配,相對于前一個分配器,它更暴漏了一些參數(shù)而引入調(diào)整分配過程的能力。

    每次ES的分片調(diào)整都是在ES上的數(shù)據(jù)分布發(fā)生了變化的時候進行的,最有代表性的就是有新的數(shù)據(jù)節(jié)點加入了集群的時候。當(dāng)然調(diào)整分片的時機并不是由某個閾值觸發(fā)的,ES內(nèi)置十一個裁決者來決定是否觸發(fā)分片調(diào)整,這里暫不贅述。另外,這些分配部署策略都是可以在運行時更新的,更多配置分片的屬性也請大家自行。

    路由優(yōu)化

    ES中所謂的路由和IP網(wǎng)絡(luò)不同,是一個類似于Tag的東西。在創(chuàng)建文檔的時候,可以通過字段為文檔增加一個路由屬性的Tag。ES內(nèi)在機制決定了擁有相同路由屬性的文檔,一定會被分配到同一個分片上,無論是主分片還是副本。那么,在查詢的過程中,一旦指定了感興趣的路由屬性,ES就可以直接到相應(yīng)的分片所在的機器上進行搜索,而避免了復(fù)雜的分布式協(xié)同的一些工作,從而提升了ES的性能。于此同時,假設(shè)機器1上存有路由屬性A的文檔,機器2上存有路由屬性為B的文檔,那么我在查詢的時候一旦指定目標(biāo)路由屬性為A,即使機器2故障癱瘓,對機器1構(gòu)不成很大影響,所以這么做對災(zāi)況下的查詢也提出了解決方案。所謂的路由,本質(zhì)上是一個分桶()操作。當(dāng)然,查詢中也可以指定多個路由屬性,機制大同小異。

    GC調(diào)優(yōu)

    本質(zhì)上是個Java程序,所以配置JVM垃圾回收器本身也是一個很有意義的工作。我們使用JVM的Xms和Xmx參數(shù)來提供指定內(nèi)存大小,本質(zhì)上提供的是JVM的堆空間大小,當(dāng)JVM的堆空間不足的時候就會觸發(fā)致命的。這意味著要么內(nèi)存不足,要么出現(xiàn)了內(nèi)存泄露。處理GC問題,首先要確定問題的源頭,一般有三種方案:

    開啟上的GC日志使用jstat命令生成內(nèi)存Dump

    第一條,在ES的配置文件.yml中有相關(guān)的屬性可以配置,關(guān)于每個屬性的用途這里當(dāng)然說不完。

    第二條,jstat命令可以幫助我們查看JVM堆中各個區(qū)的使用情況和GC的耗時情況。

    第三條,最后的辦法就是將JVM的堆空間轉(zhuǎn)儲到文件中去,實質(zhì)上是對JVM堆空間的一個快照。

網(wǎng)站首頁   |    關(guān)于我們   |    公司新聞   |    產(chǎn)品方案   |    用戶案例   |    售后服務(wù)   |    合作伙伴   |    人才招聘   |   

友情鏈接: 餐飲加盟

地址:北京市海淀區(qū)    電話:010-     郵箱:@126.com

備案號:冀ICP備2024067069號-3 北京科技有限公司版權(quán)所有