多云管理精粹:CIO分享云服務(wù)選擇的智慧
在獨(dú)家采訪中,集團(tuán)首席數(shù)字和信息官(CDIO)Prosenjit Sengupta分享了ITC在云之旅中的見解,討論了利用Azure、AWS和Google Cloud所面臨的挑戰(zhàn)、優(yōu)勢以及最佳實(shí)踐。
通過為每個(gè)用例選擇最合適的平臺(tái),從將SAP工作負(fù)載遷移到AWS到在Azure上利用AI驅(qū)動(dòng)的分析,這一策略提高了靈活性、安全性和成本效益。Sengupta強(qiáng)調(diào)了這種方法如何使企業(yè)保持敏捷、有效創(chuàng)新,并在各種環(huán)境中確保強(qiáng)大的數(shù)據(jù)保護(hù)。以下是采訪摘錄:
1.是什么因素促使貴企業(yè)決定采用混合云或多云策略,而不是單一云策略?
我們有效地利用了所有三大超大規(guī)模云服務(wù)提供商——Microsoft Azure、Amazon和Google Cloud——來滿足不同的用例需求。我們不是為特定功能應(yīng)用單一的云服務(wù)提供商,而是基于每個(gè)平臺(tái)獨(dú)有的優(yōu)勢采用多云策略。例如,當(dāng)我們將一個(gè)業(yè)務(wù)部門的SAP環(huán)境從本地遷移到云端時(shí),我們選擇了Amazon Web Services。同時(shí),對于其他應(yīng)用程序,如貿(mào)易促銷和產(chǎn)品營銷組合優(yōu)化的AI驅(qū)動(dòng)分析,我們在Microsoft Azure上構(gòu)建了一個(gè)數(shù)據(jù)湖。
此外,我們還在與其他特殊用例中使用Google Cloud Platform(GCP),這種多云方法使我們能夠利用每個(gè)超大規(guī)模云服務(wù)提供商的獨(dú)特能力。例如,我們正在建立一個(gè)著陸區(qū),以運(yùn)行用于GenAI應(yīng)用的大型語言模型(LLM)。每個(gè)超大規(guī)模云服務(wù)提供商都提供獨(dú)特的LLM能力——通過Microsoft Azure提供的OpenAI模型、Amazon的專有LLM以及Google的Gemini——每種都量身定制,以滿足不同的GenAI應(yīng)用需求。
通過在所有三個(gè)超大規(guī)模云服務(wù)提供商上實(shí)施著陸區(qū),我們確保能夠靈活地選擇最符合我們特定需求的LLM,這一策略通過關(guān)注每個(gè)提供商提供的技術(shù)能力和算法能力,避免了單一云服務(wù)提供商的局限性,使我們能夠?yàn)槎鄻拥膬?nèi)部用例選擇最合適的方案。
2.你如何確定哪些工作負(fù)載最適合本地環(huán)境,而哪些更適合公有云或私有云環(huán)境?
通常,對于交易量大且性能要求一致的解決方案,將其保留在本地是最有效的,然而,這樣做需要公司在硬件、服務(wù)、支持和強(qiáng)大的安全基礎(chǔ)設(shè)施上進(jìn)行投資。幸運(yùn)的是,我們已經(jīng)擁有一個(gè)高度先進(jìn)的數(shù)據(jù)中心,具備廣泛的技術(shù)能力,由我們的內(nèi)部團(tuán)隊(duì)全面管理的安全計(jì)算資源。這種設(shè)置使我們能夠最大限度地利用現(xiàn)有基礎(chǔ)設(shè)施來處理穩(wěn)定、可預(yù)測的工作負(fù)載。
了解如何優(yōu)化云使用至關(guān)重要。由于公司并非全天候運(yùn)營,但仍需全天支付云服務(wù)費(fèi)用,因此優(yōu)化使用非常重要,這可以包括在非高峰時(shí)段重用云能力,或在需求較低時(shí)減少計(jì)算和存儲(chǔ)需求。
對于云,我們優(yōu)先考慮需要突發(fā)計(jì)算能力的用例——例如,特定查詢、時(shí)間敏感的分析,或需要更高計(jì)算和分析能力的特定時(shí)期,這使我們能夠在必要時(shí)利用高性能資源,而無需全年維持這些資源。云在高峰需求時(shí)靈活擴(kuò)展,并在之后縮減的能力,使其非常適合這種動(dòng)態(tài)需求。
3.在多云環(huán)境中管理數(shù)據(jù)和應(yīng)用程序面臨的最大挑戰(zhàn)是什么,你是如何應(yīng)對這些挑戰(zhàn)的?
管理成本是最大的挑戰(zhàn)之一,尤其是在初期,然而,企業(yè)在應(yīng)對這一問題時(shí)變得越來越聰明。關(guān)鍵是持續(xù)監(jiān)控云消耗情況,并定期評估成本,以確保只遷移必要的應(yīng)用程序。進(jìn)行效益分析對于確定在內(nèi)部維護(hù)和服務(wù)應(yīng)用程序還是將其遷移到云端哪個(gè)更具成本效益至關(guān)重要。
此外,了解如何優(yōu)化云使用至關(guān)重要,由于公司并非全天候運(yùn)營,但仍需全天支付云服務(wù)費(fèi)用,因此優(yōu)化使用非常重要,這可以包括在非高峰時(shí)段重用云能力,或在需求較低時(shí)減少計(jì)算和存儲(chǔ)需求,有效的云成本管理需要周密的計(jì)劃和控制。
4.你的云方法如何增強(qiáng)IT基礎(chǔ)設(shè)施的彈性和靈活性?
疫情凸顯了云采用對于業(yè)務(wù)連續(xù)性的重要性。通過云,風(fēng)險(xiǎn)分布在多個(gè)位置,確保服務(wù)器、存儲(chǔ)和計(jì)算資源不局限于單一區(qū)域。
這種分布增強(qiáng)了彈性,此外,云提供了強(qiáng)大的安全框架,超大規(guī)模云服務(wù)提供商遵循全球最佳實(shí)踐來保護(hù)交易數(shù)據(jù)、主數(shù)據(jù)和其他敏感信息。
云服務(wù)提供商在保護(hù)AI生成的內(nèi)容、知識(shí)產(chǎn)權(quán)權(quán)利和保持真實(shí)性方面發(fā)揮著關(guān)鍵作用,此外,高效處理和處理大型數(shù)據(jù)集的能力進(jìn)步對于我們持續(xù)的云采用至關(guān)重要。
云還支持遠(yuǎn)程工作,使員工能夠在工作地點(diǎn)和工作方式上更加靈活,它使業(yè)務(wù)流程從依賴物理存在轉(zhuǎn)變?yōu)榕c成果掛鉤,從而促進(jìn)了更大的敏捷性。
5.當(dāng)在多個(gè)超大規(guī)模云服務(wù)提供商之間使用各種LLM時(shí),你如何確保數(shù)據(jù)安全?
為了保護(hù)我們的數(shù)據(jù),我們在數(shù)據(jù)中心設(shè)置了每個(gè)超大規(guī)模云服務(wù)提供商LLM的私有實(shí)例,這樣,我們可以利用它們的AI能力,而無需將敏感的公司數(shù)據(jù)傳輸?shù)剿鼈兊钠脚_(tái)上。通過在我們安全的環(huán)境中使用著陸區(qū),我們避免了直接的數(shù)據(jù)共享。雖然這種設(shè)置可能意味著使用某些LLM的稍舊版本,但它確保了數(shù)據(jù)的完整性和安全性。
6.管理LLM的高計(jì)算需求可能成本高昂,你是如何解決這一問題的?
我們通過應(yīng)用提示工程來管理計(jì)算成本,簡化輸入,在將查詢發(fā)送到LLM之前減少其復(fù)雜性和大小,這使我們能夠限制處理的數(shù)據(jù)量,從而最小化計(jì)算成本。通過僅與LLM共享選定的數(shù)據(jù),我們優(yōu)化了成本和性能。
7.你如何在避免供應(yīng)商鎖定與平衡成本效益和敏捷性之間取得平衡?
為了避免供應(yīng)商鎖定,我們根據(jù)用例在不同的超大規(guī)模云服務(wù)提供商之間分配工作負(fù)載,保持靈活性,并協(xié)商有利的條款,這種方法確保我們獲得具有競爭力的定價(jià)和必要的技術(shù)支持,此外,我們評估長期合作伙伴關(guān)系,以促進(jìn)與每個(gè)解決方案的最佳提供商的合作。
8.Gartner最近預(yù)測,到2025年,IT支出將增長17%-18%,貴企業(yè)的預(yù)算與這一趨勢如何契合?
我們的IT預(yù)算增長更多地與變革性舉措而非基礎(chǔ)設(shè)施相關(guān),投資重點(diǎn)放在提高生產(chǎn)力、業(yè)務(wù)創(chuàng)新和安全性上,我們優(yōu)先考慮能夠推動(dòng)切實(shí)業(yè)務(wù)成果的變革性解決方案,特別是在AI和增強(qiáng)的網(wǎng)絡(luò)安全等新領(lǐng)域。
9.許多AI驅(qū)動(dòng)的項(xiàng)目在概念驗(yàn)證(POC)階段就停滯不前,你對于推進(jìn)這些倡議有何看法?
從POC過渡到生產(chǎn)的關(guān)鍵在于展示明顯的生產(chǎn)力提升和業(yè)務(wù)效益。雖然一些GenAI解決方案可以隨時(shí)部署,但其他解決方案需要完善。我們的目標(biāo)是采用那些已經(jīng)證明具有價(jià)值和影響的AI解決方案,而不是為了技術(shù)本身而采用技術(shù)。
10.展望2025年,云技術(shù)的哪些創(chuàng)新對貴企業(yè)最有利?
為了充分利用GenAI的潛力,我們需要能夠確保知識(shí)產(chǎn)權(quán)保護(hù)和合規(guī)性的解決方案,特別是隨著數(shù)據(jù)隱私法規(guī)的發(fā)展。云服務(wù)提供商在保護(hù)AI生成的內(nèi)容、知識(shí)產(chǎn)權(quán)權(quán)利和保持真實(shí)性方面發(fā)揮著關(guān)鍵作用。此外,高效處理和處理大型數(shù)據(jù)集的能力進(jìn)步對于我們持續(xù)的云采用至關(guān)重要。
11.作為CIO,你最喜歡這份工作的什么?
作為CIO,我最喜歡的是能夠緊跟新興技術(shù),這些創(chuàng)新正在推動(dòng)收入增長,并塑造業(yè)務(wù)的未來,然而,找到合適的人才也是一項(xiàng)挑戰(zhàn)。雖然科技領(lǐng)域有很多人,但很難找到具備合適經(jīng)驗(yàn)的人才——那些能夠批判性思考、考慮所有視角并有效實(shí)施解決方案的人,這不僅僅是關(guān)于技術(shù)技能;更是關(guān)于戰(zhàn)略性和整體性地解決問題的能力。