加入AI的潮流可能會(huì)適得其反，但發(fā)展過(guò)慢也不是明智之舉，找到最理想的速度，要取決于一系列因素，首先是健康的風(fēng)險(xiǎn)偏好。

談到AI，錯(cuò)失機(jī)會(huì)的恐懼是真實(shí)存在的。根據(jù)Coleman Parkes Research代表Riverbed進(jìn)行的研究，有91%的大企業(yè)決策者擔(dān)心，如果他們的競(jìng)爭(zhēng)對(duì)手在AI方面取得領(lǐng)先，就將占據(jù)優(yōu)勢(shì)。因此，幾乎每位受訪者都表示，在未來(lái)18個(gè)月內(nèi)，他們將使用、測(cè)試或規(guī)劃與AI相關(guān)的項(xiàng)目。

根據(jù)標(biāo)普全球市場(chǎng)情報(bào)公司9月份發(fā)布的一項(xiàng)調(diào)查顯示，AI的采用率空前高漲，使生成式AI現(xiàn)在已經(jīng)超越了企業(yè)中采用的其他所有AI應(yīng)用。有近四分之一（24%）的企業(yè)組織已經(jīng)把生成式AI作為整個(gè)組織的一項(xiàng)綜合能力，有37%的企業(yè)組織已經(jīng)把生成式AI投入生產(chǎn)，但尚未完全擴(kuò)展開(kāi)來(lái)。

Forrester Research分析師Alla Valente表示：“FOMO絕對(duì)是真實(shí)存在的，尤其看到每個(gè)組織都有某種AI戰(zhàn)略時(shí)，而且行動(dòng)過(guò)快也存在危險(xiǎn)，包括負(fù)面公關(guān)、合規(guī)或網(wǎng)絡(luò)安全風(fēng)險(xiǎn)、法律責(zé)任，甚至集體訴訟。

即使生成式AI結(jié)果失敗沒(méi)有達(dá)到引起公眾尷尬或訴訟的程度，但仍會(huì)抑制企業(yè)的風(fēng)險(xiǎn)偏好，使其不愿啟動(dòng)更多的AI項(xiàng)目。

“那些不愿意在生成式AI方面冒險(xiǎn)的企業(yè)組織，將無(wú)法快速發(fā)展或創(chuàng)新，長(zhǎng)期來(lái)看將遭受損失。即使在中期，他們的市場(chǎng)份額也會(huì)被競(jìng)爭(zhēng)對(duì)手搶走，”Valente說(shuō)。

這并不意味著立即在各個(gè)方面部署生成式AI。

她說(shuō)：“企業(yè)真的需要考慮‘金發(fā)姑娘’的方法，對(duì)他們來(lái)說(shuō)就是要‘恰到好處’，意味著要考慮他們的風(fēng)險(xiǎn)偏好、風(fēng)險(xiǎn)管理成熟度和生成式AI治理框架。”

讓AI遠(yuǎn)離公眾

企業(yè)應(yīng)該謹(jǐn)慎行事的其中一個(gè)方面，就是在面向公眾的項(xiàng)目中采用生成式AI。

自2022年底ChatGPT推出以來(lái)，很多企業(yè)都因?yàn)椴渴疬^(guò)快而陷入困境。一家航空公司的聊天機(jī)器人給了一位客戶不該給的折扣，法院判定該航空公司負(fù)有責(zé)任。谷歌的AI告訴用戶要在披薩上涂膠水，以防止奶酪滑落。最近，埃隆·馬斯克的Grok AI被發(fā)現(xiàn)傳播有關(guān)選舉的錯(cuò)誤信息，迫使五位國(guó)務(wù)卿向母公司X發(fā)出一封公開(kāi)信，要求修復(fù)這種聊天機(jī)器人。

這使得一些企業(yè)不愿將他們的AI公之于眾。相反，他們會(huì)把這項(xiàng)技術(shù)重點(diǎn)聚焦在內(nèi)部運(yùn)營(yíng)上，這樣即使出現(xiàn)問(wèn)題，仍然可以發(fā)揮有意義的作用，而不會(huì)造成巨大的公關(guān)災(zāi)難。

例如，財(cái)富1000強(qiáng)科技咨詢企業(yè)Connection正在內(nèi)部使用AI進(jìn)行一些項(xiàng)目，例如基于Fisent的流程自動(dòng)化解決方案BizAI支持的工作流程，用于將客戶采購(gòu)訂單與銷售記錄進(jìn)行比較，提供建議是否應(yīng)批準(zhǔn)訂單。

Connection使用Pega Platform根據(jù)業(yè)務(wù)規(guī)則和邏輯管理公司多個(gè)領(lǐng)域的工作流程，以智能地推動(dòng)工作。現(xiàn)在借助BizAI，Connection就可以進(jìn)行數(shù)字化以及關(guān)鍵業(yè)務(wù)流程的自動(dòng)化。

“我們每年從很多尚未與我們進(jìn)行電子整合的中小型企業(yè)那里獲得50000到60000份不同的客戶采購(gòu)訂單，”Connection公司流程優(yōu)化和轉(zhuǎn)型高級(jí)總監(jiān)Jason Burns說(shuō)道。

例如，這些客戶可能會(huì)將PDF、電子表格、圖像文件或其他類型的文檔附加到電子郵件中，或者將采購(gòu)訂單直接粘貼到電子郵件正文中。

“在采用AI之前，審核過(guò)程都是手動(dòng)的，需要人工地把采購(gòu)訂單硬拷貝與我們系統(tǒng)中的條目進(jìn)行比較?！惫緝?nèi)有大約有十幾個(gè)人從事這項(xiàng)工作，由于文件堆積如山，從訂單到達(dá)到有人能夠查看并做出決定，通常需要長(zhǎng)達(dá)四個(gè)小時(shí)的時(shí)間。而采用了生成式AI進(jìn)行初步比較和建議之后，周轉(zhuǎn)時(shí)間現(xiàn)在僅為兩分鐘。

例如，生成式AI可以幫助確定訂單是否是發(fā)送給Connection的；有時(shí)客戶會(huì)錯(cuò)誤地將采購(gòu)訂單發(fā)送給錯(cuò)誤的供應(yīng)商。生成式AI還會(huì)檢查地址是否匹配，而這對(duì)于以前的AI來(lái)說(shuō)是很難做到的。生成式AI還會(huì)把有關(guān)客戶想要產(chǎn)品的描述與Connection內(nèi)部SKU進(jìn)行匹配。

Burns說(shuō)：“我們的客戶不知道我們的內(nèi)部SKU，他們可能會(huì)以一種方式描述產(chǎn)品，我們可能會(huì)以另一種方式描述產(chǎn)品，而我們的AI則能夠非常有效地將兩者關(guān)聯(lián)起來(lái)。”

他補(bǔ)充說(shuō)，AI被設(shè)置為比人類更保守。如果有任何不清楚的地方，它就會(huì)默認(rèn)返回進(jìn)行人工審核。由于AI只處理呈現(xiàn)給它的信息，不會(huì)生成新的內(nèi)容，只是提出簡(jiǎn)單的建議，因此幻覺(jué)的幾率也被降到了最低。

Burns說(shuō)：“到目前為止，我們還沒(méi)有遇到過(guò)AI建議將訂單移至下游而人類審核員不同意的情況?！备赡艿那闆r是，AI會(huì)拖延訂單以供人工審核，而人工審核人員表示可以繼續(xù)執(zhí)行。“我們發(fā)現(xiàn)AI的可靠性比我們最初預(yù)期的還要高，甚至我們正在考慮如何讓AI放松下來(lái)，對(duì)文檔的批評(píng)少一點(diǎn)。”

Connection下一步的計(jì)劃是在十幾個(gè)其他類似的內(nèi)部用例中部署AI，并幫助生成代碼、寫(xiě)信和總結(jié)會(huì)議。Burns說(shuō)：“潛在生產(chǎn)力的提升是巨大的，我們需要在這方面繼續(xù)探索。”

但考慮到額外的風(fēng)險(xiǎn)，Connection目前尚未開(kāi)發(fā)面向客戶的AI。他說(shuō)：“談到AI，風(fēng)險(xiǎn)承受能力確實(shí)是當(dāng)務(wù)之急。我們認(rèn)識(shí)到了AI的巨大潛力，但首要任務(wù)是我們的客戶、他們的數(shù)據(jù)和安全，以及提供出色的成果。技術(shù)會(huì)隨著時(shí)間的推移而發(fā)展，我們也會(huì)隨之發(fā)展前進(jìn)?！?/p>

讓人類參與其中

TaskUs是一家擁有約50000名員工的業(yè)務(wù)流程外包商，該公司也把AI納入到了公司內(nèi)部，但主要集中于有人在場(chǎng)以發(fā)現(xiàn)任何問(wèn)題的場(chǎng)景。

“我們不希望AI是自行發(fā)展的，”TaskUs公司首席信息官Chandra Venkataramani說(shuō)。

該公司創(chuàng)建了一個(gè)名為T(mén)askGPT的內(nèi)部平臺(tái)，幫助員工為客戶提供支持，并且已經(jīng)看到效率提高了15%至35%。AI也開(kāi)始用于內(nèi)部自動(dòng)化和其他生產(chǎn)力效益。

Venkataramani舉了加拿大航空公司的例子，稱他們的聊天機(jī)器人向客戶承諾折扣，但公司拒絕了，后來(lái)被迫兌現(xiàn)。這是一個(gè)警示性的例子，說(shuō)明了面向公眾的AI為何如此危險(xiǎn)。相反，這些工具目前主要被用來(lái)幫助為人們提出建議和推薦。

他說(shuō)：“這樣，團(tuán)隊(duì)就可以控制它，他們可以說(shuō)，‘這聽(tīng)起來(lái)不對(duì)勁。我不會(huì)把它發(fā)給我的客戶?！斯じ深A(yù)非常重要?！币虼耍谕苿?dòng)內(nèi)部團(tuán)隊(duì)更多地使用AI，但只是為了提高效率?！拔覀冋谕苿?dòng)我們的客戶采用AI，但我們不會(huì)魯莽地使用它。如果我們能獲得20%的改善和100%的安全，或者30%/40%的改善但并不安全，我們會(huì)選擇前者，安全和保障是我們最關(guān)心的問(wèn)題?！?/p>

事實(shí)上，很多AI問(wèn)題都可以通過(guò)人工監(jiān)督來(lái)避免。Champlain College在線運(yùn)營(yíng)副總裁Christa Montagnino說(shuō)：“幻覺(jué)是會(huì)發(fā)生的，AI經(jīng)過(guò)訓(xùn)練是為了取悅我們，不一定完全準(zhǔn)確。”該學(xué)院一直在使用生成式AI來(lái)幫助教學(xué)設(shè)計(jì)師和學(xué)科專家打造在線課程。她說(shuō)，過(guò)去這個(gè)過(guò)程很麻煩，教師不一定接受過(guò)教育設(shè)計(jì)方面的培訓(xùn)，他們要和教學(xué)設(shè)計(jì)師配合工作。一門(mén)為期七周的課程需要大約15周的時(shí)間才能完成，但有了AI之后，時(shí)間就縮短了一半。

盡管如此，人為因素仍然是這個(gè)過(guò)程中的關(guān)鍵部分。她說(shuō)：“我們現(xiàn)在從生成式AI開(kāi)始，然后讓主題專家與教學(xué)設(shè)計(jì)師一起工作，他們是這些信息的編輯；他們帶來(lái)對(duì)學(xué)生有意義的東西，以及其中需要包含的資源。”

她說(shuō)，加入AI還可以減少一些常規(guī)管理任務(wù)和負(fù)擔(dān)，使教師能夠花更多時(shí)間和學(xué)生在一起。

然而，幫助企業(yè)處理工傷事故的Company Nurse公司卻吃了苦頭。該公司使用AI自動(dòng)化了QA流程，那些為客戶組織的員工提供醫(yī)療建議的護(hù)士，會(huì)立即得到關(guān)于他們?cè)谶@些通話中做錯(cuò)什么的反饋。

“我們認(rèn)為，如果我們能為代理提供更多關(guān)于做錯(cuò)了的事情的反饋，他們犯的錯(cuò)誤就會(huì)更少。”該公司首席技術(shù)官Henry Svendblad說(shuō)。然而，護(hù)士們開(kāi)始辭職，離職率從百分之十幾的低位上升到百分之三十多，這在一定程度上與疫情的開(kāi)始和大量辭職有關(guān)，但一部分原因是代理們很快就收到了太多的負(fù)面反饋。

“我們從代理那里聽(tīng)到了強(qiáng)烈的反饋，告訴他們?cè)诿看位?dòng)中犯的每個(gè)錯(cuò)誤，這并沒(méi)有帶來(lái)積極的工作滿意度，我們看到過(guò)這樣的情況，新員工收到設(shè)備后，卻不愿意繼續(xù)工作了，這種情況以前從未發(fā)生過(guò)?！?/p>

為了解決這個(gè)問(wèn)題，TaskUs讓人類代理重新參與進(jìn)來(lái)，聘請(qǐng)了一位人力發(fā)展經(jīng)理，開(kāi)始更多地關(guān)注護(hù)士所做的積極方面，而不僅僅是消極方面。“我們?cè)谧詣?dòng)化QA方面確實(shí)放慢了速度。”

避免敏感信息

Champlain的Montagnino表示，該學(xué)院愿意使用AI來(lái)幫助開(kāi)發(fā)課程內(nèi)容或營(yíng)銷材料，因?yàn)檫@并不涉及讓AI訪問(wèn)敏感信息。

但她表示，在處理涉及學(xué)生數(shù)據(jù)的項(xiàng)目時(shí)情況并非如此，因此這類舉措將在以后推出?！拔矣X(jué)得，我們現(xiàn)在最好的機(jī)會(huì)在于產(chǎn)品開(kāi)發(fā)和吸引未來(lái)的學(xué)生方面?！?/p>

臨床試驗(yàn)公司Fortrea最近從LabCorp分拆出來(lái)，該公司也在謹(jǐn)慎地選擇隱私風(fēng)險(xiǎn)最小的項(xiàng)目，首席信息官Alejandro Martinez-Galindo說(shuō)：“我們有巨大的機(jī)會(huì)，可以把臨床試驗(yàn)提升到一個(gè)新的水平。我們最近推出了一個(gè)ML和AI工作室，在這個(gè)領(lǐng)域我們正在推動(dòng)創(chuàng)新?！?/p>

例如，F(xiàn)ortrea正在為其技術(shù)堆棧部署微軟的Copilot助手。他說(shuō)：“它開(kāi)始像野火一樣蔓延，因?yàn)槲覀冊(cè)诮M織中取得了一些有趣的成果，這也是我們?yōu)榻M織帶來(lái)的一個(gè)智能層。”

該公司已經(jīng)把收集提案請(qǐng)求信息所需的時(shí)間縮短了30%?！斑@給了我們巨大的生產(chǎn)力，而且產(chǎn)品質(zhì)量比過(guò)去好得多?！币?yàn)锳I現(xiàn)在可以從多個(gè)孤立的來(lái)源獲取信息，但是作為一家醫(yī)療保健組織，F(xiàn)ortrea還必須對(duì)他們部署的技術(shù)非常謹(jǐn)慎，以避免存在任何合規(guī)性問(wèn)題。

“我們必須在創(chuàng)新速度與合規(guī)性、安全性這兩者之間取得平衡，我們是快速的追隨者?！崩?，臨床試驗(yàn)是非常耗費(fèi)紙張的，當(dāng)臨床研究助理去一個(gè)辦公點(diǎn)的時(shí)候，會(huì)收集大量的信息。但公司對(duì)哪些信息先由AI處理是非?？量痰摹?/p>

“我們需要從隱私官那里獲得許可，以確保我們正在構(gòu)建的任何東西都是合規(guī)的，首席安全官對(duì)我們的選擇有很大的發(fā)言權(quán)?！?/p>

例如，未來(lái)可能會(huì)部署一種可以幫助掃描文檔的技術(shù)，這項(xiàng)技術(shù)帶有過(guò)濾器以確保不會(huì)意外泄露患者信息。但如今，在臨床試驗(yàn)現(xiàn)場(chǎng)訪問(wèn)方面，該公司首先關(guān)注的是非敏感類型的信息，例如正在使用的物理設(shè)備。

“我們可以給冰箱拍照，掃描維護(hù)的時(shí)間和溫度，希望確保設(shè)施內(nèi)所有條件都是到位的?！?/p>

花時(shí)間做基礎(chǔ)工作

除了公眾尷尬、客戶或員工流失、法律和合規(guī)責(zé)任外，過(guò)快采用生成式AI還存在其他技術(shù)風(fēng)險(xiǎn)。

例如，那些在部署AI之前沒(méi)有做好充分基礎(chǔ)工作的企業(yè)，可能沒(méi)有恰當(dāng)?shù)臄?shù)據(jù)基礎(chǔ)或適當(dāng)?shù)姆雷o(hù)措施，或者可能行動(dòng)過(guò)快，無(wú)法完全信任單一的供應(yīng)商。

安永美洲區(qū)生成式AI負(fù)責(zé)人David Guarrera表示：“企業(yè)組織將面臨很大的風(fēng)險(xiǎn)，他們會(huì)將自己鎖定在多年支出或承諾上，但一兩年后就會(huì)發(fā)現(xiàn)，還有更便宜的、更好的方法。”有些組織在沒(méi)有考慮整個(gè)企業(yè)的技術(shù)戰(zhàn)略的情況下，就進(jìn)入了AI領(lǐng)域。

“現(xiàn)在有很多組織正在推出數(shù)十或數(shù)百個(gè)原型，他們可能有一個(gè)由技術(shù)廠商開(kāi)發(fā)的合同分析工具，以及一個(gè)由首席財(cái)務(wù)官辦公室另外開(kāi)發(fā)的合同分析工具，他們甚至可能彼此都不知道。我們可能會(huì)有大量的原型被推出，但無(wú)處可去，最終就消失了?！?/p>

然后還會(huì)浪費(fèi)金錢(qián)?！凹僭O(shè)一個(gè)組織有FOMO，購(gòu)買了一堆GPU，卻沒(méi)有問(wèn)企業(yè)是否真的需要GPU。在這方面投資，可能會(huì)讓你錯(cuò)失在數(shù)據(jù)領(lǐng)域真正需要的東西，這也是一種風(fēng)險(xiǎn)。也許你真正需要的是更多的數(shù)據(jù)治理或數(shù)據(jù)清理?！?/p>

急于啟動(dòng)試點(diǎn)并做出草率的支出決定，是因?yàn)槊總€(gè)人都很恐慌，想要盡快掌握生成式AI?！暗修k法利用這項(xiàng)技術(shù)，盡量減少未來(lái)可能的遺憾，”他補(bǔ)充說(shuō)。

對(duì)于小型初創(chuàng)公司來(lái)說(shuō)，“快速行動(dòng)，打破常規(guī)”或許是一句不錯(cuò)的口號(hào)，但對(duì)于大型組織來(lái)說(shuō)，這句口號(hào)并不適用?！澳憧刹粫?huì)想讓數(shù)十億美金和你的市場(chǎng)面臨風(fēng)險(xiǎn)，”Guarrera說(shuō)道。