跳上GenAI的潮流可能會(huì)帶來(lái)反效果，但行動(dòng)過慢也并非明智之舉。找到最佳節(jié)奏需要考慮多個(gè)因素，首先要有適當(dāng)?shù)娘L(fēng)險(xiǎn)承受能力。

在AI領(lǐng)域，錯(cuò)失良機(jī)的恐懼是真實(shí)存在的。根據(jù)Coleman Parkes Research為Riverbed進(jìn)行的調(diào)查，91%的大型公司決策者擔(dān)心，如果競(jìng)爭(zhēng)對(duì)手在AI上領(lǐng)先一步，他們將失去優(yōu)勢(shì)。因此，當(dāng)被問及GenAI時(shí)，所有受訪者都表示他們將在未來(lái)18個(gè)月內(nèi)使用、測(cè)試或計(jì)劃與之相關(guān)的項(xiàng)目。

根據(jù)S&P Global Market Intelligence于9月發(fā)布的調(diào)查，新技術(shù)的空前采用率使得GenAI在企業(yè)中已超越了其他所有AI應(yīng)用。近四分之一(24%)的企業(yè)已經(jīng)在全公司范圍內(nèi)集成了GenAI功能，37%則已投入生產(chǎn)，但尚未完全擴(kuò)展。

“錯(cuò)失恐懼癥是非常真實(shí)的，尤其當(dāng)看起來(lái)每個(gè)企業(yè)都有某種AI戰(zhàn)略時(shí)，”Forrester Research分析師Alla Valente說(shuō)道，“但過快行動(dòng)也有危險(xiǎn)，包括負(fù)面公關(guān)、合規(guī)或網(wǎng)絡(luò)安全風(fēng)險(xiǎn)、法律責(zé)任，甚至集體訴訟。”

即便GenAI的失敗沒有達(dá)到重大公眾尷尬或訴訟的程度，它也可能降低企業(yè)的風(fēng)險(xiǎn)承受能力，使其在推出更多AI項(xiàng)目時(shí)猶豫不決。

“那些不敢冒險(xiǎn)使用GenAI的企業(yè)，將無(wú)法快速增長(zhǎng)或創(chuàng)新，長(zhǎng)期來(lái)看會(huì)失敗。甚至在中期，它們也會(huì)失去市場(chǎng)份額?！盫alente表示。

這并不意味著GenAI應(yīng)立即全面推行。

“企業(yè)確實(shí)需要考慮一個(gè)‘剛剛好’的策略，”她說(shuō)，“對(duì)它們來(lái)說(shuō)，‘剛剛好’意味著要考慮它們的風(fēng)險(xiǎn)承受能力、風(fēng)險(xiǎn)管理的成熟度，以及GenAI的治理框架?！?/p>

保持AI遠(yuǎn)離公眾

企業(yè)在為面向公眾的項(xiàng)目采用GenAI時(shí)，應(yīng)格外謹(jǐn)慎。

自從ChatGPT于2022年末推出以來(lái)，許多公司因?yàn)檫^快部署AI而陷入困境。一家航空公司的聊天機(jī)器人給客戶提供了不應(yīng)有的折扣，法院裁定該公司負(fù)有責(zé)任。Google的AI建議用戶在披薩上涂膠水，以防止奶酪滑落。最近，馬斯克的Grok AI被發(fā)現(xiàn)散布選舉虛假信息，迫使五位州務(wù)卿向母公司X發(fā)出公開信，要求修復(fù)聊天機(jī)器人。

這類行為讓一些公司對(duì)公開使用GenAI變得謹(jǐn)慎。相反，它們將技術(shù)集中應(yīng)用于內(nèi)部運(yùn)營(yíng)，在這種環(huán)境中，即使出錯(cuò)也不會(huì)導(dǎo)致巨大的公關(guān)災(zāi)難，仍能產(chǎn)生有意義的影響。

例如，財(cái)富1000強(qiáng)科技咨詢公司Connection正在內(nèi)部使用GenAI進(jìn)行一些項(xiàng)目，例如利用Fisent的流程自動(dòng)化解決方案BizAI，將客戶采購(gòu)訂單與銷售記錄進(jìn)行對(duì)比，并建議是否應(yīng)批準(zhǔn)訂單。

Connection 使用 Pega Platform 來(lái)根據(jù)業(yè)務(wù)規(guī)則和邏輯智能管理公司多個(gè)領(lǐng)域的工作流程。隨著 BizAI 的加入，Connection 現(xiàn)在能夠?qū)㈥P(guān)鍵業(yè)務(wù)流程數(shù)字化并進(jìn)一步自動(dòng)化。

“我們每年會(huì)從許多沒有與我們電子集成的小型和中型企業(yè)收到大約 50000 到 60000 份不同的客戶采購(gòu)訂單。”Connection 的流程優(yōu)化與轉(zhuǎn)型高級(jí)總監(jiān) Jason Burns 說(shuō)道。

這些客戶可能會(huì)通過電子郵件附加 PDF、電子表格、圖像文件或其他類型的文檔，或者直接將采購(gòu)訂單粘貼在電子郵件正文中。

“在使用 AI 之前，這些訂單是人工審核的，人工將采購(gòu)訂單的硬拷貝與我們系統(tǒng)中的條目進(jìn)行比對(duì)?！彼f(shuō)。大約有十幾個(gè)人從事這項(xiàng)工作，訂單到達(dá)后到有人開始審核并做出決定的平均處理時(shí)間長(zhǎng)達(dá)四個(gè)小時(shí)，文件積壓是常見問題，而現(xiàn)在，GenAI進(jìn)行初步比較并給出建議，處理時(shí)間已經(jīng)縮短到了兩分鐘。

例如，GenAI可以幫助確定訂單是否是發(fā)給 Connection 的，有時(shí)客戶會(huì)錯(cuò)誤地將采購(gòu)訂單發(fā)給錯(cuò)誤的供應(yīng)商。GenAI還會(huì)檢查地址是否匹配，這一點(diǎn)對(duì)于早期的 AI 類型來(lái)說(shuō)較難實(shí)現(xiàn)。此外，GenAI還會(huì)將客戶對(duì)產(chǎn)品的描述與 Connection 內(nèi)部的 SKU 進(jìn)行匹配。

“我們的客戶不了解我們的內(nèi)部 SKU，”Burns 解釋道，“他們可能會(huì)以一種方式描述產(chǎn)品，而我們可能用另一種方式描述，AI 能夠非常有效地將它們關(guān)聯(lián)起來(lái)?！?/p>

他補(bǔ)充說(shuō)，AI 設(shè)置得比人類更加保守。如果有任何不明確的地方，它會(huì)自動(dòng)轉(zhuǎn)交給人工審核。由于 AI 僅處理提供給它的信息而不生成新內(nèi)容，因此發(fā)生“幻覺”的幾率也被降到了最低，它只是給出一個(gè)簡(jiǎn)單的建議。

“到目前為止，我們還沒有遇到過 AI 建議訂單進(jìn)入下一流程但被人工否決的情況?！盉urns 說(shuō)道。更常見的情況是 AI 停止了訂單處理，轉(zhuǎn)交給人工審核，而人工確認(rèn)可以繼續(xù)進(jìn)行?！拔覀儼l(fā)現(xiàn)它的可靠性超出了我們的預(yù)期，現(xiàn)在甚至考慮讓 AI 放寬標(biāo)準(zhǔn)，對(duì)文檔的批判性要求稍微減少一些?！?/p>

接下來(lái)，Connection 計(jì)劃在其他十幾個(gè)類似的內(nèi)部用例中部署生成式 AI，幫助進(jìn)行代碼生成、撰寫信件和總結(jié)會(huì)議內(nèi)容?！皾撛诘纳a(chǎn)力提升是顯著的，我們需要對(duì)此進(jìn)行深入探索?！盉urns 說(shuō)道。

然而，考慮到額外的風(fēng)險(xiǎn)，Connection 目前還沒有在面向客戶的場(chǎng)景中使用生成式 AI?！霸?AI 方面，風(fēng)險(xiǎn)容忍度是關(guān)鍵，”他說(shuō)，“我們認(rèn)識(shí)到其中蘊(yùn)含的巨大潛力，但我們的首要任務(wù)是客戶、他們的數(shù)據(jù)安全，以及提供卓越的成果。隨著技術(shù)的演進(jìn)，我們也將隨之發(fā)展?！?/p>

保持人類參與

擁有約 50000 名員工的業(yè)務(wù)流程外包公司 TaskUs 也將GenAI限制在公司內(nèi)部，該公司也專注于那些確保有人工介入以捕捉潛在問題的用例。

“我們不希望 AI 自行其是?！盩askUs 的 CIO Chandra Venkataramani 說(shuō)道。

該公司構(gòu)建了一個(gè)名為 TaskGPT 的內(nèi)部平臺(tái)，幫助員工為客戶提供支持，效率已經(jīng)提升了15%至35%。AI還開始用于內(nèi)部自動(dòng)化和其他提高生產(chǎn)力的用途。

以 Air Canada 為例：他們的聊天機(jī)器人承諾給客戶折扣，但公司后來(lái)拒絕了，最終被迫兌現(xiàn)，這成為了一個(gè)警示案例，表明面向公眾的AI存在多么大的風(fēng)險(xiǎn)，Venkataramani 說(shuō)道。相比之下，這些工具是用于幫助員工提供建議和推薦的。

“這樣，團(tuán)隊(duì)成員就可以控制AI的輸出，”他說(shuō)，“他們可以說(shuō)，‘這聽起來(lái)不對(duì)，我不會(huì)把它發(fā)給客戶。’人工干預(yù)非常重要。”因此，他推動(dòng)內(nèi)部團(tuán)隊(duì)更多地使用AI，但僅用于提高效率?！拔覀児膭?lì)客戶采用AI，但不會(huì)不加限制地使用它，”他補(bǔ)充道，“如果我們能在完全安全的前提下提升20%的效率，或者在不安全的情況下提升30%或40%的效率，我們會(huì)選擇20%的提升和安全性。安全和保障是我們的首要關(guān)切?！?/p>

事實(shí)上，許多AI問題可以通過人工監(jiān)督來(lái)避免。“AI有時(shí)會(huì)‘幻覺’， ”Champlain College 在線運(yùn)營(yíng)副總裁 Christa Montagnino 說(shuō)道，“AI的訓(xùn)練目的是取悅我們，但并不總是準(zhǔn)確的?！痹搶W(xué)院一直使用GenAI來(lái)幫助課程設(shè)計(jì)師和學(xué)科專家創(chuàng)建在線課程。過去，這個(gè)過程非常繁瑣，教師們通常沒有接受過教育設(shè)計(jì)的培訓(xùn)，必須與課程設(shè)計(jì)師配對(duì)合作。一個(gè)七周的課程通常需要約15周的時(shí)間來(lái)創(chuàng)建，但有了GenAI，時(shí)間減少了一半。

盡管如此，人工因素依然是流程中的關(guān)鍵部分?！拔覀儸F(xiàn)在從GenAI入手，然后讓學(xué)科專家與課程設(shè)計(jì)師合作，”她說(shuō)，“他們是這些信息的編輯者，負(fù)責(zé)篩選出對(duì)學(xué)生有意義的內(nèi)容以及需要加入的其他資源。”

她補(bǔ)充道，使用AI還減少了一些日常的行政任務(wù)和負(fù)擔(dān)，使教師能夠有更多時(shí)間與學(xué)生互動(dòng)。

然而，處理公司工傷的 Company Nurse 公司通過AI自動(dòng)化其質(zhì)量控制(QA)流程的經(jīng)歷卻是一個(gè)教訓(xùn)，該公司使用AI為客戶企業(yè)的員工提供醫(yī)療建議，護(hù)士們可以立即收到關(guān)于通話中所犯錯(cuò)誤的反饋。

“我們以為，如果能給員工更多關(guān)于他們錯(cuò)誤的反饋，他們就會(huì)犯更少的錯(cuò)誤。”該公司首席技術(shù)官 Henry Svendblad 說(shuō)道，但結(jié)果是護(hù)士們開始辭職，員工流失率從低于15%上升到30%以上，部分原因與疫情和大規(guī)模離職潮有關(guān)，但也有一部分是因?yàn)閱T工快速收到太多負(fù)面反饋。

“我們從員工那里聽到的強(qiáng)烈反饋是，告訴他們每次互動(dòng)中所犯的每一個(gè)錯(cuò)誤，并沒有帶來(lái)積極的工作滿意度，”他說(shuō)，“我們遇到過這樣的情況：新員工的設(shè)備還沒送到，他們就已經(jīng)不想要這份工作了。以前從未發(fā)生過這樣的情況?！?/p>

為了解決這個(gè)問題，TaskUs 公司重新引入了人工干預(yù)，聘請(qǐng)了一位人力發(fā)展經(jīng)理，開始關(guān)注護(hù)士們工作中的積極表現(xiàn)，而不僅僅是他們的不足?！拔覀円裁黠@減少了對(duì)QA自動(dòng)化的依賴?！彼f(shuō)。

避免敏感信息的使用

Champlain College 的 Montagnino 表示，該學(xué)院愿意使用GenAI來(lái)幫助開發(fā)課程內(nèi)容或營(yíng)銷材料，因?yàn)檫@不涉及讓AI接觸到敏感信息。

但在涉及學(xué)生數(shù)據(jù)的項(xiàng)目時(shí)，情況就不同了，Montagnino 說(shuō)道，所以這類項(xiàng)目將會(huì)推遲到后期進(jìn)行?！拔矣X得我們現(xiàn)在最好的機(jī)會(huì)在于產(chǎn)品開發(fā)和吸引未來(lái)的學(xué)生。”她補(bǔ)充道。

最近從 LabCorp 分拆出來(lái)的臨床試驗(yàn)公司 Fortrea 也非常謹(jǐn)慎地選擇那些隱私風(fēng)險(xiǎn)最小的項(xiàng)目?！拔覀冇芯薮蟮臋C(jī)會(huì)將臨床試驗(yàn)提升到新的水平，”CIO Alejandro Galindo 說(shuō)道，“我們最近啟動(dòng)了一個(gè)機(jī)器學(xué)習(xí)和AI工作室——這是我們用來(lái)推動(dòng)創(chuàng)新的一個(gè)領(lǐng)域?！?/p>

例如，F(xiàn)ortrea 正在為其技術(shù)棧部署微軟的 Copilot 助理工具?！八_始像野火一樣迅速傳播，因?yàn)槲覀冊(cè)诠緝?nèi)部取得了一些有趣的成果，”他說(shuō)，“這是我們正在為公司引入的一層智能化的工具。”

該公司已經(jīng)在收集請(qǐng)求提案信息的時(shí)間上減少了30%?！斑@給了我們極大的生產(chǎn)力提升，”他說(shuō)，“而且產(chǎn)品的質(zhì)量也比以前大大提高?！边@是因?yàn)锳I從多個(gè)孤立的數(shù)據(jù)源中提取信息，他解釋道，然而，作為一家醫(yī)療保健機(jī)構(gòu)，F(xiàn)ortrea 也必須對(duì)所部署的技術(shù)非常謹(jǐn)慎，以避免出現(xiàn)任何合規(guī)問題。

“我們必須在創(chuàng)新速度和合規(guī)性、安全性之間找到平衡，”他說(shuō)，“我們是快速跟隨者?！崩?，臨床試驗(yàn)的紙質(zhì)工作非常繁重，他補(bǔ)充道。當(dāng)臨床研究員去現(xiàn)場(chǎng)時(shí)，會(huì)有大量的信息可以收集，但是公司在選擇AI處理哪些信息時(shí)非常謹(jǐn)慎。

“我們需要隱私官的批準(zhǔn)，確保我們正在開發(fā)的項(xiàng)目是符合規(guī)定的，”他說(shuō)，“而我的首席安全官在我們選擇什么技術(shù)時(shí)有非常強(qiáng)的發(fā)言權(quán)?！?/p>

例如，未來(lái)可能會(huì)部署一些可以掃描文檔的技術(shù)，并使用過濾器確保不會(huì)意外泄露患者信息，但目前來(lái)說(shuō)，涉及臨床試驗(yàn)現(xiàn)場(chǎng)訪問時(shí)，公司專注于處理一些非敏感類型的信息，例如使用的物理設(shè)備。

“我們可以拍攝冰箱的照片，掃描維護(hù)的時(shí)間和設(shè)定的溫度，”他說(shuō)，“我們想確保設(shè)施中的所有條件都符合要求?！?/p>

為基礎(chǔ)工作留出時(shí)間

除了公共尷尬、客戶或員工的流失、法律和合規(guī)責(zé)任之外，過快推動(dòng)GenAI還存在其他更多的技術(shù)風(fēng)險(xiǎn)。

例如，那些在推出AI之前沒有做好充分準(zhǔn)備的公司，可能沒有建立合適的數(shù)據(jù)基礎(chǔ)或缺乏適當(dāng)?shù)陌踩Ｕ洗胧蛘咚麄兛赡苓^于倉(cāng)促地將全部信任放在單一供應(yīng)商身上。

“企業(yè)面臨的一個(gè)巨大風(fēng)險(xiǎn)是，可能會(huì)將自己鎖定在一項(xiàng)為期數(shù)年的開支或承諾中，而一兩年后才發(fā)現(xiàn)有更便宜、更好的解決方案?！盓Y Americas的GenAI負(fù)責(zé)人David Guarrera表示。有些企業(yè)在沒有考慮整體技術(shù)戰(zhàn)略的情況下，就匆忙跳進(jìn)了AI的應(yīng)用。

“很多地方現(xiàn)在的情況是，企業(yè)正在同時(shí)啟動(dòng)數(shù)十或數(shù)百個(gè)原型項(xiàng)目，”他解釋道，“可能技術(shù)部門開發(fā)了一個(gè)合同分析器，CFO辦公室又開發(fā)了一個(gè)，而他們甚至彼此不了解。結(jié)果是，我們可能生成了大量原型，但它們沒有明確的應(yīng)用方向，最后都被擱置了?！?/p>

還有一個(gè)問題就是資金的浪費(fèi)?！凹僭O(shè)一個(gè)企業(yè)因?yàn)楹ε洛e(cuò)過機(jī)會(huì)(FOMO)，不問清是否真的需要，就購(gòu)買了一堆GPU，”他說(shuō)，“這種投資可能會(huì)導(dǎo)致企業(yè)無(wú)法專注于數(shù)據(jù)領(lǐng)域真正需要的東西，或許你真正需要的是更好的數(shù)據(jù)治理或數(shù)據(jù)清理?！?/p>

急于推出試點(diǎn)項(xiàng)目并倉(cāng)促做出開支決策的背后，是企業(yè)因恐慌而想盡快掌握GenAI，然而，他補(bǔ)充道：“實(shí)際上，有很多方法可以采用這種技術(shù)，從而減少未來(lái)的遺憾?！?/p>

“快速行動(dòng)并打破常規(guī)”這個(gè)口號(hào)也許適合小型初創(chuàng)企業(yè)，但對(duì)大型企業(yè)來(lái)說(shuō)并不適用。“你不希望把數(shù)十億美元和市場(chǎng)置于風(fēng)險(xiǎn)之中?！盙uarrera說(shuō)道。