OpenAI最近宣布的定制ChatGPT版本使每個(gè)企業(yè)更容易以更多的方式使用GenAI，但有時(shí)最好不要這樣做。大西洋兩岸在幾周內(nèi)舉行了兩次AI安全峰會(huì)，對(duì)AI的潛在危險(xiǎn)提出了質(zhì)疑，但無(wú)論是虛構(gòu)的殺手機(jī)器人的科學(xué)威脅，還是關(guān)于哪些AI模型可能受到監(jiān)管的奇怪的具體指導(dǎo)方針，似乎都不會(huì)對(duì)努力利用現(xiàn)有大量GenAI工具的企業(yè)特別有幫助。

對(duì)GenAI最強(qiáng)烈的抱怨來(lái)自作家和藝術(shù)家，他們對(duì)自己的作品未經(jīng)許可被用來(lái)訓(xùn)練大型語(yǔ)言模型感到不滿。11月初，好萊塢長(zhǎng)達(dá)數(shù)月的編劇和演員罷工達(dá)成和解，要求制片廠做出讓步，限制AI工具取代人類編劇和表演者的方式，但即使是創(chuàng)意產(chǎn)業(yè)以外的企業(yè)也需要謹(jǐn)慎使用GenAI，這可能會(huì)以令人尷尬的方式適得其反，并可能使它們面臨法律訴訟。

許多企業(yè)將版權(quán)列為一個(gè)令人擔(dān)憂的領(lǐng)域(聯(lián)邦貿(mào)易委員會(huì)似乎也同意這一點(diǎn));提交一份看起來(lái)像是從競(jìng)爭(zhēng)對(duì)手那里復(fù)制粘貼的商業(yè)計(jì)劃可能會(huì)有問題，但這并不是你可能遇到的唯一問題。

對(duì)聲譽(yù)的損害

微軟最近與《衛(wèi)報(bào)》合作的經(jīng)歷是一個(gè)教科書般的例子，說明了不應(yīng)該使用具有創(chuàng)造力的AI。《衛(wèi)報(bào)》聲稱，微軟的AI新聞系統(tǒng)自動(dòng)生成了一份不敏感的民意調(diào)查，邀請(qǐng)讀者猜測(cè)一名女性的死亡，并將其插入新聞故事中間，這導(dǎo)致了這家科技企業(yè)造成了“嚴(yán)重的聲譽(yù)損害”。

但這并不是必應(yīng)的AI新聞第一次在敏感新聞故事中添加可疑的民意調(diào)查，同樣的AI工具還創(chuàng)建了其他民意調(diào)查，詢問拒絕殺死一名后來(lái)被槍殺的女性是正確還是錯(cuò)誤的決定，在國(guó)家公園發(fā)現(xiàn)的人類遺骸是否得到了正確的識(shí)別，在火災(zāi)中失去50所房屋的地區(qū)的人們是否真的需要遵循緊急疏散建議，以及讀者是否會(huì)因?yàn)闉槠渌麅和療齻芎φ呋I集資金而對(duì)兩名兒童在火災(zāi)中死亡感到“希望和支持”。

由AI驅(qū)動(dòng)的必應(yīng)聊天中的廣告還包括惡意軟件的鏈接，微軟的AI工具建議前往渥太華的游客在一家食品銀行用餐，突出顯示包括拜登總統(tǒng)在內(nèi)的一些鮮為人知的網(wǎng)站上關(guān)于政客的假新聞，并嚴(yán)重混淆了一個(gè)新聞故事的細(xì)節(jié)，以至于它暗示一名女演員襲擊了一名體育教練，而實(shí)際上被指控虐待一匹馬的是這名教練。

與之前像ChatGPT這樣的GenAI模型犯下的高調(diào)錯(cuò)誤不同的是，律師和醫(yī)療專業(yè)人員在很大程度上至少有機(jī)會(huì)在繼續(xù)進(jìn)行之前檢查結(jié)果，但這些衛(wèi)報(bào)的民意調(diào)查似乎是在微軟的資產(chǎn)上發(fā)布的，有數(shù)百萬(wàn)訪問者通過自動(dòng)化系統(tǒng)發(fā)布，無(wú)需人工批準(zhǔn)。

微軟稱這項(xiàng)調(diào)查是一個(gè)錯(cuò)誤，并承諾進(jìn)行調(diào)查，但它似乎已經(jīng)明顯違反了該企業(yè)自己關(guān)于負(fù)責(zé)任的AI使用的幾項(xiàng)原則，例如告知人們他們正在與AI系統(tǒng)交互，以及人與AI交互的指導(dǎo)方針，該企業(yè)向Azure OpenAI客戶提供的建議告誡稱，不要制作“任何主題的內(nèi)容”，也不要在“最新、事實(shí)準(zhǔn)確的信息至關(guān)重要的情況下”使用它，這可能包括新聞網(wǎng)站。

過度使用AI

更廣泛地說，Azure OpenAI的全面透明度說明有助于警告該服務(wù)可能會(huì)產(chǎn)生不適當(dāng)或攻擊性的內(nèi)容，以及不相關(guān)、虛假或歪曲可信數(shù)據(jù)的響應(yīng)，他們列出了幾種需要避免的情況——政治競(jìng)選和高度敏感的事件，在這些情況下，使用或?yàn)E用可能會(huì)對(duì)人生機(jī)會(huì)或法律地位產(chǎn)生影響——以及其他需要謹(jǐn)慎的情況，比如醫(yī)療、教育、金融和法律等高風(fēng)險(xiǎn)領(lǐng)域，但限制在特定領(lǐng)域的問題不太可能產(chǎn)生更長(zhǎng)的、有問題的回答，而不是開放式的、不受限制的問題。

微軟拒絕指出它認(rèn)為GenAI在哪些領(lǐng)域是不合適的，而是提供了一份客戶正在取得成功的領(lǐng)域的清單：創(chuàng)建內(nèi)容、總結(jié)或改進(jìn)語(yǔ)言、代碼生成和語(yǔ)義搜索，但該企業(yè)的一位發(fā)言人確實(shí)表示：“在我們的世界里，我們的AI已經(jīng)變得非常強(qiáng)大，它可以做令人驚嘆的事情。然而，至關(guān)重要的是要明白，這項(xiàng)技術(shù)是一段旅程，有很大的增長(zhǎng)和發(fā)展空間，這一區(qū)別至關(guān)重要?！?/p>

并不是所有GenAI客戶都明白這一點(diǎn)，由GenAI創(chuàng)造的令人困惑和糟糕的內(nèi)容已經(jīng)出現(xiàn)在商業(yè)環(huán)境中，會(huì)議傳記、博客文章和幻燈片可能聽起來(lái)令人印象深刻，但被本應(yīng)更了解情況的經(jīng)理簽署是沒有意義的。越來(lái)越多的專業(yè)作家和安全教育工作者提交了此類內(nèi)容，并輔之以AI圖像，比如手指數(shù)量驚人的人。這種空洞的胡言亂語(yǔ)可能會(huì)變得令人不安地常見，企業(yè)有責(zé)任保持警惕，因?yàn)槁曌u(yù)岌岌可危。

麻木不仁的評(píng)論在內(nèi)部也同樣不合適，民意調(diào)查和測(cè)驗(yàn)讓冗長(zhǎng)的會(huì)議和團(tuán)隊(duì)聊天變得活躍起來(lái)，讓富有創(chuàng)造力的AI根據(jù)人們一直在談?wù)摰臇|西來(lái)創(chuàng)造它們是很有誘惑力的，例如，如果有人分享了家庭疾病或丟失寵物的細(xì)節(jié)，這可能會(huì)出現(xiàn)嚴(yán)重的錯(cuò)誤。

行業(yè)情報(bào)平臺(tái)GlobalData負(fù)責(zé)顛覆性技術(shù)的副項(xiàng)目經(jīng)理Saurabh Daga指出：“GenAI通常不適合同理心、道德判斷和對(duì)人類細(xì)微差別的深入理解至關(guān)重要的環(huán)境?！彼谐龅拿舾蓄I(lǐng)域清單類似于微軟的指導(dǎo)方針：“高風(fēng)險(xiǎn)的決策可能會(huì)產(chǎn)生重大的法律、財(cái)務(wù)或健康相關(guān)后果，可能不適合AI?！?/p>

在多模式模型上做了更多的工作之前，重要的是要謹(jǐn)慎對(duì)待在任何情況下混合文本和圖像的GenAI，因?yàn)殄e(cuò)誤的標(biāo)題可能會(huì)將完全可以接受的圖片變成令人反感的東西，而且圖像生成模型很容易假設(shè)所有護(hù)士都是女性，所有CEO都是男性。

戴爾技術(shù)企業(yè)高級(jí)AI戰(zhàn)略副總裁馬特·貝克警告說：“尤其是GenAI正在放大以前存在但沒有得到全心全意解決的問題。”戴爾技術(shù)企業(yè)提供服務(wù)，幫助客戶使用Microsoft 365 Copilot或Llama2等開放獲取模型構(gòu)建AI系統(tǒng)?！耙粤鞒毯凸ぷ髁鞒虨槔谌肆Y源和招聘等領(lǐng)域，算法偏差可能成為一個(gè)因素。企業(yè)需要誠(chéng)實(shí)地審視他們的衛(wèi)生狀況、優(yōu)先事項(xiàng)和數(shù)據(jù)敏感性，以確保他們將GenAI工具插入到他們獲得最大回報(bào)和將風(fēng)險(xiǎn)降至最低的領(lǐng)域?！?/p>

假設(shè)AI總是正確的

盡管GenAI工具令人印象深刻，但它們本質(zhì)上是概率論的，這意味著他們經(jīng)常會(huì)犯錯(cuò)，危險(xiǎn)在于他們產(chǎn)生的東西可能是不準(zhǔn)確的、不公平的或冒犯的——但措辭如此自信和令人信服，以至于它溜走了。

關(guān)鍵是不要期待一個(gè)你可以立即使用的結(jié)果，并警惕地認(rèn)識(shí)到GenAI可能是有用的錯(cuò)誤的方式，把它當(dāng)作一場(chǎng)頭腦風(fēng)暴式的討論，激發(fā)新的想法，而不是什么能為你帶來(lái)完美想法的東西。

這就是為什么微軟的大多數(shù)GenAI工具都采用了Copilot，而不是Autopilot，首席執(zhí)行官薩蒂亞·納德拉在今年夏天的Inspire大會(huì)上表示：“這是為了讓人類進(jìn)入循環(huán)，并以這樣一種方式設(shè)計(jì)它，即人類始終控制著一名強(qiáng)大的副駕駛，并幫助他們完成每項(xiàng)任務(wù)。”學(xué)會(huì)嘗試提示以獲得更好的結(jié)果是采用GenAI的關(guān)鍵部分，因此像Copilot Lab這樣的工具可以幫助員工獲得這些技能。

同樣，與其試圖自動(dòng)化流程，不如為你自己的GenAI工具創(chuàng)建工作流，以鼓勵(lì)員工試驗(yàn)和評(píng)估AI產(chǎn)生的結(jié)果。記住，審查AI建議的人將擁有關(guān)于情況的哪些信息 - 以及他們有什么動(dòng)機(jī)來(lái)審查結(jié)果并檢查任何引用的來(lái)源，而不是通過接受第一個(gè)選項(xiàng)來(lái)節(jié)省時(shí)間，而不是在沒有確保其準(zhǔn)確性和適當(dāng)性的情況下接受第一個(gè)選項(xiàng)。

用戶需要足夠好地理解他們從GenAI那里接受的建議和決定，以便知道后果可能是什么，并向其他人證明這些建議和決定是合理的。英國(guó)信息專員辦公室警告說：“如果你的企業(yè)不解釋AI輔助的決定，它可能面臨監(jiān)管行動(dòng)、聲譽(yù)損害和公眾的脫離?！?/p>

每次提供多種選擇，并展示如何解釋建議，以及使用提示來(lái)指示大語(yǔ)言模型解釋為什么它會(huì)給出特定的回答，這都會(huì)有所幫助。除了讓富有創(chuàng)造力的AI引用關(guān)鍵信息的來(lái)源外，還應(yīng)考慮如何突出顯示需要仔細(xì)檢查的重要元素，如日期、統(tǒng)計(jì)數(shù)據(jù)、政策或所依賴的先例。

但歸根結(jié)底，這是為了建立一種文化，在這種文化中，GenAI被視為一種有用的工具，仍然需要得到驗(yàn)證，而不是取代人類的創(chuàng)造力或判斷力。

Daga指出：“GenAI或任何其他形式的AI應(yīng)該被用來(lái)增強(qiáng)人類的決策能力，而不是在其局限性可能造成傷害的環(huán)境中取代它。人類審查員應(yīng)該接受培訓(xùn)，對(duì)AI的輸出進(jìn)行批判性評(píng)估，而不僅僅是表面上的接受?！?/p>

除了一個(gè)包括人工審查、鼓勵(lì)對(duì)AI建議進(jìn)行實(shí)驗(yàn)和徹底評(píng)估的過程之外，還需要設(shè)置護(hù)欄，以阻止任務(wù)在不合適的時(shí)候完全自動(dòng)化?！袄?，AI可能會(huì)生成企業(yè)的新聞發(fā)布會(huì)，但只有人類編輯才能批準(zhǔn)與選定的記者和出版物分享內(nèi)容?！八a(bǔ)充道。

無(wú)論是探索新的代碼庫(kù)、填充樣板代碼、自動(dòng)完成函數(shù)，還是生成單元測(cè)試，GenAI當(dāng)然也可以使開發(fā)人員更有效率，你可以利用這種額外的生產(chǎn)力，但仍然可以決定在沒有人工審查的情況下不會(huì)將代碼發(fā)布到生產(chǎn)環(huán)境中。

企業(yè)對(duì)自己選擇的后果負(fù)責(zé)，包括在不合適的領(lǐng)域部署AI，科羅拉多州咨詢企業(yè)Sagable的全球首席技術(shù)官兼創(chuàng)始人安迪·曼表示?！翱蛻舨粫?huì)僅僅因?yàn)椤@是我們AI的錯(cuò)’就讓你擺脫數(shù)據(jù)泄露的責(zé)任?！?/p>

隱藏的AI

確保負(fù)責(zé)任地使用該系統(tǒng)至關(guān)重要，無(wú)論是由員工還是客戶使用，而透明度是其中的重要組成部分。令人尷尬的是，許多出版物使用AI生成的內(nèi)容，這些內(nèi)容很容易被發(fā)現(xiàn)，因?yàn)樗馁|(zhì)量很差，但你應(yīng)該清楚，即使是高質(zhì)量的內(nèi)容也是由AI系統(tǒng)產(chǎn)生的，無(wú)論是內(nèi)部會(huì)議摘要、營(yíng)銷信息，還是聊天機(jī)器人的回應(yīng)。為聊天機(jī)器人等自動(dòng)化系統(tǒng)提供“出口”，允許用戶將問題上報(bào)給真人。

Daga說：“客戶應(yīng)該可以選擇退出與GenAI的互動(dòng)，特別是在敏感領(lǐng)域。”

假設(shè)AI可以解決所有問題

隨著GenAI在商業(yè)中的使用增加，人們也意識(shí)到，人們需要使用自己的判斷來(lái)判斷AI所暗示的東西。在去年的DevOps自動(dòng)化狀況報(bào)告中，10名IT員工中有8人這樣認(rèn)為，在2023年的DevOps自動(dòng)化和AI研究中，這一比例高達(dá)90%多一點(diǎn)。

Mann說，這種謹(jǐn)慎是合理的，特別是在可用于生成可預(yù)測(cè)、期望和可驗(yàn)證的輸出的特定領(lǐng)域培訓(xùn)數(shù)據(jù)有限的情況下，例如在IT運(yùn)營(yíng)中，因?yàn)榕嘤?xùn)數(shù)據(jù)不足，它容易產(chǎn)生不準(zhǔn)確的結(jié)果。

他警告說：“對(duì)于任何處理新問題和未知原因的用例來(lái)說，缺少或沒有記錄的知識(shí)，GenAI的意義都會(huì)降低。如果未公開的人類部落知識(shí)是你唯一的潛在投入，那么訓(xùn)練大語(yǔ)言模型是不可能的?！?/p>

不過，他確實(shí)看到了將GenAI作為助手的機(jī)會(huì)。他說：“它可以成為一名顧問或積極的專家，通過訓(xùn)練引擎來(lái)了解跨已定義學(xué)科和知識(shí)存儲(chǔ)的‘已知良好’IT操作是什么樣子，并識(shí)別已知問題、診斷已知原因、確定已知的低效，并以已知的補(bǔ)救措施進(jìn)行響應(yīng)?！钡?，盡管一些看似新的IT問題可以通過熟悉的流程和解決方案來(lái)解決，但事先還不清楚哪些是新的。

“我們知道AI世代幾乎從來(lái)不會(huì)說自己不知道什么，相反，當(dāng)你試圖讓它解決‘未知未知’時(shí)，它會(huì)拋出誤導(dǎo)性的、虛假的、錯(cuò)誤的、甚至惡意的結(jié)果?！甭髡f。

為人類創(chuàng)造更多的工作

當(dāng)然，GenAI產(chǎn)生的內(nèi)容可能會(huì)有所幫助，但因?yàn)樗苋菀讋?chuàng)建，它最終也會(huì)為那些需要審查它并根據(jù)它采取行動(dòng)的人做更多的工作。

小說雜志報(bào)告說，收到了如此多低質(zhì)量的AI編寫的故事，以至于這實(shí)際上是一次拒絕服務(wù)攻擊。出版商一直在試驗(yàn)使用AI來(lái)復(fù)制編輯手稿，但作家和編輯都報(bào)告說，建議的編輯往往沒有幫助、無(wú)關(guān)，或者只是純粹的錯(cuò)誤——首先，會(huì)遇到技術(shù)術(shù)語(yǔ)、行文風(fēng)格、復(fù)雜的句子結(jié)構(gòu)以及正確但不尋常的用字方面的問題。當(dāng)你評(píng)估GenAI實(shí)際上能夠在哪些領(lǐng)域做出貢獻(xiàn)時(shí)，要誠(chéng)實(shí)。

采用任何AI工具的一個(gè)關(guān)鍵部分是有一個(gè)處理錯(cuò)誤的過程，而不是每次單獨(dú)糾正它們。不要假設(shè)GenAI會(huì)從錯(cuò)誤中學(xué)習(xí)，或者每次都會(huì)給你相同的結(jié)果。如果這很重要，你需要使用即時(shí)工程和過濾器來(lái)約束最重要領(lǐng)域的結(jié)果。

也要準(zhǔn)備好在你沒有計(jì)劃的領(lǐng)域和過程中使用GenAI，在那里它可能不那么準(zhǔn)確。再說一次，透明度是關(guān)鍵。員工需要知道企業(yè)關(guān)于他們何時(shí)可以使用GenAI以及如何披露他們正在使用它的政策。你可能還想像在企業(yè)聊天系統(tǒng)中一樣，在審計(jì)和eDiscovery中包含GenAI使用。

企業(yè)可能需要更緊迫地開始制定這些政策。在TECHnanalysis Research于2023年春季調(diào)查的1000家美國(guó)企業(yè)中，88%的企業(yè)已經(jīng)在使用GenAI，但在這些早期采用者中，只有7%有正式的政策。

在IDC最近一項(xiàng)關(guān)于AI機(jī)會(huì)的研究中，超過25%的商業(yè)領(lǐng)袖表示，缺乏AI治理和風(fēng)險(xiǎn)管理是實(shí)施和擴(kuò)展這項(xiàng)技術(shù)的挑戰(zhàn)。最初的擔(dān)憂是企業(yè)數(shù)據(jù)的保密性，但聲譽(yù)損害也應(yīng)該是優(yōu)先事項(xiàng)。此外，超過一半的人稱缺乏熟練工人是他們最大的障礙，這通常指的是開發(fā)人員和數(shù)據(jù)工程師，但技術(shù)含量較低的商業(yè)用戶也將需要技能，以仔細(xì)構(gòu)建他們向AI工具提出的問題，并評(píng)估和驗(yàn)證結(jié)果。