“你突然就到了這樣一個階段，即所有這些不同的細微差別都需要在治理計劃中得以體現(xiàn)，這真的很難，”德普律師事務(wù)所數(shù)據(jù)戰(zhàn)略與安全團隊以及白領(lǐng)和監(jiān)管辯護小組的助理律師瑪莎·赫斯特在國際隱私專業(yè)人士協(xié)會(IAPP)全球隱私峰會的一次小組討論會上說。

上周的活動期間，小組討論者們表示，企業(yè)應(yīng)致力于創(chuàng)建流程和治理機制，在控制AI風(fēng)險的同時推動創(chuàng)新。

以下是CIO在規(guī)劃和推進AI項目時應(yīng)考慮的四個具有法律影響的問題：

1. 這個AI用例是否屬于高風(fēng)險?

如果AI用例涉及關(guān)鍵基礎(chǔ)設(shè)施、就業(yè)機會或生物識別信息，則通常被視為高風(fēng)險。企業(yè)可能已經(jīng)在不知不覺中使用了這類用例，例如在人力資源職能中。

“公司在使用傳統(tǒng)招聘流程方面正舉步維艱，”葛蘭素史克(GSK)全球人力資源隱私、數(shù)字化和風(fēng)險主管辛西婭·比爾布羅在一次小組討論會上說，她指的是開放職位的申請激增。

如果企業(yè)領(lǐng)導(dǎo)者使用AI來篩選申請，那么企業(yè)可能會違法。AI產(chǎn)生的結(jié)果可能包含偏見，這可能會使企業(yè)不遵守現(xiàn)有的反歧視法律。

如果企業(yè)領(lǐng)導(dǎo)者計劃推進高風(fēng)險用例，那么企業(yè)將需要采取額外的預(yù)防措施。決策者還應(yīng)該熟悉要求對自動化決策設(shè)置護欄的法律，以避免罰款和其他后果。

2. 這個工具將在哪個司法管轄區(qū)使用?

確保遵守現(xiàn)行規(guī)則和法規(guī)要求企業(yè)確切了解AI工具的使用地點。不同司法管轄區(qū)的法律各不相同。

“已經(jīng)有140項隱私法律了，”IBM副總裁兼首席隱私和負責(zé)任的技術(shù)官克里斯蒂娜·蒙哥馬利在一次小組討論會上說，“我們有《歐盟AI法案》(EU AI Act)。幾乎每個司法管轄區(qū)目前都在對AI進行監(jiān)管?！?/p>

一些企業(yè)正在通過努力遵守最高標(biāo)準(zhǔn)來應(yīng)對不同的監(jiān)管方法。

“孤立的方法……已經(jīng)不再適用了，”福特汽車公司高級隱私法律顧問斯蒂芬妮·韋斯特菲爾德在一次小組討論會上說，“現(xiàn)在是時候思考如何與全球方法保持一致，并找到最高標(biāo)準(zhǔn)了?！?/p>

3. 數(shù)據(jù)是如何使用的——以及數(shù)據(jù)來自哪里?

優(yōu)質(zhì)數(shù)據(jù)能夠提高AI的質(zhì)量，但各企業(yè)對于希望其AI系統(tǒng)接受什么樣的訓(xùn)練以及允許員工輸入什么內(nèi)容有不同的接受程度。

溫迪公司全球數(shù)據(jù)保護、隱私和風(fēng)險主管布里奇特·蓋耶說，每個項目在開始之前都要經(jīng)過風(fēng)險審查流程。作為初步評估的一部分，團隊會考慮使用真實數(shù)據(jù)還是合成數(shù)據(jù)，蓋耶說。

合成數(shù)據(jù)不包含實際的個人身份信息，這使企業(yè)更接近于遵守隱私法律，如《歐洲聯(lián)盟通用數(shù)據(jù)保護條例》(General Data Protection Regulation)。如果操作正確，使用合成數(shù)據(jù)還可以減少真實世界數(shù)據(jù)集中存在的歷史偏見。

企業(yè)還可以從數(shù)據(jù)映射練習(xí)中受益。

“要有條理，”維斯塔公司AI、隱私和網(wǎng)絡(luò)安全法律顧問安布爾·科爾多瓦在一次小組討論會上說，“數(shù)據(jù)映射是沒人想做但又很重要且值得投入資源去做的事情。”

4. 是自主構(gòu)建還是購買?

多位專家在上周的國際隱私專業(yè)人士協(xié)會活動上表示，管理第三方風(fēng)險的重要性不言而喻。

技術(shù)領(lǐng)導(dǎo)者應(yīng)該了解第三方組織計劃如何使用輸入到其系統(tǒng)中的信息，以及設(shè)置了哪些護欄來限制偏見、降低風(fēng)險并促進負責(zé)任的實踐。

通常，企業(yè)希望將風(fēng)險管理推進到主要供應(yīng)商提供的版權(quán)賠償?shù)葮?biāo)準(zhǔn)合同條款之外的范圍。

小組討論者們談到了從供應(yīng)商那里在合同上要求額外的信息以及對潛在的AI事故進行保護。CIO可以在談判過程中依靠他們的隱私同行來找出可以避免的風(fēng)險。