Gartner法律與合規(guī)實踐部門高級主管分析師Ron Friedmann表示，“ChatGPT和其他大型語言模型(LLM)工具生成的輸出容易存在一些風(fēng)險。法律和合規(guī)領(lǐng)導(dǎo)者應(yīng)該評估這些問題是否對企業(yè)構(gòu)成重大風(fēng)險，以及在企業(yè)內(nèi)部及其擴展的第三方企業(yè)中需要采取哪些控制措施。如果不這樣做，企業(yè)可能會面臨法律、聲譽和財務(wù)方面的后果?！?/p>
法律和合規(guī)負責(zé)人應(yīng)該評估的六個ChatGPT風(fēng)險包括：
1、捏造的和不準(zhǔn)確的答案也許ChatGPT和其他LLM工具最常見的問題是傾向于提供不正確的信息(盡管表面上看似合理)。
(資料圖片僅供參考)
Friedmann稱，“ChatGPT也容易產(chǎn)生‘幻覺’，包括捏造錯誤的答案，以及不存在的法律或科學(xué)引用。法律和合規(guī)領(lǐng)導(dǎo)者應(yīng)該發(fā)布指導(dǎo)，要求員工在接受ChatGPT生成的任何輸出之前，審查其準(zhǔn)確性、適當(dāng)性和有效性。”
2、數(shù)據(jù)隱私及保密法律和合規(guī)負責(zé)人應(yīng)該意識到，如果聊天歷史沒有被禁用，輸入ChatGPT的任何信息都可能成為其訓(xùn)練數(shù)據(jù)集的一部分。
Friedmann解釋稱，“在提示中使用的敏感、專有或機密信息都可能會被納入企業(yè)外用戶的回復(fù)中。法律和合規(guī)部門需要為ChatGPT的使用建立一個合規(guī)框架，并明確禁止將敏感的企業(yè)或個人數(shù)據(jù)輸入公共LLM工具?！?/p>3、模型和輸出偏見
盡管OpenAI努力減少ChatGPT中的偏見和歧視，但已知的這些問題已經(jīng)發(fā)生，并且可能會持續(xù)存在，盡管OpenAI和其他企業(yè)正在積極努力地將這些風(fēng)險降到最低。
Friedmann認為，“完全消除偏見幾乎是不可能的，法律和合規(guī)需要凌駕于管理人工智能偏見的法律之上，并確保他們的指導(dǎo)是合規(guī)的。這可能涉及與主題專家合作，以確保輸出的可靠性，并與審計和技術(shù)部門合作，以設(shè)置數(shù)據(jù)質(zhì)量控制?！?/p>4、知識產(chǎn)權(quán)(IP)和版權(quán)風(fēng)險
考慮到ChatGPT是在大量的互聯(lián)網(wǎng)數(shù)據(jù)上訓(xùn)練的，這些數(shù)據(jù)可能包括受版權(quán)保護的信息。因此，它的輸出有可能違反版權(quán)或知識產(chǎn)權(quán)保護法案。
Friedmann稱，“ChatGPT不提供源代碼參考或解釋其輸出是如何生成的。法律和合規(guī)負責(zé)人應(yīng)該密切關(guān)注適用于ChatGPT輸出的版權(quán)法的任何變化，并要求用戶仔細檢查他們生成的任何輸出，以確保它不侵犯版權(quán)或知識產(chǎn)權(quán)?！?/p>5、網(wǎng)絡(luò)欺詐風(fēng)險
惡意行為者已經(jīng)在大規(guī)模地濫用ChatGPT來生成虛假信息，例如，虛假評論。
此外，使用LLM模型的應(yīng)用程序，包括ChatGPT，也容易受到提示注入的影響，這是一種黑客技術(shù)，使用惡意的對抗性提示來欺騙模型執(zhí)行它不打算執(zhí)行的任務(wù)，例如編寫惡意軟件代碼或開發(fā)假冒知名網(wǎng)站的網(wǎng)絡(luò)釣魚網(wǎng)站。
Friedmann補充道，“法律和合規(guī)負責(zé)人應(yīng)與網(wǎng)絡(luò)風(fēng)險所有者協(xié)調(diào)，探討是否或何時就這一問題向公司網(wǎng)絡(luò)安全人員發(fā)出備忘錄。他們還應(yīng)該對盡職調(diào)查來源進行審計，以核實其信息的質(zhì)量。”
6、消費者保護風(fēng)險未能向消費者披露ChatGPT使用情況的企業(yè)(例如，以客戶支持聊天機器人的形式)可能面臨失去客戶信任的風(fēng)險，并在不同法律下被指控為“不公平”的做法。
例如，加州的聊天機器人法規(guī)定，在某些消費者互動中，企業(yè)必須清楚而明顯地披露消費者正在與機器人進行交流。
Friedmann總結(jié)道，“法律和合規(guī)負責(zé)人需要確保他們企業(yè)的ChatGPT使用符合所有相關(guān)法規(guī)和法律，并向客戶進行適當(dāng)?shù)呐??！?/p>
標(biāo)簽：
