Gartner法律與合規(guī)實踐部門高級主管分析師Ron Friedmann表示，“ChatGPT和其他大型語言模型(LLM)工具生成的輸出容易存在一些風險。法律和合規(guī)領導者應該評估這些問題是否對企業(yè)構成重大風險，以及在企業(yè)內部及其擴展的第三方企業(yè)中需要采取哪些控制措施。如果不這樣做，企業(yè)可能會面臨法律、聲譽和財務方面的后果?！?/p>
法律和合規(guī)負責人應該評估的六個ChatGPT風險包括：
1、捏造的和不準確的答案也許ChatGPT和其他LLM工具最常見的問題是傾向于提供不正確的信息(盡管表面上看似合理)。
(資料圖片僅供參考)
Friedmann稱，“ChatGPT也容易產(chǎn)生‘幻覺’，包括捏造錯誤的答案，以及不存在的法律或科學引用。法律和合規(guī)領導者應該發(fā)布指導，要求員工在接受ChatGPT生成的任何輸出之前，審查其準確性、適當性和有效性?！?/p>2、數(shù)據(jù)隱私及保密
法律和合規(guī)負責人應該意識到，如果聊天歷史沒有被禁用，輸入ChatGPT的任何信息都可能成為其訓練數(shù)據(jù)集的一部分。
Friedmann解釋稱，“在提示中使用的敏感、專有或機密信息都可能會被納入企業(yè)外用戶的回復中。法律和合規(guī)部門需要為ChatGPT的使用建立一個合規(guī)框架，并明確禁止將敏感的企業(yè)或個人數(shù)據(jù)輸入公共LLM工具。”
3、模型和輸出偏見盡管OpenAI努力減少ChatGPT中的偏見和歧視，但已知的這些問題已經(jīng)發(fā)生，并且可能會持續(xù)存在，盡管OpenAI和其他企業(yè)正在積極努力地將這些風險降到最低。
Friedmann認為，“完全消除偏見幾乎是不可能的，法律和合規(guī)需要凌駕于管理人工智能偏見的法律之上，并確保他們的指導是合規(guī)的。這可能涉及與主題專家合作，以確保輸出的可靠性，并與審計和技術部門合作，以設置數(shù)據(jù)質量控制?！?/p>4、知識產(chǎn)權(IP)和版權風險
考慮到ChatGPT是在大量的互聯(lián)網(wǎng)數(shù)據(jù)上訓練的，這些數(shù)據(jù)可能包括受版權保護的信息。因此，它的輸出有可能違反版權或知識產(chǎn)權保護法案。
Friedmann稱，“ChatGPT不提供源代碼參考或解釋其輸出是如何生成的。法律和合規(guī)負責人應該密切關注適用于ChatGPT輸出的版權法的任何變化，并要求用戶仔細檢查他們生成的任何輸出，以確保它不侵犯版權或知識產(chǎn)權?！?/p>5、網(wǎng)絡欺詐風險
惡意行為者已經(jīng)在大規(guī)模地濫用ChatGPT來生成虛假信息，例如，虛假評論。
此外，使用LLM模型的應用程序，包括ChatGPT，也容易受到提示注入的影響，這是一種黑客技術，使用惡意的對抗性提示來欺騙模型執(zhí)行它不打算執(zhí)行的任務，例如編寫惡意軟件代碼或開發(fā)假冒知名網(wǎng)站的網(wǎng)絡釣魚網(wǎng)站。
Friedmann補充道，“法律和合規(guī)負責人應與網(wǎng)絡風險所有者協(xié)調，探討是否或何時就這一問題向公司網(wǎng)絡安全人員發(fā)出備忘錄。他們還應該對盡職調查來源進行審計，以核實其信息的質量?！?/p>6、消費者保護風險
未能向消費者披露ChatGPT使用情況的企業(yè)(例如，以客戶支持聊天機器人的形式)可能面臨失去客戶信任的風險，并在不同法律下被指控為“不公平”的做法。
例如，加州的聊天機器人法規(guī)定，在某些消費者互動中，企業(yè)必須清楚而明顯地披露消費者正在與機器人進行交流。
Friedmann總結道，“法律和合規(guī)負責人需要確保他們企業(yè)的ChatGPT使用符合所有相關法規(guī)和法律，并向客戶進行適當?shù)呐丁！?/p>
標簽：
