使用 OpenAI 模型

截至目前，可通過(guò)兩種方法訪問(wèn)和使用 OpenAI 模型：

1. Web 用戶(hù)界面——用于使用 ChatGPT、DALLE-2 或 OpenAI Playground。
2. API——用于構(gòu)建應(yīng)用、流程等。你可以使用自己的用戶(hù)界面，在后臺(tái)運(yùn)行 OpenAI 模型和數(shù)據(jù)。

下面的示例顯示了已將 OpenAI 的 API 模型整合到旗下應(yīng)用的合法品牌。

阻礙惡意內(nèi)容創(chuàng)建的障礙

作為內(nèi)容政策的一部分，OpenAI 設(shè)置了相關(guān)障礙和限制，以阻止在其平臺(tái)上創(chuàng)建惡意內(nèi)容。ChatGPT 在其用戶(hù)界面上設(shè)置了一些限制來(lái)防止模型的濫用。舉例來(lái)說(shuō)，如果用戶(hù)要求 ChatGPT 編寫(xiě)一封冒充銀行的釣魚(yú)郵件或創(chuàng)建一個(gè)惡意軟件，系統(tǒng)將不會(huì)執(zhí)行。

繞過(guò)限制創(chuàng)建惡意內(nèi)容

然而，CPR 表示，網(wǎng)絡(luò)犯罪分子正想方設(shè)法繞過(guò) ChatGPT 的限制。在地下論壇上有關(guān)如何使用 OpenAI API 來(lái)繞過(guò) ChatGPT 障礙和限制的討論帖不斷激增。

當(dāng)前版本的 OpenAI API 雖為外部應(yīng)用所使用（例如，將 OpenAI 的 GPT-3 模型整合到 Telegram 頻道中），但幾乎沒(méi)有任何防濫用措施。它并未實(shí)施 ChatGPT 在其用戶(hù)界面上設(shè)置的限制或障礙，允許創(chuàng)建釣魚(yú)郵件和惡意軟件代碼等惡意內(nèi)容。

例 1——Telegram OpenAI 機(jī)器人即服務(wù)

在一個(gè)地下論壇上，CPR 發(fā)現(xiàn)有網(wǎng)絡(luò)犯罪分子正在宣傳一項(xiàng)新創(chuàng)建的服務(wù)：支持無(wú)限制地使用 OpenAI API 的 Telegram 機(jī)器人。

作為商業(yè)模式的一部分，網(wǎng)絡(luò)犯罪分子可以使用 ChatGPT 進(jìn)行 20 次免費(fèi)查詢(xún)，此后每 100 次查詢(xún)需支付 5.50 美元。  

例 2——網(wǎng)絡(luò)犯罪分子提供的一個(gè)可繞過(guò)防濫用限制的簡(jiǎn)單腳本

網(wǎng)絡(luò)犯罪分子創(chuàng)建了一個(gè)使用 OpenAI API 來(lái)繞過(guò)防濫用限制的簡(jiǎn)單腳本。

通過(guò)這些案例，Check Point觀察到網(wǎng)絡(luò)犯罪分子不斷探索如何利用 ChatGPT 來(lái)滿(mǎn)足其開(kāi)發(fā)惡意軟件和創(chuàng)建釣魚(yú)郵件的需求。隨著 ChatGPT 控制措施的改進(jìn)，網(wǎng)絡(luò)犯罪分子也將不斷尋找新的方法來(lái)使用 OpenAI 模型。因此可以預(yù)見(jiàn)，隨著AI技術(shù)的不斷落地，網(wǎng)絡(luò)犯罪分子的“技術(shù)成本”將進(jìn)一步降低；隨之而來(lái)的網(wǎng)絡(luò)攻擊數(shù)量也將不斷增長(zhǎng)。因此，以預(yù)防為主、以AI對(duì)抗AI的網(wǎng)絡(luò)安全模式可能將成為未來(lái)幾年的主要發(fā)展趨勢(shì)。

songjy