Open AI 推出 GPT-4。發(fā)現(xiàn)最新人工智能模型的能力和局限性，該模型在各種專業(yè)和學(xué)術(shù)基準(zhǔn)測試中具有人類水平的表現(xiàn)。
1.GPT-4 在可靠性、創(chuàng)造性和對(duì)細(xì)微指令的處理方面比之前的模型 GPT-3.5 有所改進(jìn)。2.OpenAI 對(duì) GPT-4 進(jìn)行了許多更改，使其比 GPT-3.5 更安全，并一直致力于降低風(fēng)險(xiǎn)。3.GPT-4 不知道 2021 年 9 月之后的事件，這可能會(huì)導(dǎo)致它出現(xiàn)簡單的推理錯(cuò)誤。OpenAI 剛剛發(fā)布了其最新的人工智能模型 GPT-4，該模型在各種專業(yè)和學(xué)術(shù)基準(zhǔn)測試中展現(xiàn)了人類水平的表現(xiàn)。GPT-4 是一個(gè)大型多模態(tài)模型，可以接受圖像和文本輸入并生成文本輸出。在本文中，我們將了解 GPT-4 的功能、限制以及使用它所涉及的風(fēng)險(xiǎn)。到最后，您將更好地了解 GPT-4 的潛在影響以及它能做什么和不能做什么。
能力? ?
GPT-4 的功能在可靠性、創(chuàng)造力和對(duì)細(xì)微指令的處理方面比之前的模型 GPT-3.5 有所改進(jìn)。OpenAI 在各種基準(zhǔn)測試中測試了該模型，包括為人類設(shè)計(jì)的模擬考試，發(fā)現(xiàn) GPT-4 優(yōu)于現(xiàn)有的大型語言模型。它在英語以外的語言中也表現(xiàn)良好，包括拉脫維亞語、威爾士語和斯瓦希里語等資源匱乏的語言。
視覺輸入? ?
GPT-4 可以接受文本和圖像作為輸入，使其能夠根據(jù)包含文本和圖像的輸入生成文本輸出。雖然該模型的視覺輸入功能仍處于研究預(yù)覽階段，但它已顯示出與純文本輸入類似的功能。
操縱性? ?
OpenAI 一直在研究其關(guān)于定義 AI 行為的帖子中概述的計(jì)劃的各個(gè)方面，包括可操縱性。開發(fā)人員現(xiàn)在可以通過描述“系統(tǒng)”消息中的方向來規(guī)定他們的 AI 的風(fēng)格和任務(wù)。API 用戶可以在一定范圍內(nèi)定制他們的用戶體驗(yàn)，從而實(shí)現(xiàn)顯著的個(gè)性化。限制? ?
GPT-4 并不完美，與早期的 GPT 模型具有相似的局限性。它仍然可以“幻覺”事實(shí)并出現(xiàn)推理錯(cuò)誤，因此在使用語言模型輸出時(shí)應(yīng)謹(jǐn)慎，尤其是在高風(fēng)險(xiǎn)上下文中。GPT-4 不知道 2021 年 9 月之后發(fā)生的事件，這可能會(huì)導(dǎo)致它做出簡單的推理錯(cuò)誤并將虛假陳述視為真實(shí)。它也可能無法像人類一樣挑戰(zhàn)問題，例如在其代碼中引入安全問題。GPT-4 可以做出自信但不正確的預(yù)測，并且并不總是仔細(xì)檢查其工作。有趣的是，基礎(chǔ)模型擅長預(yù)測其答案的準(zhǔn)確性，但這種能力在訓(xùn)練后會(huì)降低。風(fēng)險(xiǎn)與緩解措施? ?
雖然 GPT-4 的功能很重要，但它帶來了新的風(fēng)險(xiǎn)，例如生成有害建議、錯(cuò)誤代碼或不準(zhǔn)確的信息。OpenAI 一直致力于降低這些風(fēng)險(xiǎn)，與 50 多位專家合作對(duì)模型進(jìn)行對(duì)抗性測試并收集額外數(shù)據(jù)以提高 GPT-4 拒絕危險(xiǎn)請(qǐng)求的能力。因此，OpenAI 對(duì) GPT-4 進(jìn)行了許多改進(jìn)，使其比 GPT-3.5 更安全。GPT-4 提供不當(dāng)內(nèi)容的可能性比以前的版本低 82%，并且它更好地遵循有關(guān)醫(yī)療建議和自我傷害等敏感話題的政策。雖然 OpenAI 使模型更能抵抗不良行為，但生成違反使用規(guī)則的內(nèi)容仍然是可能的。OpenAI 表示，GPT-4 可能對(duì)社會(huì)有益或有害，因此它正在與其他研究人員合作以了解潛在影響。訓(xùn)練過程? ?
與之前的 GPT 模型一樣，GPT-4 基礎(chǔ)模型經(jīng)過訓(xùn)練，可以使用公開可用的數(shù)據(jù)和 OpenAI 許可的數(shù)據(jù)來預(yù)測文檔中的下一個(gè)單詞。使用帶有人類反饋的強(qiáng)化學(xué)習(xí) (RLHF) 微調(diào)模型的行為，使其與護(hù)欄內(nèi)的用戶意圖保持一致。
可預(yù)測的擴(kuò)展
?
GPT-4 項(xiàng)目的一個(gè)重要重點(diǎn)是構(gòu)建可預(yù)測擴(kuò)展的深度學(xué)習(xí)堆棧。OpenAI 開發(fā)了具有跨多個(gè)尺度的可預(yù)測行為的基礎(chǔ)架構(gòu)和優(yōu)化，可以準(zhǔn)確預(yù)測 GPT-4 在訓(xùn)練期間的最終損失。可用性? ?
微軟確認(rèn)新的 Bing 搜索體驗(yàn)現(xiàn)在可以在 GPT-4 上運(yùn)行。雖然它有使用限制，但您也可以通過訂閱 ChatGPT Plus 來訪問 GPT-4。OpenAI 可能會(huì)根據(jù)需求和系統(tǒng)性能調(diào)整使用上限。該公司正在考慮添加另一個(gè)訂閱層以允許更多的 GPT-4 使用。要訪問 GPT-4 API，您必須注冊(cè)候補(bǔ)信息（https://openai.com/waitlist/gpt-4-api）。結(jié)論? ?
GPT-4 的創(chuàng)建標(biāo)志著 OpenAI 努力擴(kuò)大深度學(xué)習(xí)的一個(gè)重要里程碑。雖然不完美，但它在各種學(xué)術(shù)和專業(yè)基準(zhǔn)測試中展示了人類水平的表現(xiàn)，使其成為一個(gè)強(qiáng)大的工具。但是，在高風(fēng)險(xiǎn)上下文中使用語言模型輸出時(shí)應(yīng)謹(jǐn)慎。翻譯作品，原作者：Matt G. Southern
文章為作者獨(dú)立觀點(diǎn)，不代表DLZ123立場。如有侵權(quán),請(qǐng)聯(lián)系我們。( 版權(quán)為作者所有，如需轉(zhuǎn)載，請(qǐng)聯(lián)系作者 )
網(wǎng)站運(yùn)營至今，離不開小伙伴們的支持。 為了給小伙伴們提供一個(gè)互相交流的平臺(tái)和資源的對(duì)接，特地開通了獨(dú)立站交流群。
群里有不少運(yùn)營大神，不時(shí)會(huì)分享一些運(yùn)營技巧，更有一些資源收藏愛好者不時(shí)分享一些優(yōu)質(zhì)的學(xué)習(xí)資料。
現(xiàn)在可以掃碼進(jìn)群，備注【加群】。 ( 群完全免費(fèi)，不廣告不賣課！)
