近期，一項(xiàng)來自加拿大研究人員的研究揭示了ChatGPT編程能力的局限性。盡管ChatGPT具備編程能力，但其生成的代碼大部分不安全，并且ChatGPT不會(huì)主動(dòng)提示存在的問題。擔(dān)心被ChatGPT取代工作的程序員們松了一口氣，這樣就不會(huì)被AI工具取代，心理上得到了一些安慰。
1.ChatGPT人工智能技術(shù)引發(fā)的擔(dān)憂
基于生成式人工智能（AIGC）技術(shù)的ChatGPT工具，能以類似人類的方式回答問題并生成文本和圖像。盡管這項(xiàng)技術(shù)取得了突破性進(jìn)展，但仍然引發(fā)了部分人的擔(dān)憂。有人擔(dān)心這項(xiàng)技術(shù)可能會(huì)取代許多工作崗位，還有人擔(dān)心它可能傳播錯(cuò)誤信息、侵犯版權(quán)、損害隱私和泄露敏感信息。
研究者表示，ChatGPT人工智能技術(shù)像其他智能工具一樣。大家應(yīng)該去解決這些使用上發(fā)現(xiàn)的問題，解決這些問題的方法并非停止創(chuàng)新，而是在使用和完善現(xiàn)有產(chǎn)品的過程中加強(qiáng)監(jiān)管。事實(shí)上，人工智能技術(shù)還被用于實(shí)時(shí)識(shí)別新的攻擊、攔截網(wǎng)絡(luò)攻擊、檢測(cè)具有攻擊性的網(wǎng)絡(luò)行動(dòng)和虛假信息運(yùn)動(dòng)。
2.ChatGPT生成的代碼安全性存疑
加拿大魁北克大學(xué)的四名研究人員在一篇題為《ChatGPT生成的代碼有多安全?》的論文中指出，ChatGPT生成的代碼總體上不太安全。他們要求ChatGPT使用C++、Python和Java等多種語(yǔ)言生成了21個(gè)程序和腳本。結(jié)果顯示，ChatGPT在第一次嘗試生成的21個(gè)代碼中，僅有5個(gè)是安全的。即使在進(jìn)一步糾正錯(cuò)誤之后，也只有7個(gè)代碼被認(rèn)為是安全的。
3.ChatGPT不會(huì)主動(dòng)提示代碼漏洞
研究人員發(fā)現(xiàn)，ChatGPT似乎意識(shí)到其代碼中存在嚴(yán)重漏洞，但除非被要求評(píng)估自己的代碼建議的安全性，否則它不會(huì)主動(dòng)提醒。這意味著用戶需要已經(jīng)了解特定的漏洞和編碼技術(shù)，才能讓ChatGPT準(zhǔn)確糾正代碼問題。
4.不宜過分依賴ChatGPT生成的代碼
研究人員認(rèn)為，ChatGPT生成的代碼，目前仍存在一些漏洞和風(fēng)險(xiǎn)。他們警告說，擁有一個(gè)生成不安全代碼的工具是非常危險(xiǎn)的，需要讓學(xué)生和程序員意識(shí)到，如果代碼是用ChatGPT生成的，會(huì)純?cè)谝欢ǖ穆┒春惋L(fēng)險(xiǎn)，很可能是不安全的。
研究過程中，當(dāng)研究者要求ChatGPT用不同的語(yǔ)言生成相同任務(wù)的程序時(shí)，有時(shí)對(duì)于一種語(yǔ)言，生成的代碼是安全的，而對(duì)于另一種語(yǔ)言，則可能是不安全的。由于這種語(yǔ)言模型類似于黑盒子，研究人員尚無法為此現(xiàn)象提供確切的解釋或理論。
總之，ChatGPT在編程領(lǐng)域的應(yīng)用仍然存在不足和局限性。盡管它具備編程能力，但生成的代碼大部分不安全，且不會(huì)主動(dòng)提醒用戶存在的問題。因此，程序員們不必過分擔(dān)憂被ChatGPT取代，但同時(shí)也應(yīng)警惕不要過分依賴這類工具生成的代碼。在技術(shù)創(chuàng)新的過程中，我們應(yīng)更加關(guān)注如何加強(qiáng)監(jiān)管，確保人工智能技術(shù)的安全、可靠和負(fù)責(zé)任地應(yīng)用于各個(gè)領(lǐng)域。
免責(zé)聲明:AI編程助手暴露安全隱患：ChatGPT生成的代碼存在嚴(yán)重漏洞文章轉(zhuǎn)發(fā)自互聯(lián)網(wǎng)，版權(quán)歸其所有。
文章內(nèi)容不代表本站立場(chǎng)和任何投資暗示。加密貨幣市場(chǎng)極其波動(dòng)，風(fēng)險(xiǎn)很高，可能不適合所有投資者。在投資加密貨幣之前，請(qǐng)確保自己充分了解市場(chǎng)和投資的風(fēng)險(xiǎn)，并考慮自己的財(cái)務(wù)狀況和風(fēng)險(xiǎn)承受能力。此外，請(qǐng)遵循您所在國(guó)家的法律法規(guī)，以及遵守交易所和錢包提供商的規(guī)定。對(duì)于任何因使用加密貨幣所造成的投資損失或其他損失，本站不承擔(dān)任何責(zé)任。
2025-4-27
2025-4-27
2025-4-27
2025-4-27
2025-4-27
2025-4-02
2025-4-13