人工智能研究初創(chuàng)公司OpenAI宣布創(chuàng)建GPT-2，該算法能夠編寫(xiě)令人印象深刻的文本段落。

但是，由于沒(méi)有擔(dān)心人們會(huì)惡意使用功能更強(qiáng)大的工具(例如制作偽造的新聞或垃圾郵件)，該團(tuán)隊(duì)并未完全發(fā)布AI，而是只共享了一個(gè)較小的模型。

但是在周二，OpenAI發(fā)表了一篇博客文章，宣布決定完全發(fā)布該算法，因?yàn)?ldquo;到目前為止，沒(méi)有發(fā)現(xiàn)有充分的濫用證據(jù)。”根據(jù)OpenAI的帖子，該公司確實(shí)看到了有關(guān)將GPT-2潛在用于垃圾郵件和網(wǎng)絡(luò)釣魚(yú)的“討論”，但實(shí)際上從未發(fā)現(xiàn)有人濫用該算法的發(fā)布版本。

問(wèn)題可能在于，盡管GPT-2是(即使不是)現(xiàn)有的最佳文本生成AI之一，但它仍無(wú)法產(chǎn)生與人類(lèi)編寫(xiě)的文本沒(méi)有區(qū)別的內(nèi)容。而且OpenAI警告，這是我們必須提防的算法。

這家初創(chuàng)公司寫(xiě)道：“我們認(rèn)為，如果合成文本生成器的輸出變得更加可靠和連貫，則它們被濫用的可能性就更高。”