新聞視界時報 記者 王秉程 整理報導

OpenAI 已經開發出能夠識別文章內容是否由 ChatGPT 生成的技術。

這些方法包括使用浮水印 (watermark)、分類器 (classifiers) 和元數據 (metadata) 等方式來判斷內容來源。

雖然浮水印技術可以有效地檢測生成內容，但它也存在一定的局限性。

比如，當生成的內容經過翻譯工具轉換語言、使用其他 AI 工具彙整，或進行較大程度的修改時，浮水印技術可能會失效。

技術限制與挑戰

浮水印技術在快速檢測內容是否由 AI 生成方面有其優勢，但也容易受到內容修改和重新處理的影響。

因此，這種技術並不是完全無懈可擊。

OpenAI 表示，分類器和元數據方法也在不斷進行改進，以提高檢測的準確性。

對使用意願和創作的影響

OpenAI 擔心，若過於嚴格地追查內容來源，可能會影響到 AI 工具的使用意願，甚至可能對個人的寫作和創作產生不必要的質疑。

他們認為，這種形式的監控可能會增加不必要的困擾，並對創作者的原創內容造成誤解和挑戰。

未來展望

OpenAI 目前選擇不對外開放這些識別技術，目的是為了平衡技術的應用與使用者的隱私和創作自由。

他們將持續關注技術的發展和應用情況，以期找到最佳的解決方案。

這一決定展示了在技術進步的同時，如何平衡創作自由和技術監控之間的關係，讓我們期待未來在這些領域的更多突破和改進。