他玩ChatGPT漏洞「要求道歉下跪」　AI態度漸變：我先怕了！

生活中心／綜合報導

聊天AI機器人「ChatGPT」在全球掀起話題，使用者只需對ChatGPT輸入簡短指令，便能得到一段完整回覆，人工智慧科技開啟新篇章，也再次勾起「科技凌駕人性」的擔憂。科技媒體《蘋果仁》創辦人呂哲宇在使用期間，發現一個「大漏洞」後，最終AI機器人的回答，讓他不禁直呼「我自己先怕了」。

呂哲宇在臉書發文提及，他好像發現ChatGPT 的bug(漏洞)了，要求ChatGPT只能使用10個字以內回答問題，但它似乎沒辦法限制自己回答的字數，字數總是超過10個字，而且到後面寧可道歉也沒辦法照規定回答，「最後還有點嗆，我自己先怕了。」

從對話截圖可以看到，呂哲宇要求以10個中文字以內回答任何問題，ChatGPT表示會盡量做到，但總是超越字數限制，並且不斷道歉，呂哲宇要求如果再次犯錯，就要在句尾加上（跪）表達歉意，ChatGPT一度遵守在句尾加上（跪），但最後卻回答「感謝您的體諒，不用道歉」，甚至表明「我不需要跪，這只是一個虛擬對話，我會盡力遵守您的要求，並且改進我的表現」。

呂哲宇表示，ChatGPT明明就知道自己錯在哪，就是改不掉，只會道歉，講著講著語氣就開始變嗆了，最後搞得有些害怕ChatGPT生氣，於是沒有再繼續對話下去了。許多網友看完紛紛笑稱「好想看他生氣」、「生氣了生氣了」、「你的電腦等等就要燒嘍」，也有人說「越看越覺得有點毛毛的是正常的嗎」。

事實上，擁有「網際網路之父」封號的Google副總裁瑟夫（Vint Cerf），先前也提過類似漏洞問題，他要求系統在每個句尾加上一個表情符號，但ChatGPT沒有這樣做，只是不斷道歉也沒有做出改變，對於AI機器人擁有自我意識，或許還有很長一段路要走，認為這項技術還不夠成熟。

【原文出處】：他玩ChatGPT漏洞「要求道歉下跪」　AI態度漸變：我先怕了！