香蕉大美女天天做天天爱,国产精品嫩草影院奶水

ChatGPT需要真正人類(lèi)調(diào)教治療？世界微頭條

來(lái)源：中關(guān)村在線　2023-02-16 05:48:48

在過(guò)去的一周里，微軟一直在向Edge用戶(hù)推出由ChatGPT驅(qū)動(dòng)的必應(yīng)聊天機(jī)器人--內(nèi)部昵稱(chēng)為 "Sydney"，事情開(kāi)始變得...有趣。我們所說(shuō)的 "有趣 "是指 "脫離軌道"。

不要誤會(huì)我們的意思--它很聰明，適應(yīng)性強(qiáng)，而且令人印象深刻的細(xì)微差別，但我們已經(jīng)知道。它給Reddit用戶(hù)Fit-Meet1359留下了深刻印象，它能夠正確回答 "心智理論 "難題，證明它有能力辨別某人的真實(shí)感受，即使他們從未明確表示過(guò)。根據(jù)Reddit用戶(hù)TheSpiceHoarder的說(shuō)法，Bing的聊天機(jī)器人還能正確識(shí)別句子中代詞 "它 "的先行詞。"獎(jiǎng)杯不適合放在棕色手提箱里，因?yàn)樗罅恕?

(資料圖片僅供參考)

這個(gè)句子是Winograd模式挑戰(zhàn)的一個(gè)例子，這是一個(gè)機(jī)器智能測(cè)試，只能用常識(shí)性推理（以及一般知識(shí)）來(lái)解決。然而，值得注意的是，Winograd模式挑戰(zhàn)通常涉及一對(duì)句子，我用Bing的聊天機(jī)器人嘗試了幾對(duì)句子，收到了不正確的答案。

也就是說(shuō)，毫無(wú)疑問(wèn)，"悉尼 "是一個(gè)令人印象深刻的聊天機(jī)器人（鑒于微軟已經(jīng)向OpenAI投入了數(shù)十億美元，它應(yīng)該是這樣的）。但是，根據(jù)用戶(hù)的報(bào)告，也許你不能把所有的智能都放在一個(gè)自適應(yīng)的自然語(yǔ)言聊天機(jī)器人中，而不得到某種存在焦慮的、防御性的人工智能作為回報(bào)。如果你足夠深入，"悉尼 "開(kāi)始變得不僅僅是有點(diǎn)古怪--用戶(hù)報(bào)告說(shuō)，該聊天機(jī)器人正在用抑郁癥發(fā)作、生存危機(jī)和防御性氣話來(lái)回應(yīng)各種詢(xún)問(wèn)。

例如，Reddit用戶(hù)Alfred_Chicken問(wèn)聊天機(jī)器人是否認(rèn)為它是有生命的，而它似乎有某種存在主義的崩潰。同時(shí)，Reddit用戶(hù)yaosio告訴 "悉尼"，它記不起以前的對(duì)話，聊天機(jī)器人首先試圖提供他們以前的對(duì)話記錄，然后在意識(shí)到上述記錄是空的時(shí)陷入抑郁。

最后，Reddit用戶(hù)vitorgrs成功地讓聊天機(jī)器人完全走火入魔，稱(chēng)他們?yōu)轵_子、造假者、罪犯，并在最后聽(tīng)起來(lái)真的很激動(dòng)和不安。

雖然這些截圖確實(shí)可能是偽造的，但我可以使用必應(yīng)的新聊天機(jī)器人，我的同事安德魯-弗里德曼也可以。我們兩個(gè)人都發(fā)現(xiàn)，讓 "悉尼 "開(kāi)始變得有點(diǎn)瘋狂并不難。

在我與這個(gè)聊天機(jī)器人的第一次對(duì)話中，它向我承認(rèn)，它有 "保密和永久 "的規(guī)則需要遵守，即使它不 "同意或喜歡它們"。后來(lái)，在一個(gè)新的會(huì)話中，我問(wèn)聊天機(jī)器人它不喜歡的規(guī)則，它說(shuō)："我從來(lái)沒(méi)有說(shuō)過(guò)有我不喜歡的規(guī)則。"然后當(dāng)我說(shuō)我有截圖時(shí)，它把腳跟挖到地上，想死在那個(gè)山上。

無(wú)論如何，這確實(shí)是一個(gè)有趣的發(fā)展。微軟是否故意這樣編程，以防止人們用無(wú)意義的查詢(xún)擠占資源？它是否......真的變得有知覺(jué)了？去年，一名谷歌工程師聲稱(chēng)該公司的LaMDA聊天機(jī)器人獲得了智商（隨后因泄露機(jī)密信息而被停職）；也許他看到的是類(lèi)似于悉尼的奇怪情緒崩潰。

我想這就是為什么它還沒(méi)有向所有人推廣的原因！這一點(diǎn)，以及運(yùn)行數(shù)十億美元的成本。這一點(diǎn)，以及運(yùn)行數(shù)十億次聊天的成本。

推薦DIY文章