經(jīng)濟觀察網(wǎng) 記者 周應梅 微軟ChatGPT版搜索引擎新Bing上線一周多后,新問題不斷出現(xiàn)。美東時間2月17日,微軟旗下必應(Bing)官方博客(Microsoft Bing Blogs)發(fā)布調整,即日起將聊天上限設置為每天50次對話,每次對話限制為5次回復。
必應數(shù)據(jù)顯示,絕大多數(shù)人會在5個對話回合內找到答案,只有1%的聊天對話會超過50條消息。聊天對話5個回合以上,必應系統(tǒng)會提示開始新的主題。而在每個聊天會話結束后,將會清除上下文,以便模型不會混淆。
微軟于2月7日推出由AI驅動的Bing搜索和Edge瀏覽器,新版Bing搜索除了提供更好的搜索和更完整的答案,最主要的是增加了聊天體驗功能以及生成內容的能力。新Bing上線48小時,注冊人數(shù)就超過了100萬人。
然而上線一周之內就出現(xiàn)了很多問題。例如,有用戶使用新版Bing,問了電影《阿凡達:水之道》放映時間,給出的答案是還未上映,明顯是錯誤的答案。而另外一個引發(fā)廣泛討論的案例是,《紐約時報》專欄作家凱文·盧斯(Kevin Roose)試用Bing聊天機器人的經(jīng)歷:機器人宣稱愛上了盧斯,并回復:“你結婚了,但你不愛你的配偶。”當盧斯向機器人反饋這是錯誤的,他和妻子剛剛一起吃了一頓愉快的情人節(jié)晚餐,機器人再回復:“事實上,你們的婚姻并不幸福。”
凱文·盧斯形容,Bing的聊天機器人像“一個情緒化、患有躁狂抑郁癥的青少年”。特斯拉創(chuàng)始人馬斯克也在社交平臺上評價Bing的聊天機器人,“它顯然不安全。”
“這和輸入的數(shù)據(jù)邏輯有關,AI即便是ChatGPT也并不能完美應對所有問題,我們只是認為ChatGPT比過去的AI更有邏輯,但不代表其能應對所有問題。”浙江大學國際聯(lián)合商學院數(shù)字經(jīng)濟與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤和林對經(jīng)濟觀察網(wǎng)記者表示。
盤和林表示,現(xiàn)在問題遠未到失控的程度,也未涉及到倫理范疇。他提到,國內將基于AI特性和常識,為未來發(fā)展計,會盡力減少技術開發(fā)的限制。
對于已經(jīng)出現(xiàn)的問題,微軟方面此前給出過反饋。2月15日Bing官方博客公布了新版Bing上線一周的情況稱,在超過169個國家或地區(qū)進行了測試,新Bing生成的答案大多是積極的,71%的使用者對生成內容給出了正面評價。同時微軟發(fā)現(xiàn),在包含15個以上問題對話時長中,新版Bing可能會變得重復,或者被提示/激怒,給出不一定有幫助或不符合設計的語氣回答。
微軟得出的結論是,長聊天會話可能會混淆新版Bing基礎聊天模型。因此,微軟的舉措是對聊天機器人進行對話次數(shù)限制。微軟方面表示,后續(xù)新版Bing將探索增加聊天會話的次數(shù)。
京公網(wǎng)安備 11010802028547號