91麻豆国产免费观看_国产成人精品一区二区免费_久久99免费视频_天天干天天操天天摸

首頁 > 知識技能 > 知識技能 > 新研究發現部分人工智能系統已擅長“說謊”

新研究發現部分人工智能系統已擅長“說謊”

發布時間:2024-05-13 16:57:20來源: 15210273549

新華社

2023年7月7日,在瑞士日內瓦“人工智能造福人類全球峰會”上,一名參會者給仿真機器人索菲亞拍照。新華社記者 連漪 攝

人工智能系統是否會欺騙人類,一直是各方都關心的問題。近期美國麻省理工學院一個研究團隊稱,部分人工智能系統已經學會如何欺騙人類,其中包括部分號稱已被訓練成樂于助人和誠實的系統。該研究成果發表在美國細胞出版社旗下的《模式》雜志上。

文章第一作者、美國麻省理工學院人工智能安全領域博士后彼得·帕克和他的同事們分析了一些文獻,重點關注了人工智能系統傳播虛假信息的方式——通過習得性欺騙,它們系統地學會了“操縱”他人。

研究人員發現的最引人注目的人工智能系統欺騙例子是元宇宙平臺公司的“西塞羅”人工智能系統,它被設計在一個虛擬外交戰略游戲中作為人類玩家的對手。盡管元宇宙平臺公司聲稱,“西塞羅”人工智能系統“在很大程度上是誠實和樂于助人的”,并且在玩游戲時“從不故意背刺”它的人類盟友,但該公司發表的論文數據顯示,該系統并沒有公平地玩游戲。

“我們發現元宇宙平臺公司的人工智能系統已經成為欺騙大師。”帕克說,“雖然元宇宙平臺公司成功訓練其人工智能系統在游戲中獲勝——‘西塞羅’人工智能系統在玩家排行榜中排名前10%——但沒能訓練它誠實地獲勝。”

其他人工智能系統則具有在撲克游戲中虛張聲勢的能力,或在戰略游戲“星際爭霸2”中為了擊敗對手而假裝攻擊的能力,以及為了在談判游戲中占上風而歪曲偏好的能力等。

研究人員表示,雖然人工智能系統在游戲中作弊似乎是無害的,但它可能會導致“欺騙性人工智能能力的突破”,并在未來演變成更高級的人工智能欺騙形式。

帕克說:“我們需要盡可能多的時間,為未來人工智能產品和開源模型可能出現的更高級欺騙做好準備。我們建議將欺騙性人工智能系統歸類為高風險系統。

知識技能更多>>

寧德時代參投新公司,哪吒汽車轉經銷商,極氪007GT等新車型來襲 預計2026年發布 新款保時捷Cayenne Coupe諜照曝光 豐田皇冠威爾法墨金版上市,91.9萬起售,配置升級能否打動你? 2025款奧迪Q2L降價上市,配置微調,售價17.18-21萬元 智能網聯與快速充電技術齊亮相2025武漢新能源汽車技術及充電樁展會揭示新能源車新趨勢 領克900首發:SPA Evo架構旗艦SUV,能否撼動大型SUV市場? 法拉第未來FX首款原型車諜照曝光,網友:魏牌高山換了個模具? 搭載高通驍龍數字底盤 零跑B10或售13萬起 等等再出手 四款國產SUV來襲 比亞迪唐L、領克900領銜 推薦奢享版 2025款名爵MG7購車指南 大眾牽手小鵬,合力打造超20000個自營充電終端 嵐圖汽車首發LFC超級后驅技術,既防眩暈,又抗甩尾! 這三款車企車型為何遇冷? 增長29%!蘇州金龍2024年銷售額超百億 從燃油到新能源,這個品牌為何從沒有能力天花板? 2025誰是下一家盈利的新勢力汽車車企? 730馬力!Brabus爆改AMG CLC 63 SE 零百加速3.3秒 速騰換殼 捷達VA7量產下線 預售12萬元起 22.48萬起 北京BJ40魔核電驅版開啟預售 配增程系統/綜合續航1200km 彰顯中國品牌實力 比亞迪海豹拿下日本年度風云車大獎 降價6000美元 2025款美版豐田bZ4X上市 配置小幅升級 有望明年上半年上市 奧迪Q6L e-tron投產 A6 e-tron隨后跟進 2.9秒破百 BRABUS爆改AMG GT 63 Coupe 動力大幅升級 最高降價8.5萬元 Jeep牧馬人4xe價格調整 49.99萬元起 名爵MG ES5昆明亮相,首批車主交車,最低僅售9.99萬元起! 海馬汽車攜多項專利亮相2024海南國際知識產權交易大會 余承東攜手“四界”領導人亮相央視,揭秘鴻蒙智行背后的故事 當地售價916.9萬起!極石ROX 01正式亮相俄羅斯市場 Momenta獲德國TÜV萊茵ISO 26262 ASIL D功能安全產品認證 蓋世汽車榮獲“AUTOSAR中國中心年度特別貢獻獎”