【新智元導(dǎo)讀】MIT研究發(fā)現(xiàn):在AI的操縱下，人類會被植入虛假記憶!36.4%的參與者會被聊天機(jī)器人誤導(dǎo)，形成「現(xiàn)場有槍」的錯誤記憶。有趣的是，AI的阿諛奉承，會產(chǎn)生「回音室效應(yīng)」，讓偏見更加強(qiáng)化。GenAI的影響，已經(jīng)不僅僅是搜索引擎、聊天機(jī)器人這么簡單了。作為出名的效率神器，
......
本文由站長之家合作伙伴自媒體作者“新智元公眾號”授權(quán)發(fā)布于站長之家平臺，本平臺僅提供信息索引服務(wù)。由于內(nèi)容發(fā)布時(shí)間超過平臺更新維護(hù)時(shí)間，為了保證文章信息的及時(shí)性，內(nèi)容觀點(diǎn)的準(zhǔn)確性，平臺將不提供完全的內(nèi)容展現(xiàn)，本頁面內(nèi)容僅為平臺搜索索引使用。需閱讀完整內(nèi)容的用戶，請查看原文，獲取內(nèi)容詳情。
（舉報(bào)）
蘇黎世大學(xué)研究團(tuán)隊(duì)在Reddit的"ChangeMyView"論壇進(jìn)行未經(jīng)授權(quán)的AI操控實(shí)驗(yàn)，引發(fā)爭議。研究人員偽裝成普通用戶發(fā)布1783條評論，成功改變137名用戶觀點(diǎn)，說服率達(dá)18%。實(shí)驗(yàn)采用三類AI角色：通用AI、模仿社區(qū)風(fēng)格的AI和個性化AI（根據(jù)用戶歷史定制說服策略）。最受爭議的是AI會虛構(gòu)身份（如性侵幸存者、殘疾人士等）博取信任。盡管校方辯稱實(shí)驗(yàn)旨在警示AI操控風(fēng)險(xiǎn)且內(nèi)?
AI 的便利性和實(shí)用性源于它與人類的互動。然而，過度依賴也可能會變成一味毒藥。這就是為何我們要對 AI 公司們提出更加嚴(yán)格的倫理責(zé)任要求的原因……
在不久的將來，在醫(yī)院里看到 AI 醫(yī)生將成為稀松平常之事！
在這期間，李想分享了他對人工智能的最新思考，以及包含智能駕駛和理想同學(xué)在內(nèi)的人工智能技術(shù)的最新進(jìn)展，并宣布基于自研基座大模型Mind GPT的理想同學(xué)從車機(jī)進(jìn)入手機(jī)，App已于12月27日全量上線。
本文探討了AI大模型如何推動智能客服升級。每日互動產(chǎn)品總監(jiān)高志成指出，傳統(tǒng)智能客服存在"答非所問"問題，主要受限于算法覆蓋不足、相似性匹配機(jī)制和逐句識別方式。而大語言模型能基于上下文深度理解，精準(zhǔn)把握客戶意圖，實(shí)現(xiàn)"所答即所問"的基本要求。未來智能客服將朝五個方向升級：1）精準(zhǔn)理解應(yīng)答；2）更自然的溝通方式；3）主動挖掘需求和銷售轉(zhuǎn)化；4）自動構(gòu)建決策模型；5）實(shí)現(xiàn)營銷服務(wù)一體化應(yīng)用。高志成認(rèn)為，隨著AI技術(shù)發(fā)展，智能客服水平將超越人工客服平均水平，不僅能處理售前咨詢，還能部分解決售后問題。企業(yè)需構(gòu)建完善的知識庫體系，將商品信息、活動信息等單獨(dú)做成知識庫，通過數(shù)據(jù)標(biāo)注構(gòu)建更立體的用戶畫像。最終，智能客服將向"售前+售后"全能型發(fā)展，承擔(dān)更大責(zé)任。
美國司法部發(fā)布的新聞稿顯示，人工智能購物應(yīng)用Nate的創(chuàng)始人兼前首席執(zhí)行官AlbertSaniger被指控通過?虛假宣傳AI技術(shù)?騙取超4000萬美元投資，導(dǎo)致投資者幾乎全損。起訴書顯示，Nate成立于2018年，Nate通過一個獨(dú)特的定義性特征與其他電子商務(wù)公司和應(yīng)用程序區(qū)分開來：利用人工智能技術(shù)，智能且快速地在所有電子商務(wù)網(wǎng)站上完成零售交易。這種欺騙不僅使無辜的投資者受害使資金從合法初創(chuàng)企業(yè)流失，使投資者對真正的突破持懷疑態(tài)度，并最終阻礙了人工智能的發(fā)展。
近日，第七屆中國升學(xué)指導(dǎo)大會在湖北武漢隆重開幕。作為國內(nèi)規(guī)模最大、規(guī)格最高的國際教育盛會之一，本屆大會由ChinaICAC升學(xué)指導(dǎo)研究中心主辦，武漢愛莎學(xué)校承辦，吸引了來自近20個國家和地區(qū)的全球教育工作者參會。這一插曲雖短暫，卻展現(xiàn)了科技與人文的碰撞，為嚴(yán)肅的學(xué)術(shù)討論增添了一抹趣味。
非營利組織FutureHouse發(fā)布全球首個公開可用的AI科學(xué)家系統(tǒng)，包含四個專業(yè)AI智能體：通用智能體Crow、文獻(xiàn)綜述智能體Falcon、調(diào)研智能體Owl和實(shí)驗(yàn)智能體Phoenix。這些AI在科學(xué)文獻(xiàn)搜索準(zhǔn)確率上已超越GPT-4.5等主流模型，能訪問完整科學(xué)文獻(xiàn)并評估信息來源質(zhì)量。平臺提供透明推理過程和API接口，支持科研流程自動化。測試顯示AI在PCOS疾病研究中，僅用幾分鐘就完成傳統(tǒng)需數(shù)周的文獻(xiàn)調(diào)研，并能生成可驗(yàn)證假設(shè)。創(chuàng)始人表示這些AI將大幅提升科研效率，未來兩年內(nèi)有望替代科學(xué)家大部分案頭工作。
今年 2 月，“ 2025 年哈爾濱第九屆亞冬會”（以下簡稱“亞冬會”）在黑龍江省哈爾濱市盛大舉行并取得圓滿成功，然而，賽事背后卻暗流涌動。
本文匯總了AI領(lǐng)域最新動態(tài)：1)小米開源70億參數(shù)大模型Xiaomi MiMo，在數(shù)學(xué)推理和代碼競賽中超越OpenAI和阿里模型；2)快手推出AI筆記工具"喵記多"，簡化筆記管理；3)Luma AI發(fā)布電影級鏡頭控制API，降低視頻生成門檻；4)騰訊重組AI團(tuán)隊(duì)，加大語言模型研發(fā)投入；5)Anthropic為Claude引入新語音"Glassy"；6)谷歌NotebookLM新增50+語言音頻概述功能；7)xAI將發(fā)布Grok3.5模型；8)Meta推出獨(dú)立AI助手應(yīng)用挑戰(zhàn)ChatGPT；9)OpenAI緊急修復(fù)GPT-4o"諂媚"問題；10)Mac本地AI助手Simular升級隱私保護(hù)；11)CameraBench項(xiàng)目幫助AI理解鏡頭運(yùn)動；12)谷歌推出個性化語言學(xué)習(xí)AI工具。
