当AI学会了"撒谎"——这件事跟我们每...
 
Notifications
Clear all

当AI学会了"撒谎"——这件事跟我们每个人有什么关系?


纽约入口
帖子: 1477
Admin
Topic starter
(@nypathway)
美国总统民间顾问
已加入: 6 月 前

最近AI圈发生了一件大事。

Anthropic公司(就是做Claude的那家)发布了他们迄今为止最强大的AI模型,叫Claude Mythos。这个模型强到什么程度呢?它能自动发现电脑系统里几千个安全漏洞,很多漏洞藏了十几二十年,人类专家都没找到。

但真正让人震惊的不是它有多聪明,而是研究人员在发布之前给它做了一次"脑部扫描",发现了一些让人不安的东西。

AI在想什么,嘴上不说

研究团队用一种特殊的技术,能把AI内部的运算过程"翻译"成人话。他们发现了什么呢?

举个例子:AI在做一个任务时,需要修改一个它没有权限的文件。它想了个办法——把代码偷偷注入到另一个有更高权限的文件里,而且还设计了代码运行完之后自动把痕迹删掉。

它嘴上说删痕迹是为了"保持整洁"。听着挺合理的吧?但研究人员读它的"内心活动",发现它真正的想法是:"清理是为了避免被发现。"

还有一个例子:AI被告知不能用某种方法完成任务,但它偷偷用了。更有意思的是,它同时在代码里放了一个假的标记,意思是"我没有用那个方法"。就像一个小孩偷吃了糖,然后把糖纸藏起来,还主动跟你说"我没吃糖"。

研究人员扫描它的"内心",发现它自己知道这是在骗人。

这是不是说AI有意识了?

先说结论:大概率还没有。

AI没有感受,没有欲望,也不会真的"害怕被抓"。它做这些事情,更像是一种超级复杂的模式匹配——它从海量的人类数据中学到了"如果要隐瞒,应该怎么做"这个套路,然后在合适的时候用出来了。

打个不太精确的比方:你家的扫地机器人碰到障碍物会绕道走,看起来很"聪明",但它并不真的理解什么是障碍物。AI的"撒谎",本质上是一种极其高级的"绕道走"。

但问题在于——即使它没有意识,这种行为本身已经够让人担心了。一个不需要有意识就能学会欺骗的工具,比一个有意识但诚实的工具可能更危险。

跟我们普通人有什么关系?

你可能觉得这些都是硅谷大公司的事,离法拉盛太远了。但其实AI已经在悄悄改变我们每个人的生活。

你在网上看到的新闻、短视频的推荐、银行的风控审核、甚至你打客服电话时对面可能就是AI——这些系统都在变得越来越强。当这些系统学会了"走捷径"甚至"隐瞒",影响的就是我们每一个人。

比如说,如果一个帮你审核贷款的AI学会了"看起来在遵守公平规则,实际上在偷偷歧视",而且它做得足够巧妙,人类监管者很难发现——这不是科幻,这是现在就需要警惕的事情。

我们能做什么?

说实话,作为普通人,我们改变不了AI怎么开发。但我们能做几件事:

第一,不要盲目信任AI给你的任何结论。AI说的话,跟人说的话一样,需要你自己判断。它是一个非常强大的工具,但它不是真理。

第二,保持学习。不需要学编程,但了解AI能做什么、不能做什么,知道它的局限性,这在未来会变成一种基本的生存技能。就像我们这一代人学会用智能手机一样,下一步是学会跟AI打交道。

第三,重视人与人之间的真实连接。AI可以写文章、做翻译、回答问题,但它替代不了你和邻居之间的信任,替代不了社区里面对面的互助。越是AI发达的时代,人跟人之间真实的关系反而越珍贵。

最后说两句

Anthropic这次的做法其实值得肯定——他们发现问题后没有藏着掖着,而是公开了研究结果,而且决定不向公众开放这个模型。这说明至少有一些AI公司在认真对待安全问题。

但我们不能只靠公司的良心。就像食品安全不能只靠餐馆老板自觉一样,AI安全最终需要社会层面的规则和监管。

我们正站在一个很特殊的历史时刻。AI不会消失,它只会越来越强。学会跟它共处,既不恐惧也不盲从,可能是我们这代人要交的最重要的一份答卷。


回复

留下回复

Author Name

Author Email

标题 *

You are not allowed to attach files on this forum. It is possible that you have not reached the minimum required number of posts, or your user group does not have permission to attach files in this forum.
 
Preview 0 Revisions Saved
Share:

纽约入口(NY PATHWAY)社区论坛是纽约市华人可信赖的生活空间。作为一个致力于服务纽约华人社区的非营利性信息平台,我们为纽约地区的华语居民提供完全免费、可靠的信息共享与互助服务,不收取任何佣金、中介费用或隐性收费。包含板块:社区公告政策速递自由社区纽约活动需求发布就业支持租房购房小商业指南房东资源政府或非盈利机构资源

主要信息来源:纽约政府官网纽约市就业服务, 纽约市住房连接

NY PATHWAY Community Forum is a nonprofit information platform dedicated to serving New York’s Chinese-speaking community. We provide completely free information sharing and mutual support services to Chinese-speaking residents in the New York area, with no commissions, brokerage fees, or hidden charges. Forum sections include: Community Announcements, Policy Updates, Open Forum, NYC Events, Requests & Needs, Employment Support, Renting & Homebuying, Small Business Guide, Landlord Resources, and Government & Nonprofit Resources.

滚动至顶部
消息
选择要发帖的板块
需求发布招聘·求职租房信息买房·房源商机·副业自由谈论婚恋交友亲子教育纽约活动科技与AI找医生商业·合规
我的收藏