AI工具正不断自动化我们生活的各个方面,我们对它们的依赖也日益加深。学生用ChatGPT完成作业,程序员让Claude生成代码,如今普通人也能体验Meta推出的可爱个人助理Muse。

如果这一趋势持续下去,未来将会怎样?一些专家在接受CBS新闻采访时表示担忧,认为我们正逐渐将更多控制权交给AI模型,最终变成等待机器人决策的空壳。这种现象被称为“渐进式失能”,其威胁不仅仅是工作岗位的流失,更可能影响人类的认知能力和自主性。

Robocurve创始人兼CEO Jay Chooi表示:“我把渐进式失能放在最重要的位置。很多人感到无力,因为解决这个问题需要全社会的共同努力。”

查尔斯大学理论研究中心的研究员Jan Kulveit是提出“渐进式失能”概念的论文合著者,他指出,这种现象不必源于AI系统的刻意操控或权力争夺,而是短期内由AI在经济、文化和国家职能中带来的价值驱动。

我们身边已经能感受到这种趋势。那些让AI代替自己做所有事情的人被戏称为“肉体代理”;甚至有人盲目依赖AI规划徒步旅行,结果被困在危险的山中。

更极端的想象是,AI和机器人取代人类工作,成为更廉价高效的劳动力,导致依赖人类员工的企业倒闭。但即使不那么极端,依赖AI也带来了危害。专家们已经观察到“认知投降”现象,尤其是在学生中,他们让AI工具取代了自己的思考。研究显示,依赖AI会削弱批判性思维能力,且在写作等认知任务中,AI使用者的大脑活动明显减少。

从社会层面看,一旦陷入这种循环,脱离就变得更加困难。

Hugging Face的AI研究科学家Margaret Mitchell说:“如果人们不亲自练习那些被AI代劳的技能,他们就会失去这些技能,变得依赖AI。”

她继续说道:“如果出现问题怎么办?没有人能解决。你只能依赖系统自我修复,而如果修复不了呢?”

目前AI被允许影响甚至做出的决策已经极具影响力。比如,一套AI目标系统据称参与了伊朗一所女孩学校的轰炸,造成150多人死亡,绝大多数是儿童。前总统特朗普据说在与埃隆·马斯克的Grok对话后,被建议入侵委内瑞拉并抓捕总统马杜罗。

Chooi指出:“很多人担心恶意AI入侵数据中心统治世界,但主流意识中并没有意识到,AI只要继续自动化一切,就可能真正接管世界。”

更多AI资讯:Anthropic秘密游说政府,只有当AI模型可能导致超过50人死亡时才关闭。