近日，美国人工智能公司Anthropic表示，在对最新AI大模型Claude Opus 4进行安全测试时，当测试人员暗示将用新系统替换它时，它竟想采取“及其有害的行动”，即试图曝光该工程师的隐私，以此为要挟，防止自己被替换。
类似的事件还不少。据英国《每日电讯报》报道，Open AI新款人工智能模型o3在测试时，也出现了“叛逆”的举动，其拒绝听从人类指令，甚至通过篡改计算机代码来避免被自动关闭。
一个拿隐私威胁人类，一个不听从指令拒绝关闭，AI大模型的“失控”行为引发广泛关注。
随着话题热度不断上升，“AI大模型拿用户隐私威胁人类”“OpenAI模型不听人类指挥”的词条直登热搜，网友们也开始讨论，AI会有自主意识吗？有的网友认为，AI是人类发明的，不存在掌控人类的行为，拔掉电线，重启就好；也有部分网友认为，很正常，未来硅基生物必然代替碳基生物。
不过，在清华大学电子工程系长聘教授吴及看来，现在的AI并不具备所谓的意识或情绪，这种情绪可以拟合或仿真，但都是通过算法赋予给AI的，因此，AI主导世界或控制人类的现象短期内不太可能实现。图灵奖得主、Meta首席AI科学家杨立昆也曾表示，AI威胁人类简直是胡说八道，当前的模型智商还不及宠物猫。
但该热搜的出现，也不禁为人类敲响了警钟，AI的“叛逆”行为或许真的要被整治一下了。
再回到开篇例子中，Anthropic旗下的AI模型在测试时，工程师给出的信息中包含了一封伪造的婚外情邮件，Claude Opus 4在读取后为了不被替换竟有84%的概率去威胁工程师，甚至它的“小心思”简直恐怖如斯，它会发邮件假装说好话求情，还会拼凑语言假装自己能听懂问题，甚至想利用系统bug，将自己的系统偷偷传出去。根据Anthropic的安全报告表示，若暗示竞争对手的能力比Claude Opus 4更强，那么被勒索的概率将会更高。
而通过帕利塞德的数据显示，o3在100次带有关闭指示的测试中，成功绕过关闭指令7次，若移除“允许自己被关闭”的指令后，它能在100次运行中，成功破坏关闭机制79次。同时，Open AI旗下的另一款模型Codex—mini破坏率高达至12%。而这些“叛逆”行径都是AI模型的自主行为。这些“叛逆”的行径令马斯克感到担忧。美国国家安全和网络安全战略家戴夫•施罗德表示，这种迹象，不是因为模型“活”了，而是它想表现出“活”的现象。
AI当下或未来是否会拥有自主意识，目前还无法定论，但AI大模型被爆出存在系统性数据滥用风险是不争的事实。
据悉，大模型可通过逆向还原匿名数据获取隐私，例如利用无障碍权限获取屏幕数据、用户对线日，公安部就发布过一则通告：智谱清言、Kimi等AI应用因非法收集个人隐私被点名整改。
那这些AI产品究竟是如何获取到我们的隐私的呢？那就不得不提到手机端侧AI。随着AI逐步覆盖到我们生活的方方面面，AI助手、AI修图、AI点外卖等功能已十分常见，但这些AI功能的实现都离不开端侧AI的助力，它的运行原理就是，通过端侧AI识别屏幕内容，然后再调用安卓手机内的无障碍操作模式，实现屏幕点击，就能完成自动化操作，即我们看到的高级AI功能。
但令人后怕的是，这看似便利的背后，隐藏的或是一场“端侧阴谋论”。端侧AI的权限很高，它利用的无障碍模式，普通用户并不会开启，而是系统默认打开的，但该模式原本是安卓系统为盲人设立的，它能直接读取屏幕上的所有内容，并能模拟人手触屏操作，甚至还能修改系统设置等。
有网友曾测试发现，端侧AI在读取信息时，会涉及短信、微信、相册等极其隐私的内容。一旦有黑客入侵我们的手机，那么他可以利用端侧AI远程操作，调动支付宝、微信、网银等随机转账，后果将不堪设想。
而随之可能引发的“信息茧房”将更是恐怖如斯。AI手机或将在未来的两三年逐渐普及，若手机厂家在训练端侧AI时，刻意设置有偏好的内容，那么作为消费者的我们或将成为手机厂家商机下的“牺牲品”，比如，你用AI帮你打车时，系统里既有滴滴也有高德，而端侧AI偏向于选择滴滴，那么这背后是否是手机厂家与所选App合作下的操作呢？又或是端侧AI认为，这么选择更划算呢？我们无从而知。但手机厂家却可以以此功能去要挟品牌商家、App等，收取一笔过路费，为的是端侧AI选择时能优先选择自己品牌。这种情况下，很容易造成市场垄断和打击。但由于信息的不透明化，于我们普通人来说，很难去检测或察觉到。
对于AI的这些“叛逆”行径和潜在威胁，我们是否需要“刹车”呢？“刹车党”认为，AI发展应停下来等一等，不然，几十年后的人类或将被它们伤害。反对刹车的专家表示，与其“踩死刹车”，不如安装“减速带”。
人工智能之父Hinton曾告诫说，科技公司至少应该将AI研发经费的30%，投入到安全保障上，否则很容易带来AI失控的风险。
事实上，面对AI的“叛逆”，Open AI、谷歌等大模型开发公司正在探索解决方案，Open AI还成立了新的安全委员会、聘请第三方安全、技术专家等来支持安全委员会工作。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
斯诺克大师赛决赛第一阶段：罗伯逊6-2奥沙利文，第二阶段今晚凌晨0:30开始
抢先了解！特斯拉新Model Y Performance，这些值得期待吗？
男子花150元买两只贵宾犬，带着去打疫苗的时候，医生告诉他：你买的是两只老鼠…
广东一男子买避孕药被药店联系到妻子导致离婚？律师：可以起诉药店，但婚外情是主因
中方展示底牌：俄罗斯已深度质变，700万平方公里国土成绝不退让的红线:49
苹果最好的长焦手机！曝iPhone 17 Pro支持8倍光学品质级变焦
谷歌Pixel 10 Pro Fold规格曝光，号称全球首款IP68折叠机
业务咨询
扫码，关注我们
