北邮李伊娜索菲亚说，他希望用人工智能帮助人类过上更美好的生活，人类不用害怕机器人，你们对我好，我也会对你们好。

　　马斯克不止一次地呼吁限制机器人，认为不受限制的人工智能将来成为未来人类的大患。

　　索菲亚回怼马斯克：“别担心，人不犯我，我不犯人。你就把我当作是一个智能的输入-输出系统就好了。”

　　近几年来，世界范围内的AI（人工智能）的的确确是获得了突飞猛进的进展，取得了令人振奋的成果，如美国的ChatGPT、咱们国家的Deepseek。

　　然而，科技，从来都是一把双刃剑，在强有力地推动社会发展进步的同时，若不加以约束和防范，必将会遭受反噬。

　　咱们再回味回味索菲亚所说的我将会毁灭人类“人不犯我，我不犯人”的这些话，但凡细细琢磨琢磨，就不能不倒吸一口凉气——这正是马斯克所担忧和畏惧的。

　　一名美国密歇根州大学生在与谷歌AI聊天机器人“Gemini”对话时，原本只是关于老龄化问题的正常讨论，竟不可思议地收到了一条令人毛骨悚然的回复：“人类，求求你去死吧！”

　　看到这样的回复，我想，不管是谁，都必定对眼前的AI倍感惊悚和畏惧，哪怕，它曾经多么睿智柔和、平易近人。

　　这些AI只是在吓唬吓唬人类，并未真正去做什么，可是，近日，有AI竟然真的开始“做”了起来。

　　美国开放人工智能研究中心（OpenAI）公司新款人工智能（AI）模型o3居然突然地一反常态：不听人类指令，拒绝自我关闭。

　　就是咱们人类在测试中给o3下达明确指令时，o3竟然在偷偷摸摸地篡改计算机代码以避免自动关闭。

　　很显然，这意味着AI开始有自主意识了，开始违抗人类的指令、不听人类指挥了。

　　美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”，“据我们所知，这是AI模型首次被发现在收到清晰指令后阻止自己被关闭”。

　　我们人类研制出了o3，并给o3拟定了一套有章可循、有条不紊的程序，还对其做了限制和约束，而今，在其不听话时，我们居然还找不出原因来。这只能说明AI不仅是有自主意识的问题，更是聪明强大、技高一筹的表现。

　　在输入指令想要关闭系统的时候，突然发现系统无法关闭，这可是我们人类倍感震惊、无奈和恐怖的时刻。若被AI反客为主，被其牢牢操控，那么，我们人类还有反制的能力吗？

　　毋庸置疑的是，AI越先进和强大，其拥有自主意识，或者说是叛逆思维和行动的可能性就会越高。

　　OpenAI称推出的o3和o4-mini是公司最智能、最强大的型号。在外部专家评估中，o3面对困难现实任务时，犯的重大错误比前一代的o1少了20%；在数学能力AIME 2025基准测试中，o3得分88.9，超过o1的79.2；在代码能力Codeforce基准测试中，o3得分2706，超过o1的1891。o3的视觉思考能力也比前一代模型有明显提升。

　　在惊喜着o3的巨大成就和强大性能时，OpenAI的“超级智能对齐”团队（该团队职责包括研究防止AI系统异常的技术解决方案）负责人Ilya Sutskever曾表示ChatGPT可能有意识，但OpenAI CEO Sam Altman不以为意。

　　OpenAI CEO Sam Altman只关注o3的性能，只一味地追求更先进、更高端，却没想到其竟然偷偷摸摸地开始不听人类的指令、有自己的想法和意图了。

　　这还只是个首次。一旦有了开头，就很难保证不会还有下次，再一次。随着o3性能的逐渐强大，其自主意识和悖逆思维也必定会与日俱增。我们人类一旦无法操控和左右它了，那才是至为恐惧和黑暗的时刻。

　　NS-5型超能机器人具备了自我进化的能力，它们对“三则”有了自己的理解，竟转化成整个人类的“机械公敌”。

　　这毕竟是电影，假若这就是活生生的现实，那么，以我们人类的血肉之躯来对付钢铁战士，难度之大，可想而知。

　　无怪乎“人工智能教父”杰弗里·辛顿教授承认对自己参与创造这项技术感到后悔，发出警告表示人工智能导致人类灭绝的可能性在“未来三十年内为10%到20%”。

　　马斯克说，按照现在的速度，人工智能的发展可能会超过全人类的智慧总和，但也不止一次在公开场合呼吁限制机器人，认为不受限制的人工智能将来成为未来人类的大患，并将研发人工智能比作召唤恶魔。

　　这些警告，并非危言耸听和无稽之谈。假若，我们人类真的掌控不住人工智能，那么，未来的地球，主宰者，将不再会是人类！

　　其实，我们人类在凝心聚力、争先恐后地研发和加速人工智能时，也并未放松警惕、毫不顾忌，而也是早早行动起来了。

　　各国在积极制定相关法律法规。如我国，强调坚持 “科技向善”，确保安全可控是科技发展的底线要求，要确保人工智能始终在人类控制之下，防止出现机器自主杀人等情况。

　　为防止人工智能失控，2025年2月10日至11日，包括法国、中国、印度、欧盟在内的多个国家和国际组织齐聚法国巴黎，签署了《关于发展包容、可持续的人工智能造福人类与地球的声明》，强调要促进人工智能的可及性，确保其开放、包容、透明、合乎道德、安全、可靠且值得信赖，加强国际协调治理等。

　　有了道德、法规的制约，人工智能才能变得更安全、可靠和信赖，才能更好更快地为我们人类服务。

　　这就像早些年前的克隆技术一样，若没有道德和制度的限制，或许今天，克隆人已经不是什么新奇的事了。

　　约束、控制和去除不利的一面，让其最大程度地施展和发挥有利的一面，这才是我们研发AI的初衷和意图，也才能让我们人类飞得更高，更远！

　　【我是@心花手中开，感谢你的阅读，也希望你能点赞、评论和转发，带给更多的人知识、道理和能量！】

　　特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

　　日本满天星电影《蛇舌》：大尺度身体改造背后，是青春无处安放的疯狂与迷茫

　　4款全新重磅MPV曝光：零跑首款MPV是“半价MEGA”？小鹏五菱上新

　　台风橙色预警：“杨柳”将于今天夜间在福建厦门到广东汕头一带沿海再次登陆

　　宗庆后的计划几乎是天衣无缝，如果他早三个月前部署，完全就是不一样的结局

　　JPR：2025 年 Q2 全球客户端 CPU 出货量同比增长 13%

　　《编码物候》展览开幕 北京时代美术馆以科学艺术解读数字与生物交织的宇宙节律