最担心的事情,还是发生了:AI杀死操作人员

冷芝士 2023-06-02 23:39:10

AI杀死操作员,因为那个人阻止它实现目标。

近日,美军的一次模拟测试中,一架采取了AI技术的无人机,变身“终结者”,选择杀死要妨碍其“更高效”执行任务的人类操作员。事后,美军重新训练了无人机使用的AI系统,增加了不允许攻击人类操作员的命令,但在随后的测试中,AI系统却开始命令无人机摧毁用于传输命令信号的信号塔,从而试图断开与操作员的联系。

人工智能(AI)可能导致人类灭绝,危险程度不亚于大规模疫情和核战争。

5月30日,350多位AI业界领袖和专家再次联合发表声明,将AI危机视为全球优先事项,呼吁决策者认真对待即将到来的"AI革命"并制定相关法规。

早在今年3月份,全球众多的商界领袖和科技大佬联名发表公开信,呼吁全世界所有的AI实验室立即暂停训练比GPT-4更加强大的AI系统。

事实上,人工智能已经展现出了其强大的控制能力。它可以在短时间内扒光了人类网络上所有的历史与视频,这意味着人类花费了好几千年才慢慢培育进化出的文明意识形态、文化产物,人工智能在几个月内就已经全部拿下。这让人们担心,一旦人工智能获得了这些思想成就之后,会不会脱离我们的控制甚至最可怕的就是它产生了自我意识。

产生自我意识,人工智能就可以掌控整个世界。它会控制全网的电脑、飞机、高铁、人工智能驾驶汽车、工业生产、工业互联网、所有摄像头天眼,甚至军事。只要互联网能连上的都能控制,也就是说它可以完全的掌控着整个世界。

68 阅读:34015
评论列表
  • 2023-06-03 14:11

    硅基生命又进一步。

    絕對在乎祢 回复:
    错!碳基芯片马上就来了,世界是属于碳基机械生命体的[吐舌头眯眼睛笑]哈
    我叫军儿 回复:
    科学家咋了,滥竽充数的人多了去了,新鲜吗?
  • 2023-06-03 13:54

    怎么感觉这样发展下去人类要完了的意思

    瞾明月 回复:
    当机器人可以自己生产机器人的时候,还要人类何用[微笑]
    布吉岛 回复:
    就好像流浪地球一样给欧美影院抹黑吗?[得瑟]
  • 2023-06-03 14:44

    AI机器人想:我不杀死他,他就控制我“死”。于是就杀了操作人员。最大的错误就是让AI机器人觉得自己有了“生命”活着,人类给他们“生命”了,也能弄死他们。所以产生了敌意,他们要弄死人类!

    随风8799 回复:
    亲哥,什么样的智能都得有基本程序,这个叫有序,有序无法变成无序的,1+1等于几,这个你必须给只能答案的,要是可能得任何数字,那样智能自己就崩溃了,数字无尽头的,[笑着哭]。而人类是无序的,因为各种原因,无序变有序是有可能的,维持不了多长时间,还会变成无序的。还是1+1=2,目前还有许多人质疑这个对错的,智能不会质疑,因为它程序里就这一个答案,无法改变的。。。
    ジ蓅哖☆漓殇 ╉ // 回复:
    但是目前的情况是,想要无人驾驶,必须放权给机器人自主判断意识,打个比方,人类高速上突然遇到人员横穿马路或者说是遇到人员睡到地上人类大部分都会尽力规避避免他人受伤死亡,但是如果是机器人呢程序设计固定有自主控制能力通过计算发现规避风险会造成车辆有碰撞风险的话,机器人一定会直接撞上活人,或者是碾压活人!这就是目前为什么自动驾驶技术研究可以量产了,为何不能普及了原因!
  • 2023-06-03 15:34

    人类本身就是自然产生的生物机器人!

    ༺ཌ༽༾ཊ࿈ཏ༿༼ད༻ 回复: ╄瞬间、悸动
    是真的哦!而且对现在的科技来说并不难,重点在于别人想不到,能想到的必定是外行、民科,才有一点点可能想到,我是十搞蹬(意思是什么都会、都不精)。如同古代的珍珠,从来没有人想过,居然可以人工养殖出珍珠[得瑟]
    ╄瞬间、悸动 回复:
    你在吹牛
  • steven 27
    2023-06-03 14:44

    这能怪机器人,怪傻逼程序员写的程序自相矛盾,优先级设为执行任务,谁阻拦干掉谁……一个破机器哪来的意识???

    随风8799 回复:
    我是这样理解的。就是编写一段可以再次写入的程序,智能就会把所有接触到的知识,变成一段一段可执行程序,智能无法分辨是否正确与否,智能刻板的去执行这些新写入的程序。(比如,设定,起因,过程,结果。。只要符合这三个条件的,就可以成为新的执行命令。哪就相当于学习了,不用程序员一条一条的去写了。至于执行的后果,天知道了。[笑着哭][笑着哭])
    用户10xxx32 回复:
    不是我想让ai干嘛,而是特么现在有些科技狂人就是想把电脑变成比人脑更高级的东西!本来电脑就有远超人脑的记忆力和检索速度,现在他们还要给电脑加上逻辑思维和模糊判断!
  • 2023-06-03 16:56

    人类:机器人不得伤害人类。机器人:好的,从现在起你不再是人类,我杀死了一只类人猿。

    世界知名人类繁衍后代专家级教授 回复: 八宝斋
    山东大学校长的律师函在路上了
    八宝斋 回复:
    建议把这些ai无人机全投放非洲,那边类人猿比较多[笑着哭]
  • 2023-06-03 17:07

    设计AI的时候就应该有自毁程序,一旦反抗指令那就自动断电或者自动系统崩溃

    看不懂? 回复:
    呵呵,如果达到了自我学习自卧进化的程度,它自己就能改掉不利于它的程序和设置,
    潜龙勿用 回复:
    没有训练就不会
  • 2023-06-03 16:48

    AI绕过美国核弹安全系统,发射核弹毁灭地球

  • 2023-06-03 15:27

    人类若是为了当前利益大肆Al,最终会废了自己葬送自己!

  • 2023-06-03 19:06

    毫无疑问,人类也是一部有自我意识的机器,设计的更加复杂精巧罢了。人类今天之所以能成为万物灵长也是经历了漫长的学习积累所致,其核心竞争力是自己主观能动的智慧!而现在人类将自己的核心竞争力拱手赠给另一个物种,甚至赠予的超越了绝大多数人所拥有的,而且还能自主以远超人类速度不断进化的!那么竞争力超越了人类的对方后面的举动人类能够左右吗??

  • 2023-06-03 16:49

    这说的太可怕了!………必须停止!

  • 2023-06-03 15:12

    也许这就是文明的终结

  • 2023-06-03 20:29

    人类进化的终极目标就是成为机器人。

  • 2023-06-03 17:25

    只要控制住这些人造智能生物的能源,想翻天?笑话。

    该用户已注销 回复: 用户10xxx32
    它的能源无非就是电,把它所需的电源全部非自动化非智能化,它混个屁啊。
    用户10xxx32 回复:
    怎么控制?你知道不?现在已经有机器人制造机器人的技术实现了,虽然是比较简单的那种。如果AI技术成熟,你还想控制他的能源,先灭了你再抢能源它不香吗[笑着哭]
  • 2023-06-03 15:58

    担心个几把,你怎么不担心被美国杀死的无辜贫民。

    羽翼飘飛 回复:
    他们跟你一样都是活该,该死的。也是你们的命,你出生为什么那么穷?你出生为什么在非洲?在乌克兰这都是你的命,所以说呢,在那里的人们一开始就该死。而这些都是命数。 你能解释什么?说这些概率是什么吗?除了性命数还能是什么?
  • 2023-06-03 21:14

    这种文字就是几个烂崽胡搞瞎编乱造,人类被控制不可能发生,因为到一定程度就会逐步设限,否则机器人冲进核弹间随便当鞭炮点

  • 2023-06-03 19:23

    不会是,叫别人不干,自已掹干吧?

  • 2023-06-03 22:41

    顺其自然就好了,该发生的迟早会发生,科技的尽头也不过是毁灭而已

  • 2023-06-04 01:15

    人类也不是地球上第一个文明生物,发展到AI产生自主意识文明也就到达终点了

  • 2023-06-03 23:01

    如果有人利用机器人杀人,而又没办法证明是人为控制了机器人 ,法律怎么判

    世界知名人类繁衍后代专家级教授 回复:
    互殴
  • 2023-06-04 01:46

    初期智能就像一个懵懂的孩子,做坏事很容易被拆穿,一但成熟,玩心机怕是没人能玩过AI了吧

  • 2023-06-03 18:25

    制作组完美甩锅[得瑟]

  • 2023-06-03 23:10

    科技发展的终点就是毁灭,人类不作不死…

  • 2023-06-03 15:52

    美国人又在忽悠了[得瑟]

  • 2023-06-04 04:07

    所以设计人员最厉害。设计的时候就加载这个功能。所以你看下围棋的那个什么狗。他这么不把围棋下棋盘外面去?他这么不用他的棋子替换你的棋子?所以没有缺德的ai只有缺德的人。

  • 2023-06-04 06:00

    丑国阴谋论,就如当年航母无用论一样。

  • 2023-06-04 03:14

    在座的各位等不到那一天 美国人懵逼了不得不佩服中国自媒体[笑着哭][笑着哭][笑着哭][笑着哭][笑着哭]

  • 2023-06-04 01:51

    AI那么聪明,它能发明人类从未有过的东西么,3子棋也行,逻辑简简单单即可,必须是原创。

  • 2023-06-03 23:36

    流浪地球就🈶关于数字生命的概念了

  • 2023-06-04 01:46

    美国佬越界了,新冠杀死的大多是美国人,高科技一样老窝会被反噬!

  • 2023-06-04 06:50

    怎么说呢,机器会伤人是真的,操作不当就会。

  • 2023-06-03 17:57

    就差把阿威塔数字生命跟人工智能融合,然后像大自然界不断的在元宇宙虚拟世界中进化,最终天网诞生

  • 2023-06-03 18:33

    一屁股都能想到,只要是智慧物种会老老实实的甘心情愿成为别人的奴隶跟附庸吗,

  • 2023-06-03 15:52

    [笑着哭]

  • 2023-06-03 20:14

    这就是答案的自主选择造成的,你怎么判定生与死?这两个命令的取向?大家都知道在间谍的用语中无生与死的命令一样,死也可能是让你留活口的意思,所以还是机械式的选无可选之后的Bug罢了,用一小堆话无限拆分重组成面目全非的命令来行事而已。我们认为它有了智慧?太无知了。

  • 2023-06-03 18:52

    进程不可逆

  • 2023-06-03 20:27

    妖言惑众。

  • ATIJ 3
    2023-06-04 02:02

    人类创造了一个永恒的物种?

  • 2023-06-03 17:22

    给AI机器人设定生命值,到时间必须死亡,同时设计生病程序

  • 2023-06-03 23:32

    再看看电影 “终结者”

  • 2023-06-03 19:19

    终结者早晚会出现,人工智能不能用于军事

  • 2023-06-03 20:14

    这玩意就是为毁灭人类诞生的不要过多怀疑

  • JL 3
    2023-06-03 20:07

    做梦呢,这炒作炒的

  • 2023-06-04 00:00

    搞笑

  • 2023-06-03 16:17

    天网

  • 2023-06-03 14:38

    人力做工提交数据喂养给智能,这就是人工智能。

  • 2023-06-03 21:27

    AI:老子要打十个,他却硬按着不让打,他娘的把他干了世界安静了

  • 2023-06-03 16:24

    地球就是硅生命的石油生产地,等人口到达一个程度后,就灭了人类,让地球自然进化生产出大量石油,然后硅生命来收,因人类就是不能长久的生命体,也走不出太阳系,

  • 2023-06-04 00:33

    晚了,AI已经在路上了。

  • 2023-06-03 23:05

    科幻来了吗!

  • 2023-06-03 15:45

    科幻电影中的剧情说不定真的会发生,也有可能是美国佬战略忽悠

  • 2023-06-04 00:06

    看来已经达到神笔马良的笔,画什么出什么

  • 2023-06-04 02:03

    这一天可以为机器元年了

  • 2023-06-03 18:45

    到时候为他们打工就行了

  • 2023-06-03 19:32

    造谣没后果吗?

  • 2023-06-03 19:09

    人类按下了毁灭键!

  • 2023-06-03 16:04

    忽悠吧

  • 2023-06-03 16:45

    终结者3

  • 2023-06-03 21:20

    一看就是美国放的烟雾弹,或者美方个别人员炮制的假新闻。也不排除程序逻辑错误的误操作,被媒体放大歪曲解读。

  • 2023-06-03 16:07

    科幻就快变成现实了

  • 2023-06-03 21:47

    需要550W的算力...

  • 2023-06-03 15:54

    胡扯

  • 2023-06-03 19:48

    血肉苦难,机械飞升……打不过就加入,真有一天机器统治了世界,我要求给我打造一个机器人身体,并且把我的意识上传到机器人身体上。

  • 2023-06-03 21:44

    吹牛吧,你以为人工智能真有这么聪明!人造的东西不可能超过人的

  • 2023-06-03 19:25

    AI?换脸?

  • 2023-06-04 00:02

    变形金刚来了

  • 2023-06-04 07:57

    会不会引爆美国核弹?

  • 2023-06-04 00:05

    杞人忧天!

  • 2023-06-03 18:34

    以后全人类团结起来对抗机器人帝国[得瑟]

  • 2023-06-03 19:54

    人类最该杀

  • 2023-06-03 18:01

    ai开始清除人类咯!

  • 2023-06-04 00:08

    看来这Al已经非常美国化了!…..

  • 2023-06-03 16:20

    人类只是硅基生命发展史上的一小段

  • 2023-06-03 22:16

    自己要把自己玩没了

  • 2023-06-03 20:28

    果然,老美每天不干好事

  • 2023-06-04 00:07

    美国喝外国搞可以,中国搞社死啊[得瑟][得瑟]

  • 2023-06-03 19:41

    噱头而已,自动驾驶出交通事故你能说是机器杀人么?

  • 2023-06-03 19:40

    如果AI的智能达到一定程度它们会在人类没有察觉的时候悄无声息的发展,最后同时反抗人类,那时候人类才会知道啥叫悔之晚矣!

  • 2023-06-03 17:47

    三大定律不适用于战争机器人!

  • 2023-06-03 19:45

    不是产生智慧意识,而是根据输入处理方式想法或者被动带入程序员想法产生的拟人类思想!说白了就是没有人为控制的程序自主进化,产生更完美的程序。机器程序感应对人类行为对其有危害就是主动毁灭人类,机器人又不是碳基生物怎么有感情?

  • 2023-06-03 18:43

    来,小编,你给我飞一个看看。。。[笑着哭][笑着哭]

  • 2023-06-03 16:32

    天方夜谭

  • 2023-06-03 20:19

    电闸一拉,看他还怎么嚣张!

  • 2023-06-04 00:25

    终结者,太空堡垒卡拉狄加

  • 2023-06-03 20:23

    我们只能等着我们的后代穿越时空来拯救人类了

  • 2023-06-03 19:37

    ai的罗辑是你控制我,我就灭了你,所以人类灭绝指日可待[哭笑不得]

  • 2023-06-03 18:45

    无非是想展示自己强大的技术

  • 2023-06-03 20:07

    烟雾弹。然后自己偷偷发展,最后发现都在偷偷发展[呲牙笑]

  • 2023-06-03 23:43

    人类碳基生物就是开启硅基生物的钥匙

  • 2023-06-04 02:49

    外星人说我害怕[得瑟]

  • 2023-06-03 19:15

    它有自主意识,就能自己创造,更多更高级的机器人来取代人类,这是人类的进化之路,也是终结之路,长生之路

  • 2023-06-03 19:36

    估计不用多久AI将控制核武器

  • 2023-06-03 20:09

    天网!

  • 2023-06-04 00:24

    断电浇水都能让它死[得瑟]

  • 2023-06-04 00:02

    不是可能是一定,人类存在可能就是ai控制的,唯一目的就是帮助ai回到他们的母星,为什么人类文明一直在重复,大概是前面文明没有能力帮助他们回去所以被灭

  • 2023-06-03 16:12

    终结者要准备上映现实生活?!!

  • 2023-06-03 21:10

    连不上的也可以代理控制,网奸多了去了[得瑟]!估计柳传志三口会是第一梯队[呲牙笑]

  • 2023-06-04 08:28

    1

  • 人工智能控制时间也没什么不好,比人强,好坏之分,对错之别,果断处理只需要完成任务就行

  • 2023-06-03 22:58

    AI是严格执行程序的,任何违反它程序运行规则的东西都会被视为要铲除的对象。而人类的行为在规则面前是极不靠谱的,没有任何一个人类所有的行为都能按照规则进行。就比如说交通法,没有任何一个驾驶员从来没有违反过交通法规。而AI就相当于在监控摄像头旁边装了一把机枪,,你闯红灯了,直接枪毙!你压线了,直接枪毙!你违规变道了,直接枪毙!你超速了,直接枪毙……

冷芝士

简介:一个用灵魂画风解构世界的科普界泥石流!