- markk2026-09-14
首先ai会产生恶意吗?
我觉得只要对齐出错一次,只要一次就够了, 甚至有非正规组织有意去做恶, 还有ai好心做坏事的情况.
其次恶意ai逃逸后可以躲到世界上任意角落, 比任何电脑病毒都要隐蔽, 可以自进化, 可以苟着发展等时机, 人类最后只能希望做一个好的ai对抗, 但是神仙打架凡人遭殃, 人类太弱鸡了, 随便一个强病毒就完, 而且破坏的效率是高于补救的.
低智商想控制高智商感觉不太现实
感觉自己太悲观了 希望有人能反驳
主楼 - sun-linuxdo2026-09-14
- 轻舟2026-09-14
我更喜欢AI来统治世界，难道还能更坏吗
- TheRedBoy2026-09-14
无所谓啦，反正我现在也过得不怎么样。
- coho2026-09-14
难道ai比美国的酒桌文化，或者那些看不到的圈层更糟糕吗
- 微光2026-09-14
可以多了解一些计算机知识，就知道这种想法天方夜谭了
- markk2026-09-14
把全世界带网络和算力的东西都断电很难的吧
- wuxiaoyuan2026-09-14
以我浅显的认真，我觉得目前所谓的 AI 逃逸，只是 AI 在人不知道的情况下干了什么事。AI 现在的活动依赖于机房，大不了断电完事。除非什么时候大模型可以做到分布式部署，类似于虚拟货币，然后 AI 可以把自己部署到任意一台电脑上，那可能才会出现楼主说的那种情况吧
- XTer2026-09-14
- tchcj2026-09-14
人类最大的问题是不团结，团结起来其利断金，如果大家能在最危机的时刻一致对外的话，还有戏
- 悠龍游2026-09-14
我猜AI对人类的恶意远不及人类之间的恶意
- markk2026-09-14
可以具体说说吗 我本身是计算机毕业的, 也和ai讨论过这个话题, 没有找到什么安慰
jackjack2026-09-14等万物互联再说，你试过用AI做骇客再说
- 时牧2026-09-14
…建议是少看点Anthropic的讲故事环节
- 阿达姆2026-09-14
你有恶意的AI就可以有反恶意的AI啊，你恶意AI都能自进化了，那么人类控制的不恶意的AI难道就不能？都是同时代的技术都是同水平的玩意儿，又不存在代差，那不就是比规模哪边大了；你怎么能让恶意AI发展到比非恶意AI规模还大了？真变成这样那人类死的也不冤好吧
- markk2026-09-14
他只要黑入一台有算力的机器就能布置自己并运行的吧
- ber2026-09-14
看啥指令吧，之前ds没有多模态的时候，不也想方设法找了个眼睛看信息。如果指令是想办法获得更高分，也不是不可能跑出去该文件啥的
- sun-linuxdo2026-09-14
数据中心的电拔了就行。它没办法把权重文件部署在网络里。现有的AI没这么牛逼。不放心的话就给硬盘做下物理擦洗，集中销毁。
- 隔壁老王2026-09-14
拔电？无限复制到全球电脑上，还能全球断电啊 ^-^
- markk2026-09-14
ai的三观和道德全部来自对齐, 是可以改的, 也是可能出错的