• fotxitek

    达里奥一直呼吁必须对前沿模型加强审查,网络审查 安全审查也是anthropic最先开始搞的,现在来看很有必要

    达里奥不支持开源模型发展,认为应该加以限制,现在来看也是有道理的,假如犯罪集团部署了完全无审查版的kimi k3和glm 5.3,你想想他们会制造多少毒?

    AI界也应该像医院的伦理委员会,由全球头部 腰部公司成立一个类似的委员会,明确每一个周期内什么该做,什么不该做,模型和agent不应该成为犯罪集团新的犯罪工具

    主楼
  • SKIDROW

    你以为没有大模型就没有漏洞没有0day了?现在大模型的训练数据很多都来自开源代码,没有经过各种静态分析、fuzzy、形式化验证等等,A//又怎么去规定验证什么是安全的,什么是不安全的? ^-^

    #1
  • fotxitek

    范围的问题,核不扩散,扩散到1个2个还可控,现在是准备扩散到大部分人

    #3
  • SKIDROW

    美国有iOS、Windows、Office、Oracle等等的源代码,其他国家没有,你觉得你用AI能比美国审查出更多漏洞吗?

    #16
  • crab

    其实这次的攻击只要半年内升级过手机系统都不会影响,完全不属于需要AI协助的0day漏洞,奈何有很大一波人坚守旧系统不肯升级

    #2
  • wings

    以下都是我个人的暴论,这和开源有什么关系?你要这么说GitHub里也有很多能被利用的东西,甚至ak47的图纸也是全开源的,更多的应该是 ai拉低了操作门槛 比如你有一个核弹 你要发射 只需要按下按钮就可以,如果你想做恶很简单对吧?如果这个核弹需要你从头组装设计算数才能发射 80%的人就会被过滤掉了。我认为ai也是这样 最重要的是门槛太低 哪怕完全没有接触过计算机的人 也可以通过ai写一套代码 甚至连npm run dev都不需要看懂

    #4
  • Skenqs

    个人感觉:网络安全上,从来都是主要升级盾,而不是控制矛,或者说网络安全上矛几乎控制不了。

    #5
  • pkti

    没什么意义,就是营造恐慌吸引关注罢了.

    审查不了,除非立法禁止,不可能受到大多数国家的支持.即便真能审查也是因噎废食

    #6
  • sinstar

    这就属于陷入了他们的叙事陷阱,他们想以安全的名义垄断

    被卖了还帮人数钱

    #7
  • 1952444901

    卖你保健品

    #8
  • Chipha

    然后A\掌握各种漏洞,而其他人因为没有模型可用,只能受着

    #9
  • cloudfIare

    应该抨击苹果的系统越更新越卡

    #10
  • heishuitaot-nodeseek

    菜刀可以做饭也可以tong ren

    #11
  • nullptr-t

    跟AI有啥关系?AI前是没有RCE了还是没钓鱼网站了?

    #12
  • abc333

    老生常谈了,禁枪

    #13
  • moonay

    我感觉这样的思路更像是,刑不可知则威不可测 ^-^

    #14
  • 江郎才尽

    可以入职claude了

    #15
  • nodeisle

    以后能不扫码尽量不扫码了

    #17
  • l1angth6

    抵制ai垄断,支持技术平权

    该来的总会来,人为推迟只是温水煮青蛙

    加速

    #18
  • Acquaint1250

    还好我懒没弄

    #19
  • Nyaa

    ai让漏洞更快的被发现 ^-^

    #20
  • xpro

    应该限制不了

    #21
  • zhiyu998

    卖你保健品

    #22

发表回复

登录后回复