• lennney

    大家好,我是stop-that-shit作者。我最近在尝试优化ai的过度防御的问题。这是一个求助帖,希望可以得到大家的帮助

    我在sts的来源数据上发现有很多朋友是这来的,了解之后发现这是个很好的地方,于是我今天就注册了账号,想有几个问题想请教一下大家,希望可以得到帮助:

    - 在使用ai中有遇到过什么具体的防御性编程的案例么?比如说:疯狂的加哈希验证,加过度的全量测试

    - 是怎么样尝试解决这些过度工程的问题的?

    - 在使用sts的时候,比起没用这个插件的时候改善了哪些地方,哪些地方遇到了问题————因为我发现有佬反馈在使用了之后ai不能完整的完成任务。(希望可以提供具体的例子,这对我非常有帮助)

    - 觉得哪些地方可以改进或者有哪些功能想要我增加的?

    希望可以得到大家帮助,谢谢! ^-^

    主楼
  • bluesky600

    我选择换模型解决 ^-^,这种模型底层特性,我不认为skill能彻底解决 ^-^,没有别的套餐就先将就用

    #1
  • 深海泡泡

    疯狂的加哈希验证,加过度的全量测试,只在gpt 5.6出现,没有其他任何模型有5.6这么倔

    #2
  • 神人

    写rule禁止过度防御性编程不就完了

    #3
  • lennney

    我看社区有评论说在claude那边模型上也出现过类似的问题 ^-^

    #4
  • lennney

    是的,看社区反馈现在gpt6 astra会好很多,也只能是尝试解决。

    #5
  • lennney

    写rule是指?agent md吗,这个的治理效果很有限,上下文一长就会忘,你可以看看我项目里关于agentmd治理的问题的尝试,我最后选择了skill + hook这个效果会好很多

    #6
  • RyanVan

    这种工具容易发生提示词打架的问题,用之前得全面检查一下冲突,看官方说避免冲突对astra还挺重要的。

    #7
  • lennney

    好的,谢谢佬的提醒,我最近使用astra的时候也开着这个插件,没有遇到比较大的问题,这个偏harness,不属于误导和具体的约束冲突。但是我没有验证具体的效果,我后续会关注一下这个问题,感谢反馈

    #8
  • Muelsyse

    - 在使用 ai 中有遇到过什么具体的防御性编程的案例么?比如说:疯狂的加哈希验证,加过度的全量测试

    包括但不限于 sha256 烟测 各种奇奇怪怪的边界情况 等等

    - 是怎么样尝试解决这些过度工程的问题的?

    ponytail + agents.md 稍微好了点,不过还是有,astra好像就好很多了

    #9
  • lennney

    好的谢谢佬反馈

    #10
  • 三金

    其实是模型指令遵循和codex过度约束的问题

    #11

发表回复

登录后回复