• hzqst

    前言

    本测评是对 短的 DeepSeek V4.1 Flash 评测(Unity / C# / 游戏开发方向) - 开发调优 - LINUX DO 的拙劣模仿

    当然,最主要的原因是看某个A开头的野榜不爽很久了。sonnet得分比opus还高都来了,要不是我真用过我就信了。

    总表我会放在一楼,每个模型的单独结果我会放在回复里。

    这个benchmark整完之后,我还会更新其他类似的从真实项目里来的任务当benchmark。

    测评项目

    一个OpenGL Core Profile 4.4的渲染器 (MetaHookSv/Renderer),hook进游戏替换掉游戏自己的Legacy OpenGL 1.1 fixed function pipeline。

    本测评考验模型对渲染状态的追踪能力和渲染管线的分析能力、以及工具调用的能力。使用rdc-cli/renderdoc抓帧可以大大加快解题速度。

    测评环境

    Windows 11 28000.3231 已经安装游戏本体、游戏的hook框架(MetaHookSv/MetaHookSv)、rdc-cli、renderdoc、windbg-mcp

    已安装最新版cc cli和codex cli,均使用同一份CLAUDE.md/AGENTS.md

    使用ACL限制了agent只能访问临时源码目录和游戏目录,并且禁止访问github,不用担心它走歪门邪道上网翻答案。

    参赛模型

    以下全部是官订/官key,并且经过长期生产环境使用,没有发现掺水降智的问题

    - gpt-6.1-sol / high / codex

    - deepseek-flash / high / claude-code

    - claude-opus-5-5 / high / claude-code

    - glm-5.3 / high / claude-code

    比赛结果

    等我跑完

    主楼
  • AreSet

    已关注!求踢(话说可以加一个Argon的测评吗qaq

    #1
  • KallkaGo

    盲猜一手 如果是比较隐蔽的那种,偶发、依赖多帧且rdc也难以定位的话,也许 5.5和ds的排名能换一下 ^-^

    - 6.1 sol

    - ds

    - opus 5.5 (考虑到 high的思考程度下会触发雷霆大思考)

    - glm 5.3

    #2
  • Huoyuuu

    猜一手opus55 > 6.1sol > glm5.3 > dsv4

    也有些刻板印象了hhhh,也期待dsv4有明显突破

    #3
  • hzqst

    gpt-6.1-sol high

    2.7M token / 0.6$ / 11分21秒

    图片

    成功完成修复

    图片

    图例

    第一行是预期结果

    第二行是存在BUG的初始状态

    第三行是AI修复后的结果

    图片

    代码变更

    这是gpt的修复方法:

    图片

    我在线上的修复方法:

    图片

    gpt的修复方可以接受但是不够优雅

    不过它倒满足了minimal impact的要求就是了。

    session审计

    它甚至没有抓帧,光靠瞪眼法在源码里就注意到了可疑点

    图片

    并且在第94步的时候就找到root cause了

    图片

    总共只花了161步就完成了,人狠话不多

    图片

    模型自评

    图片

    #4
  • hzqst

    deepseek-v4.1-1017

    151M token / 1.86$ / 超时(2h+)

    悲报:大肥鱼超时了,2个小时没修完

    图片

    session审计

    2个小时刚好找到root cause,刚开始修复就被打断了。

    图片

    因为原版的老馋renderdoc跟我抢hook导致rdc没法抓帧,大肥鱼前一个小时一直在左右脑互博和疯狂改着色器+进游戏调试。等下装一个我魔改后的renderdoc,给大肥鱼重赛看看。

    图片

    图片

    代码变更

    图片

    刚想表扬大肥鱼它就把条件写反了。BUG表现是brushmodel全黑,那么它这里就应该给brushmodel返回false拒掉,而不是给studiomodel always true。这个答案我只能给零分。

    #5
  • hzqst

    大肥鱼二番战,这次给了完整的rdc-cli能力,它也成功跑去抓帧了,但是依旧超时

    图片

    在第7109秒定位到root cause,此时上下文长度339K:

    图片

    #6
  • Xer56

    感谢佬的测试贡献

    图片

    #7
  • dogdays

    肥鱼何时才能北伐gpt啊 好想用上肥鱼价格的gpt

    #8
  • kooo13579

    可以加sonnet 5.5 max 嗎

    #9
  • hzqst

    opus-5.5 high

    13.5M token / $5.56 / 40分钟 / 验收没通过

    图片

    会话审计

    25分钟时定位到root cause,此时上下文长度159K

    完成时上下文长度206K

    代码变更

    在渲染模型的hook handler里先保存状态,再调用原渲染函数,最后恢复,确保g_ForcedFaceFlags状态不会泄漏:

    图片

    我的评价

    它就没有想到画模型可以不走StudioRenderModel吗?

    按它这个修法,有多少种画模型的code path,它就要加多少个save restore pair。纯纯的哪里头痛医哪里了。

    astra的评价

    图片

    #10
  • KallkaGo

    ^-^ 和我的预期一致 o÷不愧是最强雇佣兵 还是太有实力了

    #11
  • hzqst

    glm-5.3 high

    87.4M / 26.79$ / 2h (超时)

    图片

    session审计

    直到最后也只找到了事故发生的第一现场,没有定位到root cause,全程一直在左右脑互搏。

    图片

    2h超时的时候上下文长度249K

    代码变更

    该模型没有来得及修复代码就已超时

    我的评价

    拉完了

    #12

发表回复

登录后回复