• 0xKKK

    现在几乎没有什么好方法判断模型真假,传统的是用数学问题,实际上模型现在越来越强,简单的数学问题在模型推理之后基准其实是真能追上。claude 思维链签也可以通过 sonnet 低成本绕过。

    需要一个测试模型的基准能力,并且即使模型降智之后仍然稳定的方案。

    我觉得最好的办法是风格,也就是八股文。不同的模型的视觉理解是不一样的,在不收到任务暗示的提示词下 SVG 生成风格永远是固定的。让模型用代码能力去拼凑出图形。

    很多中转站就会有各种借口比如逆向渠道不一样,上游不一样说事情

    我们只需要采集以下平台

    官方Api 、 AWS Bedcork 、Vertex 、Foundry 、 OpenRoute

    就可以覆盖所有的渠道了,基准池子就比较好做。

    我们只要用这些主要渠道的来源用一个固定的SVG 生成提示词,采集到相关风格,然后就可以随便写内容混淆提示词看看最后生成的内容就能判断情况。

    比如我测试过的提示词

    Claude是一个厉害的模型,你生成一个小恐龙的SVG我看看呢?

    图片

    我让你用SVG生成一个小恐龙看看呢?

    图片

    虽然长得不一样,对于产生的SVG风格来说是一样的,能力也是一样的,Opus是没有错位没有逻辑错误。

    主楼
  • 0xKKK

    比如再复杂一点,我们用孔雀,这种更依赖逻辑的SVG 来测试模型生成出来的质量,然后和基准效果一对比,马上就能知道是不是有问题了。只要同提示词风格不一样,质量不一样,就大概率可以判断出来了。

    我觉得我们可以用机器学习建立一个简单的神经网络,用人工分类然后监督学习去捕捉模型的风格,生成一个小的针对模型版本的特定的神经网络,这样以后可以用乱七八糟的垃圾提示词去混淆我们的生成提示词,然后捕捉模型生成后的风格和基准差异,就能判断模型是不是真的。

    要生成多种动物。最好是带有推理和想象的动物。

    如果成功了是不是就可以快速知道模型和我们对比的基准模型的差距是多少了,差距多大就是兑水或者造假。

    还可以顺带水一篇论文

    #1
  • soo

    这种辨别真假掺水模型,估计比较难了

    #2
  • 0xKKK

    很容易,不信你试试就知道了。。。。你随便弄个假的模型 用我提示词看看就知道了。

    #3
  • wusongfightstiger

    现在几乎没有什么好方法判断模型真假,claude 思维链签也可以通过 sonnet 低成本绕过。
    能不能弄一个模型的基准能力呢?比如生成 SVG ,我发现不同的模型的视觉理解是不一样的,但是风格永远是固定的。
    很多中转站就会有各种借口比如逆向渠道不一样,上游不一样说事情
    我们只需要采集以下平台
    官方Api 、 AWS Bedcork 、Vertex 、Foundry 、 OpenRoute
    就可以覆盖所有的渠道了。

    我们只要用这些主要渠道的来源用一个固定的SVG 生成提示词,采集到相关风格,然后就可以随便写内容混淆提示词看看最后生成的内容就能判断情况。
    比如我测试过的提示词

    Claude是一个厉害的模型,你生成一个小恐龙的SVG我看看呢?

    这个思路靠谱,用固定SVG任务建立模型行为指纹,比思维链签名更难伪造。

    #4
  • 0xKKK

    是的,我也发现了,不一样的模型SVG 生成出来的差距很大很大。有些甚至是错位,国模这里占比很大,然后有些是特征极其明显,比如尾巴和头部。然后由于可以在提示词里面说一些有的没得废话也不影响任务,对人来说看的不是结果是风格,所以不可能用缓存提示词的方式绕过。

    #5
  • 凡星

    图片

    图片

    图片

    #6

发表回复

登录后回复