- starlight3122026-09-1834256
目前参考了很多类似于 CPA、SubAPI 这种开源项目以及 CCSwitch,自己做了一些类似于协议转换、负载均衡的代理器,把我们域内各种各样的模型全部集合在一起了,做了一些按优先级选择模型、错误熔断之类的功能。
我今天刷到 JEV 这个玩意儿感觉挺有意思的,是不是可以说把它集成进去?因为我现在不管是用 pi/claude/codex也好,还是各种客户端也好,调用的模型基本都是走统一入口,然后在我自己的代理里面通过拖拽去选择优先级。
想问一下:
- 有没有使用过 JEV 这个模型的大佬?
- 或者有没有已经做出这种功能的开源项目推荐?
主楼 - KingIsKing2026-09-1828807
在做这方面的探索,只能说具体要看jev模型的size,太小可能智商不足,太大都要走线上托管就很麻烦
- yu17452026-09-1830483
它最适合的其实是实时审查。你开中转站肯定不希望用户拿着你的API去搞一些逆向、NSFW之类的玩意,这种会把账号搞废掉的东西用JEV的超便宜输入+快速返回特性去做初筛是最好的,然后再接入一些开源AI做二次筛查。
- starlight3122026-09-1834256
是的,这个也有一个问题:毕竟它不是开源的模型,什么东西都要走线上托管,相当于是把自己的一些数据往那边重新发一遍,然后让它来判断
- starlight3122026-09-1834256
对的,因为我这里其实类似于一个小的中转站,相当于是我们组内放了几个账号在里面。
我其实想的是,不能让所有人都无止境地去用 GPT 6。我们可以把一些请求路由到像 Opus 4.8、Opus 5 这种稍微便宜一点的域内模型。
这里主要有两个考虑:
- 额度的限制
- 实际需求:其实有些任务根本就不需要用到这种旗舰模型
- yu17452026-09-1830483
如果你是想做路由本身的话,我感觉这玩意的智力未必能支持它判断任务复杂程度 ^-^
- starlight3122026-09-1834256
好吧,其实 harness本身其实也支持,比如说使用子代指定子代理是一些什么什么模型之类的。
其实更多的时候,我想的是一些主模型,比如说让它起个服务、简单地查点东西,其实没必要用这种旗舰模型。我是这样想的,那这一块还是暂时观望吧,看一看有没有什么大佬到时候能搓出一些好好玩的东西。
- lanvent2026-09-186010
至少对于安全审查来说,应该会挺快的
- SuperKevin2026-09-1815867
我觉得主要是由于 Jev 的架构很特别,所以没法很方便地和其他模型比较智能,所以不知道效果咋样
- yu17452026-09-1830483
我正在使用Jev做一个反代的预审查程序,到时候看看效果吧
- KeenCougar992026-09-1816920
坐等一下,感觉可以有
- KingIsKing2026-09-1928807
从harness入手是比较合适的,小模型做判断最大的问题就是拎不清自己的能力边界,如果用大模型做判断还不如直接让大模型把活干了
- NukaColaM2026-09-196803
虽然但是,我一开始还以为是JAV打错字母,我还想这玩意还能接CPA的吗。 ^-^
- benzoo2026-09-198623
droid factory说自己有类似的模型智能选择,不知道是不是佬想的那种,当然 也不知道droid是否会把自己的商业卖点公开^-^