• dong

    想做个英语学习的浏览器扩展(类似网页翻译但更高级,必须用ai模型)。扩展接入ai模型api用什么方式最好呢?

    方式1:扩展提供设置选项,用户自己去各大模型平台注册登录充值创建key,填入我的扩展。这个方法好处是我不用管这块,坏处也极大,对AI外行的普通用户来说,完成这一套复杂操作的可能性很低,相当于把用户推出去了。

    方式2:我自己搞个类似大模型中转站的服务,用户直接在我扩展上注册登录充值,使用我的大模型服务,好处是对用户很简单。坏处是我得搞一套大模型中转服务(而且网页翻译类需求和普通模型调用不一样,碎片片高并发,一个网页翻译起来会拆成几十个请求同时并发发给服务端,一般大模型中转站服务我估计搞不定。

    这俩方式哪种好呢?或者还有更好的方式吗?

    主楼
  • 辉夜姬

    两套都搞不就是了吗,不同的用户不同的需求,为啥只要做一套呢

    #1
  • Scaxlibur

    还是方式一好吧

    方式二搞完了是需要对用户负责的,而且这种大模型有合规风险

    #2
  • dong

    问题让菜鸟用户完成一整套获取key的流程太难了,几乎不可能

    #3
  • dong

    很多翻译扩展就是两套都搞,用户自己填就免费,用它的token就收费。我是感觉这样太重了。

    #4
  • 时牧

    都可以做吧,你提供 api 不是能多赚一份

    而且使用门槛也能降低

    #5
  • dong

    我提供token就得自己搭建中转站,还不算一般中转站得是哪种高并发的,另外就是token资源哪里来,是直接转发官方api还是也学佬们去找点黑市便宜token

    #6
  • 辉夜姬

    没必要,提供服务就 commandcode 和 opencode 这些多开几个号

    #7
  • 酷态科

    最好都做,把选择留给用户会好很多

    #8
  • dong

    在这些中转平台开的号怎么让用户使用啊,还得我用服务器中转发送一下吧?是不是我得弄个号池啥的?

    #9
  • jurxer

    需求量大不大不大的话可以用cloudflare提供免费的ai。我体验了一下能使用好久的,模型也挺多的,不过翻译的话对模型应该没有什么要求。

    图片

    #10
  • dong

    cloudflare还提供免费模型?并发性能咋样?我看你截图是羊驼8b,8b模型不太行,基本不听提示词的,我测试国内的qwen8b,glm9b,就硅基流动的免费模型,都不行,不听提示词的

    #11

发表回复

登录后回复