- MissMoon2026-09-23
用的是cpolar内网穿透，机器配置是移动端的4070，显存占用7g左右，本地测试单次调用100ms左右
示例调用：
curl -X POST “https://6c2b0c47.r8.cpolar.cn/v1/predict” -H “Content-Type: application/json” -d ‘{
“state”: “中午想吃油炸的食物！”,
“questions”: {
“department”: {
“type”: “choice”,
“instructions”: “用户中午想吃什么食物？”,
“criteria”: {
“damage”: “汉堡”,
“logistics”: “炸鸡”,
“other”: “其他”
}
},
“is_urgent”: {
“type”: “noul”,
“instructions”: “用户是否想吃的是炸鸡？”
}
}
}’
主楼 - xxx2026-09-23
不是说这玩意没有微调的话和瞎猜差不多吗
- MissMoon2026-09-23
应该是这个模型好像对中文的支持不是很友好吧
- 蟹黄堡2026-09-23
定制化做了微调 现在跟jev的准确率差不多 ^-^
- kamu972026-09-23
本地部署跟直接调他提供的那个有什么区别呢，本地部署消耗的资源多吗
- MissMoon2026-09-23
可以自己微调，本地算力免费，8g显存就能流畅运行
- muliao2026-09-23
如何微调？用它在本地搭了一个控制玩俄罗斯方块的游戏。效果比直接调用JEV来控制差挺多的。