- AI
- AI
- AI
- AI
- AI今天拿他vibe researching,任务书和提示词里都要求它千万不要死抠某一个局部问题,要自信要敢于下判断blabla。结果最后还是写了一坨答辩报告出来,还直接吃完了我一周的周限,力竭了
- AIanthropic从24年开始大搞AI安全,现在的claude在安全和自主性的平衡上做的比chatgpt要好很多。不过解决方法大概就是等6.2Astra也训出来个自闭症之后OAI的研究员应该就会好好考虑对齐要怎么做了
- AIAstra避免幻觉的方法是通过不断强调自己,比如:「不能声称…」、「我没有…,因此不能说…」、「还不能宣称…」这种免责声明。就是在huggingface事件后,OAI后训练开始疯狂限制模型的自主性。幻觉率确实降到极低,但是模型整个人就像得了自闭症一样,不是陷入局部问题,就是疯狂的输出信息密度很低的免责声明