链载Ai

标题: Anthropic 新研究让大模型承认 [打印本页]

作者: 链载Ai 时间: 8 小时前
标题: Anthropic 新研究让大模型承认

ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;padding-top:8px;padding-bottom:8px;margin:1em 4px;line-height:26px;color:black;">最近研究发现，那些平时ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;color:#35b378;">自信满满的大模型，竟然也能有了"自知之明"？！

ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;padding-top:8px;padding-bottom:8px;margin:1em 4px;line-height:26px;color:black;">没错，就是那些动不动就喊着"我无所不能"的AI，现在也学会说"这题我不会"了！

ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;margin: 1em 4px;line-height: 26px;color: black;">ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;margin: 0px auto;width: auto;max-width: 100%;height: auto !important;" width="auto" src="https://api.ibos.cn/v4/weapparticle/accesswximg?aid=88563&url=aHR0cHM6Ly9tbWJpei5xcGljLmNuL3N6X21tYml6X3BuZy9NM1ByaFNVSUNuR05lYWlhV082RWpubHpGNUpVcGh4aWJ6VW1ld3NoS0JZaWFzQkY2RjhUOEV5V0NqZUxKTFJaTmNWekFYQWtwZEV2WGhnVThwdUdOeVdxdy82NDA/ZnJvbT1hcHBtc2c="/>

ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;padding-top:8px;padding-bottom:8px;margin:1em 4px;line-height:26px;color:black;">这项名为"ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;color:#35b378;">自我校准提示"的新技术，简直就是给AI装上了一个"ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;color:#35b378;">诚实药丸"。

它的操作也很简单，就是ingFang SC", Cambria, Cochin, Georgia, Times, "Times New Roman", serif;color:#35b378;">两步走：

先让AI回答一个问题
再让AI评价自己刚才的回答对不对

就这么简单的两步，居然能让那些平时嘴硬的大模型乖乖认错？

有网友表示："这不就是打脸神器吗？以后GPT-4再敢胡说八道，我就用这招！"

这项技术源自Anthropic 的论文——《语言模型（大多）知道它们知道什么》。

来自Anthropic 的论文作者发现，越大的模型，在自我评估方面表现得越好。这就好比，学霸不仅会做题，还知道自己哪道题做对了。

有意思的是，研究还发现了一个叫"P(IK)"的小玩意儿。这东西就像是给AI装了个"知识探测器"，能预测模型是否能正确回答某个问题。

更神奇的是，如果你给AI一些提示或参考资料，它的"P(IK)"值就会增加。这不就是活学活用吗？

有网友调侃道："这下AI也有'临场发挥'的机会了？给点提示就能临时抱佛脚？"

此外，这项技术还有很多有趣的细节。

比如，研究人员发明了一个"头脑风暴"技巧，让AI在评估自己之前先看看其他可能的答案。这种方法居然大大提高了AI的自我评估能力！

这简直就是给AI开了个“对比学习”的小灶啊！

更让人惊讶的是，随着模型规模的增大，AI的自我验证能力似乎提升得比生成能力更快。这意味着，未来的大模型可能会更懂得审视自己。

有网友戏称：以后AI不仅能写作文，还能当阅卷老师了？

总的说来，这项研究为我们揭示了AI自我认知能力的一个新维度。

它让我们看到，未来的AI可能不仅仅是一个全知全能的黑盒子，而是一个能够理解自身局限的智能助手。

而我想补充的是：连AI都开始"自知"了，我们人类是不是也该多反省反省？

欢迎光临链载Ai (https://www.lianzai.com/)