质疑问题本身存在幻觉,问题而非答案的正确性似乎缺乏验证。数据质量有待提高。

#2
by JosephusCheung - opened

我按顺序浏览prewiew,看到第四个问题就是错误的。而我相信类似的问题也不是孤例。

image.png

幻觉的来源似乎是:

image.png

如果问题是合成的,似乎缺乏对问题本身正确性的自验证,或是模型的自验证能力存在问题。

我在这里提出合成问题由于存在指代错误等问题,准确性是否高于模型 0-shot/RAG 召回准确性的质疑。


附上前15个问题中我认为存在问题的3个题目:

在《苍之彼方的四重奏》中,有坂真白在比赛前,被哪位朋友的突然来访而错过了自己的比赛?

在《一人之下》中,三十六贼的无根生被张怀义称为四哥,根据推测他对应三十六天罡中的哪个星位?

漫画《致不灭的你》中,最初赋予不死身体的球体的名字是什么?

对的,目前链路中问题合成、SimpleQA评分都存在幻觉;需要继续做比较严格的自验证。

存在指代错误似乎难以解决,如果以自动化生产为前提,考虑删除需要跨句推理的问题;存在7个问题有编码问题已删除

JosephusCheung changed discussion status to closed
Your need to confirm your account before you can post a new comment.

Sign up or log in to comment