人工智能“推理轨迹”方法揭示潜在的训练数据来源

AI综合 · 已去除偏见 · 仅事实

研究人员开发了一种新技术，用于检查像Claude、GPT和Gemini这样的大型语言模型的内部推理过程。这种方法提取“推理轨迹”，并导致发现一些中国人工智能模型可能是在基于领先的美国开发的模型的数据上进行训练的。

该研究团队想出了窥探这些人工智能系统‘内心想法’的方法。通过分析模型在生成响应时采取的步骤——“推理轨迹”，他们能够识别出表明人工智能知识库潜在来源的模式。研究人员没有指出具体是中国的人工智能模型。

The findings suggest a possible reliance on US-created AI for training purposes. 根据消息来源，这是通过分析这些推理轨迹揭示的。这种方法允许调查人员看到人工智能如何得出结论，从而有可能暴露其训练数据和影响其响应的因素。研究人员表示，他们的发现表明一些中国人工智能模型可能是在领先的美国模型上进行训练的。