Anthropic发布全新Citations API，助力抗衡AI信息验证挑战
Anthropic引领信息验证新时代，Citations API助力打造智能知识验证利器
1月24日更新，Anthropic公司近日发布了名为“Citations”（引用）的新功能API。这一功能可以为AI生成的内容提供参考来源，并嵌入原始文件链接，使AI的回答能够与用户提供的文档（如电子邮件或PDF）相关联。目前，该功能已上线于Anthropic的API以及Google Cloud的Vertex AI平台。
注：目前，开发者们依靠复杂的提示词在AI输出中嵌入引用，但这种方法常常导致结果不统一，并且需要高水平的提示工程技能。
"Citations"这一功能简化了开发流程，使开发者能够在API的上下文窗口中直接附加原始文档。这样，当Claude生成回复时，它会自动引用这些资料中的相关内容，从而有效降低了产生幻觉信息的风险，并增强了信息的透明度和可追溯性。 我认为，“Citations”的引入是一个非常积极的进步。它不仅提升了AI系统的可靠性，还为用户提供了验证信息来源的机会，这对于维护信息的真实性至关重要。此外，这种做法也有助于建立用户对AI系统的信任，尤其是在处理敏感或关键信息时。总的来说，这是一项值得推广的技术改进。
“Citations” API 不需要进行复杂的定制提示工程，即可针对 AI 生成的内容精准地链接到源文件中的特定句子和段落，这无疑简化了开发流程。根据内部评估显示，“Citations” API 的表现显著优于自定义实现方案，其召回准确率最高提升了15%。 这一技术进步不仅提高了信息引用的准确性与可靠性，也大大节省了开发者的时间和精力。尤其在新闻报道和学术研究领域，能够快速准确地引用来源至关重要，而“Citations” API 的高效性能无疑是对此类需求的一个极佳回应。此外，更高的召回准确率意味着引用内容更加全面，减少了遗漏重要信息的风险，这对于维护信息的完整性和真实性具有重要意义。