Peterliang

SFT，全称是Supervised Fine-Tuning，监督微调。个人理解就是通过对预计预训练好的大模型做二次训练，让大模型从一个全能型人才转为特定领域的专家，是一个从通才转为专才的过程。举个例子，大模型A在数学微积分方面只能拿到80分，模型幻觉率5%，通过对模型进行微调，理论上是可以让他在微积分方面拿到99分，模型幻觉率0.5%，当然这个过程不是那么简单，里面还需要做很多的优化，影响的因素比如数据集的质量，训练轮次，微调方案选型等...

MCP，全称是Model Context Protocol，模型上下文协议。他是一种通信协议，约定了AI Agent在使用工具时候的范式。MCP核心分为三个部分，分别是客户端（Client），服务端（Server）和通信协议（Protocol） 客户端：通常指的是LLM应用，比如Cursor，Trae等等，它负责接收用户输入的指令，并通过模型决策，最终决定什么时候调用工具。 服务端：提供具体工具和数据源的服务端，它负责执行具体的操作动作...

一个自主的智能体是一个位于环境中并与部分交互的系统，它感知环境并对其采取行动，随着时间的推移追求自身的议程，并以此影响它未来的感知。

这篇论文提供了一个RAG实践的框架，介绍了在RAG pipline中每个阶段该如何进行优化。通过这篇论文，可以了解到RAG在检索和生成阶段的核心细节，有助于加深对RAG的了解，为今后的实现提供了一定的指导意义。

• 论文地址：https://arxiv.org/pdf/2005.11401
• 知乎中文翻译：https://zhuanlan.zhihu.com/p/563941115

作为RAG领域的经典论文，这篇论文核心讨论了RAG模型，文中提到了RAG-序列模型和RAG-token模型以及其核心原理。同时实验对比了RAG和现有的BERT等在NLP多个任务中的表现，表明了RAG模型的可行性和优越性。接下来，将针对论文核心部分做个人学习总结。