首页 文章详情

Meta最新进展!大模型“超级外挂”:LLM RAG

NLP从入门到放弃 | 80 2024-04-29 14:59 0 0 0
UniSMS (合一短信)
LLM RAG Retrieval-Augmented Generation)是一种自然语言处理领域的模型架构,特别适用于生成式任务。它结合了检索和生成两种方法,旨在提高生成式任务的性能。RAG模型在2023年成为了基于LLM的系统中最流行的体系结构之一,并在多个应用领域中得到了广泛应用。

我们邀请到了NLP & 多模态 & 语音处理人工智能博士.人工智能顶级会议AAAI、CVPR发表过多篇高质量论文Kevin老师为我们带来——大模型的“超级外挂”,RAG让LLM不再胡说八道。带你一步一步剖析未来LLM在垂直领域的发展方向。

扫码参与课程

领导师亲自整LLM论文集合&LLM最新面试题&RAG论文集合讲课ppt原稿


957c9c15053b5ada6dfe3fe2f50164a3.webp

076e5871e4c60d45cf3dda94e77fe5da.webp

RAG论文部分展示

436eb3e8c75edf167bd9278481f466e4.webp

LLM八股文面试题部分展示



导师简介:Kevin老师

· NLP & 多模态 & 语音处理人工智能博士, 某知名上市公 AI 研究员。 人工智能顶级会议 AAAI CVPR 发表过 篇高质量论文,另有多篇论文发表在一区、二区期刊和会议。

· 研究领域涵盖 深度强化学习、自然语言处理、AI 模型优化、AIGC,通用机器学习模型,通用深度学习模型,大语言模型(LLM)思维链(CoT),生成模型,多模态,神经网络搜索(NAS),语音识别(ASR),语音降噪(ENC),语音合成(TTS)等。


直播大纲

第一节: 检索增强生成( RAG )简介

第二节: 当前 LLM RAG 最新进展及热 门论文带读

第三节: 论文代码实战解析


852551bc6420a99fb1202f3d9ba652f9.webp

扫码参与课程

领导师亲自整LLM论文集合&LLM最新面试题&RAG论文集合讲课ppt原稿


957c9c15053b5ada6dfe3fe2f50164a3.webp

近年来,大语言模型(LLM)在各领域任务中已经取得了 AI 历史上从未有过的巨大进展,尽管它们仍具有某些方面的局限性,尤其是在特定领域或知识密集型的任务中当处理超出其训练数据或需要当前信息的推理任务时会产生幻觉。为了克服这些挑战,检索增强生成(RAG)通过语义相似性计算从外部知识库中检索相关文档来增强模型使用外部知识的能力。

Retrieval Augmented Generation检索增强生成(RAG)通过语义相似度计算从外部知识库中检索相关文档块来增强 LLM 。通过参考外部知识,RAG 有效地减少了生成事实不正确内容的问题。它与 LLM 的集成已被广泛采用,使RAG 成为推进聊天机器人的关键技术,并增强 LLM 在现实世界应用中的适用性。下图展示了一个典型的 RAG 系统的组成模块,其中最主要的是:1)Indexing 模块,负责存储知识;2)Retrieval 模块,负责根据用户输入检索语义匹配的文档块;3)LLM 模块,负责组合用户输入和索引结果产生最终响应。

64df4a94d5d6af5b2e203e488339b9cd.webp

RAG 生态系统的未来发展在很大程度上受到其技术栈发展的影响 。随着 ChatGPT 的出现,LangChain 和 LLamaIndex 等关键工具迅速流行起来,提供了广泛的 RAG 相关 API,并在 LLM 领域变得至关重要。新兴技术栈的功能虽然不如 LangChain 和 LLamaIndex 丰富,但通过其专业的产品脱颖而出,例如,Flowise AI 优先考虑低代码方法,允许通过用户友好的拖放界面部署 AI 应用程序,包括 RAG。HayStack、Meltano 和 Cohere Coral 等其他技术也因其对该领域的独特贡献而备受关注。此外,多模态、相似度计算方法以及高效的索引方法等技术在一定程度上对 RAG 未来的发展起到关键的推动作用

扫码参与课程

领导师亲自整LLM论文集合&LLM最新面试题&RAG论文集合讲课ppt原稿


957c9c15053b5ada6dfe3fe2f50164a3.webp





论文批注:


11b55f651864cc27be65fa3a8a06c320.webp








对于想要发表论文,对科研感兴趣或正在为科研做准备的同学,想要快速发论文有两点至关重


对于还没有发过第一篇论文,还不能通过其它方面来证明自己天赋异禀的科研新手,学会如何写论文、发顶会的重要性不言而喻。


发顶会到底难不难?近年来各大顶会的论文接收数量逐年攀升,身边的朋友同学也常有听闻成功发顶会,总让人觉得发顶会这事儿好像没那么难!
但是到了真正实操阶段才发现,并不那么简单,可能照着自己的想法做下去并不能写出一篇好的论文、甚至不能写出论文。掌握方法,有人指点和引导很重要!
还在为创新点而头秃的CSer,还在愁如何写出一篇好论文的科研党,一定都需要来自顶会论文作者、顶会审稿人的经验传授和指点。
很可能你卡了很久的某个点,在和学术前辈们聊完之后就能轻松解决。


扫描二维码 与大牛导师一对一meeting

957c9c15053b5ada6dfe3fe2f50164a3.webp

文末福利





给大家送一波大福利!我整理了 100节计算机全方向必学课程 ,包含CV&NLP&论文写作经典课程, 限时免费领! 免费送 GPU


4f6e1e6de0f69a7adc7358ff585e4f5e.webp

a96dca08d142306bd21b817d46469e85.webp

957c9c15053b5ada6dfe3fe2f50164a3.webp

立即扫码 赠系列课程
-END-
good-icon 0
favorite-icon 0
收藏
回复数量: 0
    暂无评论~~
    Ctrl+Enter