2-1:使用矢量数据库通过个性化信息影响语言模型。 #
描述:如果说大型语言模型领域有一个方面变得越来越重要,那就是探索如何利用专有信息。在本课中,我们将探索一种可能的解决方案,即在向量数据库(本例中为 ChromaDB)中存储信息,并使用它来创建丰富的提示。
2-2:创建 ChromaDB 服务器。 #
描述:在这两个笔记本中,创建了一个 ChromaDB 服务器,信息从该服务器提供给包含客户端的第二个笔记本。这是一个小示例,说明如何设置可供多个客户端使用的本地 ChromaDB 服务器。
2-3:RAG 系统的语义缓存 #
描述:我们通过引入语义缓存层增强了 RAG 系统,该层能够确定之前是否曾问过类似的问题。如果是肯定的,它会从使用 Faiss 创建的缓存系统中检索信息,而不是访问矢量数据库。本笔记本中存在的语义缓存的灵感和基本代码得益于Hamza Farooq 的课程: https ://maven.com/boring-bot/advanced-llm/1/home。