简介
具有完整 RAG 和 AI 代理功能的一体化桌面和 Docker AI 应用程序。
AnythingLLM是一个全栈应用程序,您可以使用现成的商业大语言模型或流行的开源大语言模型,再结合向量数据库解决方案构建一个私有ChatGPT,不再受制于人:您可以本地运行,也可以远程托管,并能够与您提供的任何文档智能聊天。
AnythingLLM将您的文档划分为称为workspaces (工作区)的对象。工作区的功能类似于线程,同时增加了文档的容器化,。工作区可以共享文档,但工作区之间的内容不会互相干扰或污染,因此您可以保持每个工作区的上下文清晰。
AnythingLLM的一些酷炫特性:
多用户实例支持和权限管理
工作区内的智能体Agent(浏览网页、运行代码等)
为您的网站定制的可嵌入聊天窗口
支持多种文档类型(PDF、TXT、DOCX等)
通过简单的用户界面管理向量数据库中的文档
两种对话模式:聊天和查询。聊天模式保留先前的对话记录。查询模式则是是针对您的文档做简单问答
聊天中会提供所引用的相应文档内容
100%云部署就绪。
“部署你自己的LLM模型”。
管理超大文档时高效、低耗。只需要一次就可以嵌入(Embedding)一个庞大的文档或文字记录。比其他文档聊天机器人解决方案节省90%的成本。
全套的开发人员API,用于自定义集成!
支持的LLM:
任何与llama.cpp兼容的开源模型
OpenAI
OpenAI (通用)
Azure OpenAI
Anthropic
Google Gemini Pro
Hugging Face (聊天模型)
Ollama (聊天模型)
LM Studio (所有模型)
LocalAi (所有模型)
Together AI (聊天模型)
Perplexity (聊天模型)
OpenRouter (聊天模型)一个综合性人工智能应用程序,利用大型语言模型(LLM),它允许用户与任何文档、资源(如网址链接、音频、视频)或内容片段进行交互。
网址
https://github.com/Mintplex-Labs/anything-llm
https://useanything.com/download