Langchain 和 Llamaindex 是两种广泛使用的主流 LLM 应用开发框架。两者有什么不同？我们该如何使用？以下我根据各类资料和相关文档做了初步选型。 一、Langchain 1. 适用场景 （1）需要构建灵活、可扩展的通用应用程序。 （2）需要复杂的工作流程支持。 （3）需要复杂的交
检索增强生成(RAG)实践：基于LlamaIndex和Qwen1.5搭建智能问答系统 什么是 RAG LLM 会产生误导性的 “幻觉”，依赖的信息可能过时，处理特定知识时效率不高，缺乏专业领域的深度洞察，同时在推理能力上也有所欠缺。 正是在这样的背景下，检索增强生成技术（Retrieval-Augm
你是不是苦于没法使用ChatGPT？或者访问了ChatGPT却没法使用GPT4？现在一切问题都可以解决了！ 4月18日，Meta发布两款开源Llama 3 8B与Llama 3 70B模型，供外部开发者免费使用。这个消息轰动了全球开发者。按照Meta的说法，Llama 3 8B和Llama 3 70
https://zhuanlan.zhihu.com/p/106262896 在智利和秘鲁高原区经常会遇到的一种动物让人十分挠头，学术点称呼就是骆驼科其中一个族群——羊驼属和骆马属。头疼在于，分不清楚谁是谁。Guanaco, Llama, Vicuña, Alpaca……嗯……动物的世界真让人崩溃。
https://www.thepaper.cn/newsDetail_forward_23250236 LoRA 微调方法，随着大模型的出现而走红。 最近几个月，ChatGPT 等一系列大语言模型（LLM）相继出现，随之而来的是算力紧缺日益严重。虽然人人都想打造专属于自己的大模型，但是能负担得起上亿
Meta Llama 2 旨在与 OpenAI 的 ChatGPT 和 Google Bard 等其他著名语言模型对标，但又具有独特优势。在本文中，我们将聊聊 Llama 2 是什么、它的优势是什么、是如何开发的、以及如何开始上手使用。
1. 背景 五一结束后，本qiang~又投入了LLM的技术海洋中，本期将给大家带来LLM微调神器：Unsloth。 正如Unsloth官方的对外宣贯：Easily finetune & train LLMs; Get faster with unsloth。微调训练LLM，可以显著提升速度，其次显存
https://zhuanlan.zhihu.com/p/612752963?utm_id=0 https://github.com/CVI-SZU/Linlygithub.com/CVI-SZU/Linly 最近，FacebookResearch 开源了他们最新的大规模语言模型 LLaMA，包含
https://www.jianshu.com/p/f8f8f660d2c3 https://crfm.stanford.edu/2023/03/13/alpaca.html https://crfm.stanford.edu/alpaca/ https://github.com/tatsu-lab
`https://github.com/ymcui/Chinese-LLaMA-Alpaca#%E6%A8%A1%E5%9E%8B%E4%B8%8B%E8%BD%BD` 以ChatGPT、GPT-4等为代表的大语言模型（Large Language Model, LLM）掀起了新一轮自然语言处理领域
https://github.com/ymcui/Chinese-LLaMA-Alpaca/wiki/%E4%BD%BF%E7%94%A8Transformers%E6%8E%A8%E7%90%86 Pages 32 中文文档 模型合并与转换 在线模型合并与转换（Colab） 手动模型合并与转换 模
https://finance.sina.com.cn/wm/2023-02-28/doc-imyihfvp8075151.shtml ChatGPT 的爆火使得大家对 AI 进行了深度的讨论，大厂们也都在向公众展示他们所谓的 "生成性人工智能"已经准备好进入黄金时代。 近日，Meta 宣布推出大型
GPT4All是一个开源的聊天机器人，它基于LLaMA的大型语言模型训练而成，使用了大量的干净的助手数据，包括代码、故事和对话。它可以在本地运行，不需要云服务或登录，也可以通过Python或Typescript的绑定来使用。它的目标是提供一个类似于GPT-3或GPT-4的语言模型，但是更轻量化和易于
GPT 带火了一波语言模型，LLaMA 和 Alpaca 也在持续发力。依旧是各类 GPT 后缀霸榜 GitHub trending 的一周，为此特推部分专门收录了两个比较不错的 GPT 应用。而作为 ML/AI 第一首选语言的 Python 也是风头一时，除了 AI 项目之外，本周的密文解析 Ci
OpenAI公司基于GPT模型的ChatGPT风光无两，眼看它起朱楼，眼看它宴宾客，FaceBook终于坐不住了，发布了同样基于LLM的人工智能大语言模型LLaMA，号称包含70亿、130亿、330亿和650亿这4种参数规模的模型，参数是指神经网络中的权重和偏置等可调整的变量，用于训练和优化神经网络
Vicuna-13B的推理效果据说达到了ChatGPT的90%以上的能力，优于LLaMA-13B和Alpaca-13B的效果。同时Vicuna的训练成本也很低，所以尝试本地化部署一下Vicuna-7B，看看效果如何，说干就干。
上周又是被「大模型」霸榜的一周，各种 AI、LLM、ChatGPT、Sora、RAG 的开源项目在 GitHub 上“争相斗艳”。这不 Meta 刚开源 Llama 3 没几天，苹果紧跟着就开源了手机端大模型：CoreNet。 GitHub 地址：github.com/apple/corenet 开
一、技术介绍 NVIDIA Triton Inference Server是一个针对CPU和GPU进行优化的云端和推理的解决方案。 支持的模型类型包括TensorRT、TensorFlow、PyTorch(meta-llama/Llama-2-7b)、Python(chatglm)、ONNX Run
