本文将介绍我利用集团9n-triton工具部署ChatGLM2-6B过程中踩过的一些坑，希望可以为有部署需求的同学提供一些帮助。
翻了一下之前刚入职时候的学习笔记，发现之前在熟悉业务代码的时候曾经专门学习并整理过过设计模式中的责任链模式，之前只是对其简单了解过常用的设计模式有哪些，并未结合实例和源码深入对其探究，利用熟悉代码契机进行系统学习并整理文档如下。
本文首先讲述四层负载均衡技术的特点，然后通过提问的方式推导出四层负载均衡器的NAT模型和DR模型的工作原理。通过本文可以了解到四层负载均衡的技术特点、NAT模型和DR模型的工作原理、以及NAT模型和DR模型的优缺点。
在大语言模型的训练中，经常会看到 Instruct Tuning（指令微调）这个单词，GPT家族中也有一个 InstructGPT的模型（指令微调后的GPT），通过指令微调的LLM会更按照我们期望的方式输出
目前，大模型的技术应用已经遍地开花。最快的应用方式无非是利用自有垂直领域的数据进行模型微调。chatglm2-6b在国内开源的大模型上，效果比较突出。本文章分享的内容是用chatglm2-6b模型在集团EA的P40机器上进行垂直领域的LORA微调。
今天我就介绍一个可以改变你这种现状的技术：DAO。但在介绍DAO之前我们需要先了解一下所有人都在热烈讨论的web3.0。
## 前言 最近一直在炼丹（搞AIGC这块），突然发现业务代码都索然无味了… 上次发了篇AI画图的文章，ChatGPT虽然没法自己部署，但现在开源的LLM还是不少的，只要有一块差不多的显卡，要搞个LLM本地部署还是没问题的。 本文将介绍这以下两个国产开源LLM的本地部署 - ChatGLM-6B -
## 前言 上一篇文章介绍了几个开源LLM的环境搭建和本地部署，在使用ChatGPT接口或者自己本地部署的LLM大模型的时候，经常会遇到这几个参数，本文简单介绍一下~ - temperature - top_p - top_k ### 关于LLM 上一篇也有介绍过，这次看到一个不错的图 >A rec
在团队选择敏捷开发模式下，敏捷测试部分也同以往的软件测试流程有所不同。如何平衡敏捷的快速迭代开发和解决Bug的矛盾？
我们要介绍的扩散模型的理论基础和非常重要的DDPM，扩散模型的实现并不复杂，但其背后的数学原理却非常丰富。在这里我会介绍这些重要的数学原理，省去了这些公式的推导计算，如果你对这些推导感兴趣，可以学习参
责任链模式是开发过程中常用的一种设计模式，在SpringMVC、Netty等许多框架中均有实现。我们日常的开发中如果要使用责任链模式，通常需要自己来实现，但自己临时实现的责任链既不通用，也很容易产生框架与业务代码耦合不清的问题，增加Code Review 的成本。
在[【RocketMQ】消息的拉取](https://www.cnblogs.com/shanml/p/16513229.html)一文中可知，消费者在启动的时候，会创建消息拉取API对象`PullAPIWrapper`，调用pullKernelImpl方法向Broker发送拉取消息的请求，那么在主
RocketMQ有两种获取消息的方式，分别为推模式和拉模式。 **推模式** 推模式在[【RocketMQ】消息的拉取](https://www.cnblogs.com/shanml/p/16463964.html)一文中已经讲过，虽然从名字上看起来是消息到达Broker后推送给消费者，实际上还是需
每次提交代码的时候，你是否有为如何写Commit Message而迟迟按不下提交的时刻呢？然后，死磨硬泡写了一些并提交后，又被review的小伙伴吐槽了呢？相信很多小伙伴有过这样的经历吧？ 趁着最近ChatGPT那么火，就来顺手推荐一个可以用于解决这个问题的VS Code插件：vscode-gpto
随着AI大模型的浪潮席卷全球，如今的AI技术已经颠覆了大家对传统AI的认识，微软更是用浏览器与搜索引擎上的实践，证明了当今的AI技术具备打破行业格局的能力。 对于我们应用开发者来说，AI基建的建设与竞争是无法参与的，但在AI的应用领域依然大有可为！目前，国内各大科技公司已经陆续推出了各自的AI大模型
问题描述 开发模式下使用AAD账号访问Azure Blob的流程参考文件 问题解答 第一步：先在AAD中注册一个APP，步骤可参考： 将应用程序注册到 Microsoft 标识平台 ：https://docs.azure.cn/zh-cn/active-directory/develop/quick
问题描述 移动端集成MASL登录过程中，配置文件中配置项“authorization_user_agent”使用“DEFAULT”可以正常登录，但是改为“WEBVIEW”后就无法登陆，一直处于Loading状态。 参考的示例文档： https://docs.microsoft.com/zh-cn/a
机器部署信息 lvs ： 10.0.0.200 vip 10.0.0.19 外网IP ， 172.168.1.19 内网IP dr rs: 10.0.0.200 vip 10.0.0.18 rip nat rs: 172.168.1.17 rip 客户端： 10.0.0.14 cip lvs机器：
简单记录工具的一个模块 后端 Api调用 登录 腾讯元器 后创建智能体，按自己的需求来创建，发布后要等等审核。 等发布完成后点击调用api即可，这里可以看到user_id, assistant_id，token参数 使用github.com/chenmingyong0423/go-
作为一个3D的项目，从用户打开页面到最终模型的渲染加载的时间也会比普通的H5项目要更长一些，从而造成大量的用户流失。为了提升首屏加载的转化率，需要尽可能的降低loading的时间。这里就分享一些我们在模型加载优化方面的心得。
