通过大模型来实现多个智能体进行游戏对局这个想对已经比较成熟了无论是去年惊艳的斯坦福小镇还是比如metaGPT或者类似的框架都是使用智能体技术让大模型来操控，从而让大模型跳出自身“预测下一个token”的文字功能去探索更多的应用落地可能性。不过一直没有真正操作过，直到前段时间看到一个新闻《和GPT-4
Docker部署深度学习模型 基础概念 Docker Docker是一个打包、分发和运行应用程序的平台，允许将你的应用程序和应用程序所依赖的整个环境打包在一起。比如我有一个目标检测的项目，我想分享给朋友，那么他首先需要在自己的电脑上配置好显卡驱动、CUDA、CuDNN，在拿到我的项目后，还需要安装各
环境安装 buildroot编译 buildroot下载，编译： 下载地址：Index of /downloads (buildroot.org) 下载版本：https://www.buildroot.org/downloads/buildroot-2022.02.2.tar.gz 下载完成后，解压
前言 qt提供了q3d进行三维开发，虽然这个框架没有得到大量运用也不是那么成功，性能上也有很大的欠缺，但是普通的点到为止的应用展示还是可以的。 其中就包括华丽绚烂的三维图表，数据量不大的时候是可以使用的。 前面介绍了基础的q3d散点图、柱状图、三维曲面图，本片深入对三维曲面图支持的颜色表现方式进行探
1、官网 ChatGLM3 2、下载ChatGLM3源码 直接在https://github.com/THUDM/ChatGLM3，下载源码 3、下载模型 如果显卡8G一下建议下载ChatGLM3-6B，ModelScope是国内的，下载比较快 用下面两种方式都可以下载 使用git在MadelSco
在了解一些概念之前一直看不懂上交22年开源的TRTModule.cpp和.hpp，好在交爷写的足够模块化，可以配好环境开箱即用，移植很简单。最近稍微了解了神经网络的一些概念，又看了TensorRT的一些api，遂试着部署一下自己在MNIST手写数字数据集上训练的一个LeNet模型，识别率大概有98.
多项分布是二项分布的推广，描述了在n次试验中k种不同事件出现次数的概率分布。参数包括试验次数n、结果概率列表pvals（和为1）和输出形状size。PMF公式展示了各结果出现次数的概率。NumPy的`random.multinomial()`可生成多项分布数据。练习包括模拟掷骰子和抽奖活动。解决方案...
目录工厂方法模式的瑕疵注册表 工厂方法模式的瑕疵 在前一篇笔记中我们介绍了工厂方法模式，示例的类图如下： 考虑一种情况：现在要在程序运行时，根据外部资源，动态的实例化对象。也就是说在编译期我们无法知道要实例化的对象的类型。因此在实例化的过程中，就需要加以判断。 例如，在我的例子中，要根据连接到主机的
Redis是基于Reactor模式开发的网络事件处理器，这个处理器是单线程的，所 以redis是单线程的。 为什么它是单线程还那么快呢？ 主要有以下几个原因： 一、纯内存操作 由于Redis是纯内存操作，相比于磁盘来说，内存就快得多，这个是Redis快的主要 原因。 二、多路复用I/O机制（NIO）
LLM 大模型学习必知必会系列(十二)：VLLM性能飞跃部署实践：从推理加速到高效部署的全方位优化[更多内容：XInference/FastChat等框架]
Netty 线程模型是指 Netty 框架为了提供高性能、高并发的网络通信，而设计的管理和利用线程的策略和机制。 Netty 线程模型被称为 Reactor（响应式）模型/模式，它是基于 NIO 多路复用模型的一种升级，它的核心思想是将 IO 事件和业务处理进行分离，使用一个或多个线程来执行任务的一
本文介绍了均匀分布和逻辑分布。均匀分布是连续概率分布，所有事件在指定范围内有相等概率发生，常用于随机数生成。其概率密度函数为 `f(x) = 1/(b-a)`，其中 a 和 b 分别为下限和上限。NumPy 的 `random.uniform()` 可生成均匀分布的随机数。Seaborn 可用于可视...
LLM 大模型学习必知必会系列(十)：基于AgentFabric实现交互式智能体应用,Agent实战 0.前言 **Modelscope **是一个交互式智能体应用基于ModelScope-Agent，用于方便地创建针对各种现实应用量身定制智能体，目前已经在生产级别落地。AgentFabric围绕可
泊松分布是描述单位时间间隔内随机事件发生次数的离散概率分布，参数λ表示平均速率。公式为 P(k) = e^(-λ) (λ^k) / k!。NumPy 的 `random.poisson()` 可生成泊松分布数据。当 λ 很大时，泊松分布近似正态分布。练习包括模拟顾客到达、比较不同 λ 下的分布及模拟...
前言 使用QGis的目的是进行二次开发，或者说是融入我们的应用（无人车、无人船、无人机），本片描述搭建QGis二次基础开发环境，由于实在是太长了，进行了分篇： 上半部分：主要是安装好后，使用QtCreator可以使用QGIs的apps下的Qt使用对应的编译器编译不带qgis的空工程。 下半部分：在上
LLM 大模型学习必知必会系列(八)：10分钟微调专属于自己的大模型 1.环境安装 # 设置pip全局镜像 (加速下载) pip config set global.index-url https://mirrors.aliyun.com/pypi/simple/ # 安装ms-swift pip
自托管模式运行dapr 新建订阅webapi项目,取名为backend 项目增加docker支持，取消https支持 修改Program.cs var builder = WebApplication.CreateBuilder(args); builder.Services.AddControll
LLM 大模型学习必知必会系列(三)：LLM和多模态模型高效推理实践 1.多模态大模型推理 LLM 的推理流程： 多模态的 LLM 的原理： 代码演示：使用 ModelScope NoteBook 完成语言大模型，视觉大模型，音频大模型的推理 环境配置与安装 以下主要演示的模型推理代码可在魔搭社区免
在这篇文章中，我们介绍了如何利用大型语言模型为情人节营造难忘的氛围。通过上传图片并进行风格转化，我们可以为对方呈现一幅独特的作品，增添浪漫的色彩。同时，借助搜索功能，我们能够轻松获取与情人节相关的信息，为策划活动提供更多灵感和建议。
前戏 NumPy(Numerical Python) 是 Python 语言中做科学计算的基础库。重在于数值计算，也是大部分Python科学计算库的基础，多用于在大型、多维数组上执行的数值运算。 快捷键的使用： 添加cell：a或者b 删除：x 修改cell的模式： m：修改成markdown模式
