主要整理了N多年前（2010年）学习C++的时候开始总结的知识点，好长时间不写C++代码了，现在LLM量化和推理需要重新学习C++编程，看来出来混迟早要还的。 1.shared_ptr 解析：shared_ptr是一种计数指针，当引用计数变为0时，shared_ptr所指向的对象将会被删除。如下所示
主要整理了N多年前（2010年）学习C++的时候开始总结的知识点，好长时间不写C++代码了，现在LLM量化和推理需要重新学习C++编程，看来出来混迟早要还的。 1.const_cast (expression)[1] 解析：const_cast转换符用来移除变量的const或v
华为云漏洞管理服务CodeArts Inspector是面向软件研发和服务运维提供的一站式漏洞管理能力，通过持续评估系统和应用等资产，内置风险量化管理和在线风险分析处置能力，帮助组织快速感应和响应漏洞，并及时有效地完成漏洞修复工作，更好地应对潜在的安全威胁。
`numpy`提供了简单灵活的接口，用于优化数据数组的计算。 通用计算最大的优势在于通过向量化操作，将循环推送至`numpy`之下的编译层，从而取得更快的执行效率。 `numpy`的通用计算让我们计算数组时就像计算单独一个变量一样， 不用写循环去遍历数组中的各个元素。 比如，对于一般的`python
摘要：模型压缩算法旨在将一个大模型转化为一个精简的小模型。工业界的模型压缩方法有：知识蒸馏、轻量化模型架构、剪枝、量化。 本文分享自华为云社区《深度学习模型压缩方法综述》，作者：嵌入式视觉 。 一，模型压缩技术概述 因为嵌入式设备的算力和内存有限，因此深度学习模型需要经过模型压缩后，方才能部署到嵌入
由百川智能推出的新一代开源大语言模型，采用2.6万亿Tokens的高质量语料训练，在多个权威的中文、英文和多语言的通用、领域benchmark上取得同尺寸最佳的效果，发布包含有7B、13B的Base和经过PPO训练的Chat版本，并提供了Chat版本的4bits量化。 一.Baichuan2模型 B
在测试工作中可以辅助功能测试包括需求分析或解读代码（注意代码安全）后生成测试用例，还可以辅助生成代码，接口测试用例，自动化脚本等各个方向起作用。当然实际使用中可能会因为提示词的不同生成的结果需要人工多次对话训练才可以。但是使用chatGPT肯定比不用能提高工作效率。当然具体落地后如何进行量化提效抽象...
主要为了测试模型增加Lora模块后，参数量和训练速度的变化情况。结论：正常情况下，增加Lora模块是会增加参数量的，因此前向传播和反向传播的时间也会增加。但是，在大语言模型训练的情况下，因为基础模型本身参数量非常大，Lora模块增加的参数量相对非常小。并且，基础模型不参与梯度更新，可以做模型量化，实
本文通过people_daily_ner数据集，介绍两段式训练过程，第一阶段是训练下游任务模型，第二阶段是联合训练下游任务模型和预训练模型，来实现中文命名实体识别任务。 一.任务和数据集介绍 1.命名实体识别任务 NER（Named Entity Recognition）和Pos（Part-of-S
记得大一学Python的时候，有一个题目是判断一个数是否是复数。当时觉得比较复杂不好写，就琢磨了一个偷懒的好办法，用异常处理的手段便可以大大程度帮助你简短代码（偷懒）。以下是判断整数和复数的两段小代码： 相信看到这里，你也有所顿悟，能拓展出更多有意思的方法~
视频以及图片修复技术是一项具有挑战性的AI视觉任务，它涉及在视频或者图片序列中填补缺失或损坏的区域，同时保持空间和时间的连贯性。该技术在视频补全、对象移除、视频恢复等领域有广泛应用。近年来，两种突出的方案在视频修复中崭露头角：flow-based propagation和spatiotemporal
一：背景 1. 简介 .NET 高级调试要想玩的好，看懂汇编是基本功，但看懂汇编和能写点汇编又完全是两回事，所以有时候看的多，总手痒痒想写一点，在 Windows 平台上搭建汇编环境不是那么容易，大多还是用微软的 MASM + DosBox 搭一个 8086 的环境，这玩意距今快 50 年了。 在以
问题描述 Redis服务负载达到100%后的影响及有何优化方法 问题解答 Redis的负载达到100% 意味着 Redis 服务器繁忙，无法跟上请求，导致客户端发送出来的请求超时。 常规情况下有一下几种情况可以导致这个问题： 1） 请求量变大达到服务上限 2） 执行默写时间复杂度高的指令，如KEYS
问题背景 在一个风和日丽的下午，公司某项目现场运维同学反馈，生产环境3个Redis的Sentinel集群节点内存占用都很高，达到了17GB的内存占用量。 稍加思索，应该是某些Key的Value数据体量过大，占用了过多的内存空间，我们在使用Redis的过程中，单个Value或者单个集合中的元素应该保证
LM出来后对爬虫程序有了新的要求，LLM也给爬虫带来了新的解决方案，本文分析Jina Reader和ScrapeGraphAI两块具有代表性的LLM时代的抓取工具功能、实现原理，带你看LLM时代的爬虫工具
这个测试板在前面介绍过, 使用的是 HC32L110C4 芯片. 测试功能很简单, 定时发送字符串`ashining`, 没有参数修改选项. 因此仅仅适用于两块测试底板之间的测试, 无法配合其它 NRF24L01 硬件设备进行收发测试. 一直想重写这个底板的功能, 增加更多的测试项, 但是太懒了一直...
# HotSpare 9361Raid卡热备盘的设置过程 ## 摘要 ``` 公司最近一批服务器到位(去年生产) 插满24盘位的 960G 的SSD 的超融合服务器. (硬盘是镁光的 !-_-!) 想着Raid6虽然数据保护比较好,但是写入是在是太垃圾了. 所以想可以增加两块热备的Raid5 这样的
今天去现场帮一个客户排查备份网络速率问题。 用户期望是万兆的速率，但实际上目前只有千兆，因为目前上面运行着数据库，且数据量较大，千兆的备份网络速率不能满足用户备份数据库的时长要求。 首先，确认备份网络是由两块网卡（eth3，eth4）做了bonding，起名为bondeth1。 使用ethtool查
所谓双向数据传输指的是客户端与服务端之间可以无差异的实现数据交互，此类功能实现的核心原理是通过创建`CreateThread()`函数多线程分别接收和发送数据包，这样一旦套接字被建立则两者都可以异步发送消息，本章将实现简单的双向交互功能。首先我们需要封装两个函数，这里`RecvFunction`函数用于接收数据，`SendFunction`函数则用于发送数据，这两段代码在服务端与客户端之间是一致的
