前置知识 Activation 激活指的是一些在fp时计算得到的临时tensor, 会用于bp时的计算. 如果能在fp计算后把临时tensor缓存下来就可以加速bp, 缺点在于激活会占用大量显存. 以一层transformer结构为例分析下各层存在的激活. 简单部分的分析这里忽略. 主要分析下几个不
不知道我在等什么，也不知道这样等了多久，相信看到这句话的你，可能也是一头雾水吧！ 还是以往的风格写到哪算哪，写东西真的是看感觉和心情都具备，写出来的东西才更有灵性，或者说更容易引起共鸣吧！ 我在逃避? 可以这么说，但也不完全是，在一部分事情开始收尾的时候，情绪脑就占据了主导地位，就是想摆烂，什么也不
本文主要分享了一位求职者在游戏国际海外数据与发行技术团队面试中的经历，包括一面和二面的详细问题。一面中涉及了算法题、SQL题、项目相关问题以及技术细节的深入探讨，如乐观锁、RabbitMQ、Redis的应用等。二面则更侧重于对项目实施过程的反思、技术方案的选择以及实习时间的确认
前言 vue2的时候想必大家有遇到需要在style模块中访问script模块中的响应式变量，为此我们不得不使用css变量去实现。现在vue3已经内置了这个功能啦，可以在style中使用v-bind指令绑定script模块中的响应式变量，这篇文章我们来讲讲vue是如何实现在style中使用script
前置知识 混合精度训练 在参数存储时采取fp32, 开始进行fp/bp时转成fp16运算, 拿到fp16梯度后再转回fp32更新参数. ZeRO对显存占用的估算: 模型状态: Weights(fp16)、grad(fp16) 和 MasterWeights(fp32 模型参数备份)，momentum
编辑器中获取选中的文件夹、文件路径 using UnityEditor; using UnityEngine; using Object = UnityEngine.Object; public class MyEditorScript { [MenuItem("Assets/PrintSelect
我们知道LLM（大语言模型）的底模是基于已经过期的公开数据训练出来的，对于新的知识或者私有化的数据LLM一般无法作答，此时LLM会出现“幻觉”。针对“幻觉”问题，一般的解决方案是采用RAG做检索增强。
阅读学习QFramwork中的SingletonKit源码。 Singleton 普通类的单例 作为最常用的单例模块，通过继承单例泛型类来实现，需要私有构造； //使用第一种接口单例方式 internal class Class2Singleton : Singleton
引入知识图谱技术后，传统RAG链路到Graph RAG链路会有什么样的变化，如何兼容RAG中的向量数据库（Vector Database）和图数据库（Graph Database）基座，以及蚂蚁的Graph RAG开源技术方案和未来优化方向。
你知道为什么setup语法糖中的顶层绑定可以在template中直接使用的呢？setup语法糖是如何编译成setup函数的呢？
之前还写了个文档打算给老板看的，但随后跟老板口头提了下老板就很支持，这个就用不上了，存档下吧（内容自己写的，ai帮加工了下） 公司知识共享计划 销售人员 获取和添加材料：销售人员需要能够方便地获取公司的产品资料和市场推广材料，以便更好地向客户介绍和销售产品。 设计人员 素材存档：设计人员应负责将设计
C#中接口的显式实现与隐式实现 最近在学习演化一款游戏项目框架时候，框架作者巧妙使用接口中方法的显式实现来变相对接口中方法进行“密封”，增加实现接口的类访问方法的“成本”。 接口的显式实现和隐式实现： 先定义一个接口，接口中有这两个方法。 public interface ICanSingSong
前置知识 \(\sum\) 为累加符号，\(\prod\) 为累乘符号。 上三角矩阵指只有对角线及其右上方有数值其余都是 \(0\) 的矩阵。 如果一个矩阵的对角线全部为 \(1\) 那么这个矩阵为单位矩阵记作 \(I\)。 对于矩阵 \(A_{n,m}\) 和矩阵 \(B_{m,n}\) 满足 \
前置知识 Cpp实现 基础算法 // base method bool basement(int num) { for (int i = 2; i <= sqrt(num); ++i) { if (num % i == 0) return false; } return true; } 证明 筛法初
我们知道，线程池中的所有线程都是由统一的线程工厂来创建的，当我们指定线程工厂时，线程池中的所有线程会使用我们指定的线程工厂来创建线程；但如果没有指定线程工厂，则会使用默认的线程工厂 DefaultThreadFactory 来创建线程，核心源码如下： DefaultThreadFactory() {
隐私保护和身份验证是现代社会中的关键问题，尤其是在数字化时代。零知识证明（Zero-Knowledge Proofs，简称ZKP）提供了一种独特的解决方案，它允许个体在不泄露任何额外信息的情况下，证明某个陈述的真实性。以下是零知识证明在隐私保护和身份验证中的一些潜在应用。
[10]Lua脚本调用C#中的List和Dictionary 调用还是在上文中使用的C#脚本中Student类： lua脚本： print(" 访问使用C#脚本中的List和Dictionary ") student.list:Add(2024) student.list:Add(5) studen
判断对象是否要回收有引用计数法和可达性算法两种方式，无论哪种都离不开引用，本文将介绍Java的四种引用。
[8]Lua脚本调用C#中的枚举学习 --调用枚举类型 print(" toLua中调用C#中枚举类型 ") PrimitiveType = UnityEngine.PrimitiveType local cubeObj = GameObject.CreatePrimitive(PrimitiveT
toLua中Lua调用C#： [7]Lua脚本调用C#中的class 准备工作：打算在Lua脚本中使用Debug，使用lua调用C#脚本，需要绑定LuaState和自定义添加Debug Generated by EmmyLua(https://github.com/EmmyLua) Created
