如何减少Host Bound模型的Device空闲时间，从而优化模型执行性能显得尤其重要，GE（Graph Engine）图引擎通过图模式的Host调度和模型下沉调度的方式，可提升模型调度性能，缩短模型E2E执行时间。
相信不少同学都有欧阳这种情况，年初的时候给自己制定了一份关于学习英语和源码的详细年度计划。但是到了实际执行的时候因为各种情况制定的计划基本都没有完成，年底回顾时发现年初制定的计划基本都没完成。痛定思痛，第二年年初决定再次制定一份学习英语和源码的详细年度计划，毫无疑问又失败了。
前言 在使用 MyBatis 进行持久层开发时，通常会与 Spring 框架集成，以便更好地管理事务和依赖注入。在 MyBatis-Spring 集成中，SqlSession 是一个非常重要的概念。本文将详细介绍 SqlSessionTemplate 和 SqlSessionDaoSupport，并
分页查询 分页查询是处理大量数据时常用的技术，通过分页可以将数据分成多个小部分，方便用户逐页查看。SQLAlchemy 提供了简单易用的方法来实现分页查询。 本篇我们也会在最终实现这样的分页效果： 1. 什么是分页查询 分页查询是将查询结果按照一定数量分成多页展示，每页显示固定数量的记录。分页查询通
在云计算和微服务架构的时代，Kubernetes (K8S) 已成为管理容器化应用的标准。然而，对于许多新手来说，K8S 的操作和管理常常显得复杂而神秘。特别是，当你第一次接触 K8S Dashboard 时，你是否也感到有些无所适从？ K8S Dashboard 是 Kubernetes 提供的一
FastAdmin是我第一个接触的后台管理系统框架。FastAdmin是一款开源且免费商用的后台开发框架，它基于ThinkPHP和Bootstrap两大主流技术构建的极速后台开发框架，它有着非常完善且强大的功能和便捷的开发体验，使我逐渐喜欢上了它。
写在前面 前段时间跟领导讨论技术债概念时不可避免地提到了代码的质量，而影响代码质量的因素向来都不是单一的，诸如项目因素、管理因素、技术选型、人员素质等等，因为是技术债务，自然就从技术角度来分析，单纯从技术角度来看代码质量，其实又细分很多原因，如代码设计、代码规范、编程技巧等等，但我个人觉得这些都是技
当你使用Edge等浏览器或系统软件播放媒体时，Windows控制中心就会出现相应的媒体信息以及控制播放的功能，如图。 SMTC (SystemMediaTransportControls) 是一个Windows App SDK (旧为UWP) 中提供的一个API，用于与系统媒体交互。接入SMTC的好
背景 用markdown用于文章写作，有几年时间了，不是很喜欢折腾，主要就是在电脑上写，用的笔记软件就是typora。由于里面有很多工作相关的，以及个人资料相关的（包含了各种账号、密码啥的），所以不敢往各种云服务上放，还是想着数据由自己来管着。 自己管数据的话，就是数据存储到哪里的问题，有很多朋友是
最近在复习k8s网络方面的知识，查看之前学习时整理的笔记和文档还有过往自己总结的博客之后发现一个问题，就是在有关flannel和calico这两个k8s网络插件的文章和博客中，会涉及到cni0和docker0这两个网桥设备，但是都没有明确说明他们俩之间的关系，有的甚至将两者混为一谈，这也是我之前的学
前置知识 混合精度训练 在参数存储时采取fp32, 开始进行fp/bp时转成fp16运算, 拿到fp16梯度后再转回fp32更新参数. ZeRO对显存占用的估算: 模型状态: Weights(fp16)、grad(fp16) 和 MasterWeights(fp32 模型参数备份)，momentum
问题 有很多应用程序在验证JSON数据的时候用到了JSON Schema。 在微服务架构下，有时候各个微服务由于各种历史原因，它们所生成的数据对JSON Object属性名的大小写规则可能并不统一，它们需要消费的JSON数据的属性名可能需要大小写无关。 遗憾的是，目前的JSON Schema没有这方
@目录概要思路梳理实现步骤小结 概要 工作中采集时候遇到一个问题，就是两张结构一样的表数据不同，哪里不同呢，如t1表是基础表，里面数据量大，但是它不全，t2表有少数t1的数据也有一些自己额外的数据，我的需求是把t2里面t1没有的数据插入到t1中 思路梳理 这种也简单就是在t2中取t1和t2的差集，然
前言 SQL语句中，聚合函数在统计业务数据结果时起到了重要作用，比如计算每个业务地区的业务总数、每个班级的学生平均分以及每个分类的最大值等。然而，今天小编将为大家介绍窗口函数，与聚合函数相比，它们也是一组函数，但在使用方法和适用场景上有所不同。在本章节中，我将重点介绍窗口函数中的RANK和DENSE
大语言模型的发展日新月异，记得在去年这个时候，函数调用还是gpt-4的专属。到今年本地运行的大模型无论是推理能力还是文本的输出质量都已经非常接近gpt-4了。而在去年gpt-4尚未发布函数调用时，智能体框架的开发者们依赖构建精巧的提示词实现了gpt-3.5的函数调用。目前在本机运行的大模型，基于这一
网络爬虫技术，早在万维网诞生的时候，就已经出现了，今天我们就一起来揭开它神秘的面纱！ 一、摘要 说起网络爬虫，相信大家都不陌生，又俗称网络机器人，指的是程序按照一定的规则，从互联网上抓取网页，然后从中获取有价值的数据，随便在网上搜索一下，排在前面基本都是 pyhton 教程介绍。 的确，pyhton
在查看一些基于mmdetection3d构建的代码的时候，一开始会摸不着头脑，它的dataset到底是怎么构造的？ 接下来就直接下载mmdetection3d这个仓库，然后去分析里面的代码。 可以看到config（比如mmdetection3d/configs/centerpoint/centerp
ThreadLocal 简介 多线程访问同一个共享变量的时候容易出现并发问题，特别是多个线程对一个变量进行写入的时候，为了保证线程安全，一般使用者在访问共享变量的时候需要进行额外的同步措施才能保证线程安全性。ThreadLocal是除了加锁这种同步方式之外的一种保证和规避多线程访问出现线程不安全的方
现在手机游戏的常规更新方案都是在启动时下载所有资源更新，游戏质量高的、用户粘性大的有底气，先安装2个G，启动再更新2个G，文件小了玩家还觉得品质不行不想玩。 最近在做微信、抖音小游戏，使用他们提供的资源缓存方案，现在要转成Android APP, 也想用这种边下边玩的机制把首包做小。 其实很简单，直
Go语言中的 reflect 包提供了运行时反射机制，允许程序在运行时检查和操作任意对象的数据类型和值。 以下是 reflect 包的一些典型使用场景： 1. 动态类型判断与转换：当需要处理多种类型的变量且具体类型直到运行时才能确定时，可以使用反射来检查变量的实际类型，并在可能的情况下进行类型转换。
