这里有实战项目、入门教程、黑科技、开源书籍、大厂开源项目等，涵盖多种编程语言 Python、Java、Go、C/C++、Swift 等，让你在短时间内感受到开源的魅力，对编程产生兴趣！
并行训练-流水线 简述 并行训练主要有三种策略: 数据并行训练加速比最高，但要求每个设备上都备份一份模型，显存占用比较高，但缺点是通信量大。 张量并行，通信量比较高，适合在机器内做模型并行。 流水线并行，训练设备容易出现空闲状态，加速效率没有DP高；但能减少通信边界支持更多的层数，适合在机器间使用。
1. LLM部署-TensorRT-LLM与Triton 随着LLM越来越热门，LLM的推理服务也得到越来越多的关注与探索。在推理框架方面，tensorrt-llm是非常主流的开源框架，在Nvidia GPU上提供了多种优化，加速大语言模型的推理。但是，tensorrt-llm仅是一个推理框架，可以
全文速览 python的不同缓存组件的使用场景和使用样例 cachetools的使用 项目背景 代码检查项目，需要存储每一步检查的中间结果，最终把结果汇总并写入文件中 在中间结果的存储中 可以使用context进行上下文的传递，但是整体对代码改动比较大，违背了开闭原则 也可以利用缓存存储，处理完成之
2024年6月17日，我们的运维团队突然收到了一连串的告警。监控大屏上，代表着不同 Sealos 可用区的绿点中，零星地闪烁起了一两个红点。 “奇怪，怎么有几台服务器突然 hang 住了？” 值班的小辉皱起了眉头。 这次故障的诡异之处在于它的随机性。并非所有节点都受到影响，而是在不同可用区中，时不时
@目录概要思路梳理实现步骤小结 概要 工作中采集时候遇到一个问题，就是两张结构一样的表数据不同，哪里不同呢，如t1表是基础表，里面数据量大，但是它不全，t2表有少数t1的数据也有一些自己额外的数据，我的需求是把t2里面t1没有的数据插入到t1中 思路梳理 这种也简单就是在t2中取t1和t2的差集，然
TTL是Time To Live的缩写，通常意味着元素的生存时间是多长。 应用场景 数据库：在redis中我们最常见的就是缓存我们的数据元素，但是我们又不想其保留太长的时间，因为数据时间越长污染的可能性就越大，我们又不想在后续的程序中设置删除，所以我们此时需要设置过期时间来让数据自动淘汰。 sete
从去年年初开始，AI技术真正走入了我们的日常生活。从OpenAI到如今字节跳动的coze，我们通过AI大模型可以做很多事情，工具和平台众多，如何选择和使用有必要总结一下。 编程和debug方面 尽管gpt-4和gpt-4o确实很强，但对于持续代码改进和代码调试方面，依然不够好，并且它对于非Plus会
环境准备： 主机 host-61-118 : 192.168.61.118 host-61-119：192.168.61.119 vip：192.168.61.220 检测openssh版本，版本必须大于4.8.p1，否则需要升级openssh版本 [root@host-61-118 ~]# ssh
最近一段时间 Docker 镜像一直是 Pull 不下来的状态，感觉除了挂，想直连 Docker Hub 是几乎不可能的。更糟糕的是，很多原本可靠的国内镜像站，例如一些大厂和高校运营的，也陆续关停了，这对我们这些个人开发者和中小企业来说是挺难受的。之前，通过这些镜像站，我们可以快速、方便地获取所
Lru-k与lru的区别在于多维护一个队列，及每个元素多维护一个次数选项，对于性能的影响不大，仅仅多耗一点cpu，但是可以相应的提高命中率，下一章将介绍LFU按频次的淘汰机制。
作为一名前端开发者，vscode想必大家应该都接触过，就像大多数 IDE 一样，VSCode 也有一个扩展和主题市场，包含了数以千计质量不同的插件。 作为一名熟练掌握各种前端开发工具安装和卸载的大师兄来说，为大家安利好玩有用的工具插件是我义不容辞的责任，所以我精挑细选了九款必备的vscode插件 C
建议开启目录食用 阅读本文之前建议您先看这里，如果您已经看完了，那么就可以放心大胆的学习本文了。 我认为其实本文的难度还是比较大的，今天我们题是来自山东省省选，所以建议大家谨慎阅读，如果您是专业程序员当我没说。 OK，那么事不宜迟，咱们来看第一题 [SDOI2010] 猪国杀 题目描述 游戏背景 《
在以前我做程序的时候，一般在登录窗口里面显示程序名称，登录窗口一般设置一张背景图片，由于程序的名称一般都是确定的，所以也不存在太大的问题，不过如果客户定制不同的系统的时候，需要使用Photoshop修改下图层的文字，再生成图片，然后替换一下也可以了。不过本着减少客户使用繁琐性，也可以使用空白名称的通...
前言 前几天面试遇到的，感觉比较有趣。第一次面试遇到考架构设计相关的题目，挺新奇的，开始向国外大厂靠拢了，比天天问八股文好太多了，工作5年左右的，问八股文，纯纯的不负责任偷懒行为。 感觉此问题比较有趣，这几天简单的实现了一版本，和大家分享一下具体的细节，也欢迎大家交流讨论, 代码github链接 s
在实际的业务系统开发过程中，操作 Excel 实现数据的导入导出基本上是个非常常见的需求。 之前，我们有介绍一款非常好用的工具：EasyPoi，有读者提出在数据量大的情况下，EasyPoi 会占用内存大，性能不够好，严重的时候，还会出现内存异常的现象。 今天我给大家推荐一款性能更好的 Excel 导
博客美化 由于有小伙伴需要这些好看的代码，我就把自己从网上整合的一些代码分享给各位。 主要参考了凌云_void大佬的博客 申请JS权限 第一步你需要申请一个博客， 审核通过之后在博客后台的设置中找到申请js权限 理由积极向上即可 通过后就可以开始后门的步骤了，差不多半个小时审核就会通过。 侧边栏公告
概述 explain 关键字可以模拟执行 sql 查询语句，输出执行计划，分析查询语句的执行性能 使用方式如下：explain + sql explain select * from t1 执行计划各字段含义 1. id 如果 id 序号相同，从上往下执行 如果 id 序号不同，序号大先执行 如果两
写在前面 在之前的文章中我们有介绍过SpringAI这个项目。SpringAI 是Spring 官方社区项目，旨在简化 Java AI 应用程序开发， 让 Java 开发者想使用 Spring 开发普通应用一样开发 AI 应用。 而SpringAI 主要面向的是国外的各种大模型接入，对于国内开发者可
Smiling & Weeping 难怪春迟迟不来，原来是我把雪一读再读 一、大型语言模型（LLM）理论简介 1 大型语言模型（LLM）的概念 大语言模型（LLM，Large Language Model），也称大型语言模型，是一种旨在理解和生成人类语言的人工智能。 LLM 通常指包含数百亿（或更多
