下一代推理优化技术

高性能网络驱动的PD分离与KV Cache Offload测试 为全面验证高性能网络与PD分离、KV Cache Offload这两项技术的性能优势与应用价值,NVIDIA、超擎数智、联想、DaoCl...
头像1年前
290

🔥牛爆了 Tripo一键生成3D模型

以前一直用blender来跟ip建模,最近发现了这个好用的工具分享给大家,简单谈谈使用感 1.使用流程比较方便,只需要几个步骤就可以导出3d模型,并支持各种格式。 2.尝试了几个简单的模型,整体效果还...
头像1年前
7130

即插即用的金融交易多智能体TradingAgents

支持美股、港股和A股的多智能体大语言模型金融交易框架TradingAgents 项目由MIT和UCLA团队联合打造,并有相关论文介绍。 介绍:通过Agent模拟真实交易公司,构建多金融分析团队,支持多...
头像1年前
000

手机跑端侧大模型?

手机跑端侧大模型?在手机上用命令行跑minicpm-v#大模型 #玩机技巧 #多模态人工智能请问目前有办法做到像APP一样运行大模型的方案吗
头像1年前
250

中金观点:AI大模型在金融行业的应用情况

📘 应用现状 根据英伟达发布的针对近400家金融机构的调研,43%的金融机构已经在使用大模型,主要用于报告生成(37%)、客户体验及活跃度优化(34%)、合成数据生成(33%)和营销(32%) 📘 大...
头像1年前
180

大模型安全疑问

目前在实习,做大模型安全,感觉这个方向工业界需求不大,如果phd做这个等毕业找工作是不是就寄了,比较迷茫,欢迎大佬给出意见需求实则是有的,但一般只有大厂才养得起这样的组,并且永远绕不开的困境就是,“我...
头像1年前
17240

速来收藏! LLM推理优化最全资源库📦

如果你正在研究大语言模型(LLM)的推理优化,特别关注高效部署、吞吐量提升、显存优化等方向,那么这个 GitHub 仓库你一定不能错过: 🔗 项目地址:xlite-dev/Awesome-LLM-In...
头像1年前
020

🔥2025 智能制造8大领域

💡 为什么选智能制造? ✅智能制造产业规模将高速增长,预计到2026年,智能制造相关产业规模有望逼近4.5万亿元;这一增长不仅体现在制造业本身,还将推动上下游产业链的协同发展。 🌟包含智能物流与供应链...
头像1年前
000

自动化人黄金赛道与逆袭路线

自动化人 : 五大搞钱新赛道#自动化 #人工智能就业 #机器人 #专业 #2025高考 #高考 #就业 #自动化设备 #工业机器人 #工业自动化我这个自动化狗居然有如此光明的未来!
头像1年前
16250

推理优化还有未来吗

打开小红书就会精准推送,某双九,多段大厂实习,开源贡献,论文,offer情况都并不好(含蓄了),我半年前(大四时)从后端开发转向推理优化,确实是比较感兴趣,但有时候是不是不得不向现实低头,两年后的形势...
头像1年前
17260

【Qt应用程序】

Qt应用程序 摘要概述快速开始Qt在线下载与安装Visual Studio开发Qt项目VS配置Qt扩展VS创建Qt项目配置qDebug调试信息配置源程序的字符集 项目结构对象树与内存回收基础数据类型信...
头像1年前
0110

秋招看看机会

* ai infra推理优化秋招,主要做moe并行推理优化 * bg双九本硕 一段大厂实习对口经历 一段sglang贡献经历 * 欢迎关注zhihu,一起交流: wxzhou(准备秋招) #秋招提前批...
头像1年前
1750

新概念:中国星际之门小表格挑战美算力地位

面对全球人工智能竞争日益激烈,算力已成为大国科技较量的核心战场。中国在“东数西算”总体布局下,于芜湖启动被称为“星际之门”的重大高性能计算中心集群,旨在构建服务长三角、辐射全国的智能算力枢纽。该计划不...
头像1年前
050

一键出!大学生自己的真人手办

一不小心O成本实现了手办自由! 一堆小自己,也太可爱了吧~ 方法巨简单,有手就会!不用口令没有复杂操作,真•一键生成! #winkai绘画 #wink真人手办 #winkai特效这题我也会
头像1年前
10170

字节-大模型安全策略-一面面经

tl:02.18客服产品二面挂-02.19这个岗捞-02.20面试 碎碎念:这个岗在cqc下面,面之前做了功课知道这里做的事都相对基层,基本就是大量审核岗跟少数运营岗,但是看着策略二字我还是产生了不切...
头像1年前
1980

🚀AI图像生成进入“极速时代”!

一、本文解决了什么问题? 核心问题: 现有的掩码自回归图像生成模型(Masked AR)在图像质量和生成效率方面仍落后于扩散模型,主要瓶颈在于: Tokenizer压缩率低(通常为8×或16×),导致...
头像1年前
050

建筑师必收!7个AIGC神器,效率翻倍!✨✨

还在为设计效率发愁?这7个AIGC工具用熟了简直是建筑师的“外挂”!帮你从灵感构思到方案落地,全程开挂!👇 1⃣ MidJourney 🌟 功能:AI生成超逼真建筑概念图,输入关键词就能出图! 💡 用...
头像1年前
1100