自己动手搭建AI Agent效率直接起飞
。家人们，今天来聊聊超厉害的AI Agent ！它的强劲之处在于能自动执行复杂任务，大大提升自动化水平，让智能决策更高效，简直是工作学习的超强助手。 工作原理四步走 感知：通过各种传感器敏锐捕捉环境变...
排序
快速搭建本地 AI 知识库方案
。从头开始利用RAG、Agent、LangChain等技术搭建本地知识库-本地模型准备：通过Ollama部署模型，需要详细部署教程的朋友可以参照我上一条《2步轻松部署本地AI大模型》的笔记进行设置...
大模型推理加速技术的学习路线在这里！
。推理优化的重大性大模型推理优化是解决大规模语言模型（LLM）高效推理的关键。以540B参数的GaLM为例，其推理成本超级高，如果无法优化成本，模型的普惠性将大打折扣。大模型的推理需求主要可分为两类...
如何通过推理加速优化你的大模型？
目前大模型火归火，但落地一看推理慢、资源吃紧，许多都跑不动，特别是在边缘设备或者商用场景里。所以推理加速优化，真的就是决定能不能真正work的关键。我们来聊聊2025年比较实用、还挺有前景的优化手段...
大模型推理性能如何优化？
1. 模型压缩，轻量化是关键说到大模型，大家都知道它的计算量大，推理慢。要想提升推理性能，第一得思考模型的压缩。实则，许多时候并不是非要用那么重的模型。通过剪枝、量化这些技术，你可以大幅减少模型的计算...
大模型备案冲刺包！码住不踩雷！
1.语料安全：抽4000条人工+10%技术检，合格率96% 98%才过关！把敏感词库更新到最新，别让违规语料混进来 2.生成内容：题库至少1000题，人工+关键词+模型三重抽检，90%通过率是底线！提...
大模型备案安全评估要求！
生成式AI大模型要备案，安全评估是命门，我熬夜啃完官方文件，把重点画给你们。 语料安全：至少抽3万条，人工+技术双检，合格率≥98%才稳！关键词库和分类模型得按第8章标准搭，别偷懒～ 生成内容：自建题...
高手不传的秘密，5步让AI理解率提升
。 AI协作实战案例，从0到1手把手教学 还在和AI聊天像对牛弹琴？看完这个真实案例，你就知道原来AI协作可以这么丝滑！我用小红书标题创作全程展示，每一步思路都给你拆透！详细步骤和实战案例见图片 5步...
RAG优化策略分析
。RAG（Retrieval-Augmented Generation，检索增强生成）是通过外挂系统，来弥补大模型能力的不足，例如减少幻觉【召回query上下文】，提升时效性【召回最新知识】，提升推理...
大模型联盟，值得关注吗？
360集团在7月31日发布了大模型的新思路，那就是构建了大模型联盟，采用打群架的方式，对标欧本内i的GPT4，很显然这样的组合效果值得体验和支持。 360凭什么可以扯大旗构建这个联盟呢？ 实则是拿出了...
AI交互的秘诀熟悉prompt框架的力量
。️ICIO框架️CRISPE框架️TAG框架️RISE框架️TRACE框架️ERA框架️CARE框架️ROSES框架️RACE框架PATFU泡芙提示词框架
AI数据分析居然可以帮企业做这么多！
在这个科技日新月异的时代，人工智能（AI）已不再是遥不可及的概念，而是逐渐成为企业转型升级的强劲动力。企业如何巧妙地利用AI技术，赋能自身的业务呢？今天我们就来聊聊AI数据分析可以协助企业哪些核心工作...
LLM的SFT和RL有啥新发现？
1、SFT作为RL训练稳定剂的新认识以前我觉得SFT和RL是完全独立的阶段，但目前发现它们的关系要微妙得多。SFT阶段就像是为RL训练提供了一个稳定的基座，有了它，RL训练可以大幅减少不稳定性。在我尝...
终于把神经网络算法搞清楚了！！！
。神经网络由一系列相互连接的节点（称为“神经元”）组成，这些节点按照必定的层级结构组织，一般包括输入层、隐藏层和输出层。卷积神经网络（CNN）：卷积神经网络（CNN）是一种深度学习模型，专门用于处理图...
将大型语言模型作为自动对齐器，为视觉语言
。随着大型语言模型(Large Language model，LLMs)的发展，视觉语言模型(Vision-Language model, VLMs)已经达到了一个新的复杂程度，在执行复杂的认知和推理...
小型视觉语言模型的强大威力
。昨天抖音发布多模态大模型SAIL-VL-2B，该模型取得了pencompass榜单2B模型第一的成绩，展现了。今天学长给大家详细介绍了SAIL-VL-2B模型的概述与评估表现，让我们一起紧跟多模态大...
大模型备案全攻略，保障数据安全！
大模型备案，听起来复杂？实则跟着指南一步步来，就简单多了！ 技术文档、 测试报告、 用户协议，三大材料缺一不可。 技术文档要详尽，模型架构、数据流程一目了然； 测试报告关乎模型合规，性能安全一个不落...
1
2
