Ollama 是一个开源的本地大语言模型运行框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。
学习开源Harness框架
LlamaFactory 是一个简单易用且高效的大型语言模型(Large Language Model)训练与微调平台。通过 LlamaFactory,可以在无需编写任何代码的前提下,在本地完成上百种预训练模型的微调。
EvalScope 是魔搭社区倾力打造的模型评测与性能基准测试框架,为您的模型评估需求提供一站式解决方案。
自然语言处理(Natural Language Processing, NLP)是人工智能和语言学的一个交叉领域,致力于让计算机能够理解、解释和生成人类语言。
垂类业务如何落地生产级 Agent?上下文工程、软件工程关键技术与从感知到记忆的系统化构建,分别如何支撑 AI Agent 实战?
AI 辅助测试如何落地单元、固件、端到端与渗透环节?
Docker 与三种环境方案深度对比
了解汽车与电动汽车的整车控制系统
了解AI 编程提效、代码质量管控与框架实战
知识图谱与本体论的关系辨析及落地实践
Jev 判断模型及其配套记忆架构
AI 的能力究竟如何衡量?
随着大语言模型(LLM)参数规模迈向千亿甚至万亿级别,如何高效、低延迟地将其部署上线,成为AI系统领域最核心的挑战之一。vLLM作为当前最炙手可热的高性能推理框架,通过一系列颠覆性的系统设计,在吞吐量和内存管理上实现了数量级的提升。
AI系统架构设计是构建高性能、高可用人工智能应用的蓝图,它涵盖了从底层数据管道、模型训练与推理服务,到上层应用集成与全生命周期运维(LLM Ops)的完整技术链路。
LLM智能体(Agent)评测的核心维度,包括工具调用(正确性与效率)、自主工作流(任务完成度)和推理能力
Langfuse 为 AI Agent 提供全链路可观测性,实现智能体监测与运维的闭环管理。
FDE(Forward Deployed Engineer,前沿部署工程师),这个角色不是传统的算法工程师,也不是纯粹的 Agent 开发者,而是站在 AI 能力与企业业务之间的那个人——理解业务、改造流程、接入系统、确保上线。
基于业务调研构建领域本体,如何打通从知识建模到 LLM 驱动的可验证 AI 应用落地闭环
利用 Windows GPU 机器通过 WSL2 运行 Linux CUDA 环境,实现原生级 GPU 计算性能与 Linux 开发工具链的无缝融合。