如何在 Docker 中安全部署 Xinference 并配置 API 鉴权
在高性能计算服务器上通过 Docker 部署 Xinference 时，由于其默认配置较为开放，直接将端口映射到公网会带来极大的安全风险。 本文将记录如何通过配置文件开启鉴权，并解决 /status 接口泄露系统信息的“隐患”。 基础部署环境首先，我们通常使用如下命令启动一个基础的 Xinference 容器，支持多 GPU 调用： 123456docker run --name xinference -d -p 9997:9997 \ -e XINFERENCE_HOME=/data \ -v /your/path/xinference/:/data \ --gpus '"device=0,1"' \ xprobe/xinference:latest \ xinference-local -H 0.0.0.0 开启核心鉴权：配置仅设置 XINFERENCE_AUTH_TOKEN 环境变量往往是不够的，Xinference 需要显式的配置文件来激活用户管理系统。 第一步：创建配置文件在宿主机的挂载目录（如 /data）下创建...
基于 LangGraph + Dify 的智能产品查询助手开发实践
本文详细介绍了如何使用 LangGraph、Dify 知识库和 DeepSeek 大模型构建一个高质量的产品查询助手，包括架构设计、核心优化和最佳实践。 📋 目录 项目背景 技术架构 核心功能 关键优化 实现细节 性能表现 最佳实践 总结与展望 项目背景业务需求在企业产品咨询场景中，用户经常需要查询产品的功能、价格、案例等信息。传统的关键词搜索或简单的问答系统往往无法满足以下需求： 意图理解不准确：用户问”价格是多少？”，系统不知道是哪个产品 检索质量不稳定：相同问题可能返回不同质量的结果 回答不够精准：返回所有产品信息，而不是用户问的那个 缺少交互引导：无法通过澄清问题帮助用户明确需求 解决方案我们基于 LangGraph 构建了一个智能产品查询助手，通过以下技术实现高质量的产品咨询服务： LangGraph：构建可控的 Agent 工作流 Dify 知识库：存储和检索产品信息 DeepSeek-v3.2：提供强大的语言理解和生成能力 多轮澄清机制：引导用户明确查询意图 智能检索优化：提升检索质量和准确性 技术架构整体架构图 LangGraph...
Git 教程
Git 的核心并不只是记住命令，而是理解它的四个工作区域以及数据在这些区域之间是如何流动的。 本文将 Git 的体系分为“基础架构”和“核心功能”两部分来介绍。 Git 的体系架构在深入功能之前，你需要理解 Git 追踪代码的四个位置： **工作区 (Workspace)**：你电脑里实际看到的文件夹，也就是你写代码的地方。 **暂存区 (Index / Staging)**：一个临时的“缓冲带”，记录你准备提交哪些修改。 **本地仓库 (Local Repository)**：存储在你电脑上的版本历史（位于 .git 文件夹）。 **远程仓库 (Remote Repository)**：托管在服务器上的代码库（如 GitHub、GitLab）。 核心功能详解几个操作场景： A....
跨域问题-2
如果我无法修改后端 CORS 配置时，可以使用以下方法： 方案1：开发代理（推荐）:fire:在开发环境中配置代理，将请求转发到目标服务器： Vite 项目： 123456789101112// vite.config.jsexport default { server: { proxy: { '/api': { target: 'https://api.example.com', changeOrigin: true, rewrite: (path) => path.replace(/^\/api/, '') } } }} Webpack/Create React App 配置： 1234// package.json{ "proxy":...
跨域问题-1
如今的 Web 项目大多采用前后端分离架构,这使得跨域问题变得常见。 CORS (Cross-Origin Resource Sharing) 跨域资源共享，是浏览器的安全机制。当前端（如 http://localhost:3000）请求后端（如 http://localhost:5000）时，因为域名/端口不同，浏览器会阻止请求，除非后端明确允许。 跨域问题有哪些现象如果出现跨域问题： 前端：浏览器正在访问一个页面 https://www.helloworld.net/special ， 此页面中发送了一个后端的一个 http 接口 后端：访问的后端接口为： https://tiger-api.helloworld.net/v1/special/getSpecialList 提示：has been blocked by CORS policy: Response to preflight request does not pass access control check 翻译过来就是：已被 CORS...
15个AI智能体开发应用平台
零代码开发平台码上飞码上飞（CodeFlying）由北京跨赴科技有限公司（简称“跨赴科技”）开发，是国内首款L4级自动化智能软件开发平台，依托大模型与软件开发技术，实现了与AI对话即可开发出完整应用的功能。 核心功能： 零代码开发 用户只需一句话简单描述需求，AI能自动生成小程序、APP或H5网页应用，无需编写代码 用户无需编程基础，只需描述需求，平台即可自动完成需求分析、代码生成、测试部署全流程 多平台应用生成 支持生成微信小程序、安卓APP、鸿蒙APP、H5网页等多种应用形式，实现”一次开发，多端部署” 支持一键发布到多个平台，如小程序、安卓、鸿蒙OS等 全流程自动化 从需求输入到部署交付全程无需人工干预，AI自动生成前后端代码、数据库结构和用户界面 5分钟内生成可运行的Web应用、小程序、管理系统甚至小游戏 独立后台管理 每个应用都配备独立的后台管理系统，用户通过后台进行应用的运营管理 码上飞本质上是一个”文生应用”的AI平台，让没有编程经验的用户也能通过自然语言交互快速创建各类应用程序，实现了从想法到应用的快速转化。 Trickle...
大模型部署文档
本文档提供了vLLM 0.7.3的Miniconda安装教程，适合需要快速部署大模型的开发者参考。 vLLM 0.7.3 Miniconda 安装教程第一步：安装 Miniconda如果尚未安装 Miniconda，请先安装： 12345678# 下载 Miniconda 安装脚本wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh# 安装 Minicondabash Miniconda3-latest-Linux-x86_64.sh# 重新加载 shell 配置source ~/.bashrc 如果需要安装特定版本的 Miniconda（比如为了兼容性或稳定性考虑）： 查看可用版本：访问 Miniconda 历史版本页面 查看所有可用版本。 例如，Python 3.11 版本 (2023年发布): 123# Miniconda3 py311_23.11.0-2wget...
Triton Inference Server 部署笔记
前言NVIDIA Triton™ 推理服务器作为 NVIDIA AI 平台的关键组件之一，集成于 NVIDIA AI Enterprise 中，是一款开源软件工具，旨在标准化AI模型在各类工作负载中的部署与执行流程。 其核心特性包括： 广泛的框架兼容性：Triton 支持 TensorFlow、Pytorch、TensorRT、ONNX Runtime 等多种深度学习框架，并支持自定义后端。这种灵活性让用户能够根据项目需求选择最适合的框架。 卓越的推理性能：利用 TensorRT 和 GPU 的强大功能，Triton 提供了高效的推理服务，非常适合需要高实时性的应用场景，如自动驾驶技术。 多样化的部署方案：无论是单机环境还是多机集群，亦或是容器化部署，Triton 都能完美适应，为用户提供灵活的选择。 强大的多模型处理能力：支持同时部署多个深度学习模型，并为每个模型提供独立的服务端点。 便捷的 API 接口：通过 RESTful API，客户端应用可以轻松地与 Triton...
Hexo 修改鼠标样式
参考链接：hexo+butterfly主题利用css部署网站鼠标指针样式 瞎子自己中意的鼠标指针，推荐 致美化网站 进行下载。 将 cursor 格式 .cur 的鼠标指针图片放入到 hexo_blog\themes\butterfly\source\cur 路径下，这里我放了正常移动的 normal.cur 和点击链接的 link.cur，后续可以根据需求进行添加。 在本地 styles\css 目录下创建 cursors.css 并将以下代码复制粘贴到 cursors.css 进行保存 123456789body { cursor:url('/cur/normal.cur'), default; } a, link { cursor:url('/cur/link.cur'), default; } 在站点配置文件 _config.butterfly.yml 中找到 inject，在 head 处引入该文件： 1- <link...
Hexo 修改字体
教程链接：Butterfly修改字体 这里以阿里妈妈数黑体iconfont-阿里巴巴矢量图标库为例进行演示。 下载后得到文件 我们选择 AlimamaShuHeiTi-Bold.ttf 文件放入到我们的项目中。在 source/styles 目录下新建文件夹 fonts/，把 AlimamaShuHeiTi-Bold.ttf 放入到 fonts 文件夹下。 之后，在 styles/css/font.css 目录下，新建 font.css 文件，文件内容如下： 12345@font-face { font-family: 'AlimamaShuHeiTi'; font-display: swap; src: url('../fonts/AlimamaShuHeiTi-Bold.ttf') format('truetype');} 字体文件有 ttf, woff, woff2, otf 多种格式，ttf 对应的格式是 truetype，woff2 对应的格式是...