上篇写了LiteLLM，网关是有了，但用起来是个黑盒，谁在调、一次agent任务烧了多少token、中间转了几手，全靠猜。决定上Langfuse，开源的LLM可观测平台，给调用链留个底。本以为docker compose一把梭的事，前后折腾了两个回合，记录一下

一.第一回合，官方全家桶，翻车

图省事，直接把官方docker-compose全家桶怼到网关机器的/opt/langfuse下，up -d之后一半容器卡在Created，纹丝不动

docker ps -a
#postgres/redis/clickhouse都healthy，minio/web/worker全是Created

netstat -tlpn
#9090被一个跑了七周的litellm_prometheus占着

看compose才明白，全家桶里minio默认映射9090:9000，和机器上早就在跑的prometheus撞了，minio起不来，web/worker又配了depends_on: service_healthy强依赖，跟着全卡住。端口冲突本身是小事，改个映射就能继续，但这次翻车让我回头把文档看仔细了，官方自己说compose全家桶定位是"测试和小规模部署"，postgres/clickhouse/redis/minio四件套全塞在应用机器上，和生产服务抢资源是迟早的事

总结：全家桶适合本地尝鲜，生产别偷懒。推倒重来

二.重新设计，该托管的全托管

langfuse v3 = web + worker两个应用容器，加四个基础设施：postgres存元数据，clickhouse存trace，redis做队列，S3对象存储存原始事件。官方几条硬性要求：

1.对象存储是强制依赖，不支持本地文件系统，生产用云托管
2.所有组件必须UTC时区（阿里云托管clickhouse默认Asia/Shanghai，必须改，改参数会触发集群重启）
3.多实例部署时，对象存储和数据库必须共享

最终架构：两台ECS各跑一组web+worker双活，前面挂内网SLB，基础设施全托管

          内网SLB :3000
         /            \
  ECS-01 web+worker  ECS-02 web+worker
         \            /
  RDS PG · 云ClickHouse · 云Redis · OSS

compose关键配置，web/worker环境变量完全相同，worker端口只绑127.0.0.1：

services:
  langfuse-web:
    image: langfuse/langfuse:3.224.1
    ports: ["3000:3000"]
    environment:
      DATABASE_URL: "postgresql://<user>:<pwd>@<rds>:5432/langfuse"
      NEXTAUTH_SECRET: <随机32hex>   #openssl rand -hex 32
      SALT: <随机32hex>
      ENCRYPTION_KEY: <随机64hex>
      AUTH_DISABLE_SIGNUP: true      #关注册，配合LANGFUSE_INIT_*无头建号
      CLICKHOUSE_URL: http://<ch>:8123
      CLICKHOUSE_MIGRATION_URL: "clickhouse://<ch>:9000"
      REDIS_HOST: <redis>
      REDIS_AUTH: <pwd>
      #OSS，endpoint的写法是本文最大的坑，见下
      LANGFUSE_S3_EVENT_UPLOAD_BUCKET: <bucket>
      LANGFUSE_S3_EVENT_UPLOAD_ENDPOINT: https://s3.oss-<region>-internal.aliyuncs.com
      LANGFUSE_S3_EVENT_UPLOAD_FORCE_PATH_STYLE: "false"
      #首次初始化，幂等，只需一台配，管理员密码登录后改
      LANGFUSE_INIT_PROJECT_PUBLIC_KEY: pk-lf-<uuid>
      LANGFUSE_INIT_PROJECT_SECRET_KEY: sk-lf-<uuid>

  langfuse-worker:
    image: langfuse/langfuse-worker:3.224.1
    ports: ["127.0.0.1:3030:3030"]
    #环境变量与web相同，可去掉LANGFUSE_INIT_*

三.第二回合，健康检查全绿，但一条trace都查不到

up -d，健康检查全绿，UI能登录，爽了没几分钟发现不对，怎么查都是空的，ingestion接口直接500，网关那头持续发事件过来，高峰30分钟丢了1811条。这里必须先记住v3的数据链路：

事件 → OSS → Redis队列 → worker → ClickHouse

OSS写失败，整条链路作废，但健康检查照样绿，health只代表进程活着，不代表链路通。翻web容器日志，Failed to upload刷屏，一共剥了三层：

1.endpoint带了bucket。配的https://<bucket>.oss-<region>-internal.aliyuncs.com，langfuse用的AWS S3 SDK，virtual-host模式下SDK会自己再拼一次bucket，实际请求成了bucket.bucket.oss-...，TLS证书直接对不上

2.没用S3兼容端点。改成https://oss-<region>-internal.aliyuncs.com，换了个报错：You have no right to access this object because of bucket acl。OSS原生端点不认AWS SigV4签名，带着签名的请求被当成了匿名访问。正确写法是https://s3.oss-<region>-internal.aliyuncs.com，注意开头的s3.

3.AK没权限。endpoint对了还不行，一查AK，复用了别的业务的RAM用户，人家的策略只授权自己的bucket。新建专用RAM用户，最小授权：

{"Version":"1","Statement":[{"Effect":"Allow",
  "Action":["oss:PutObject","oss:GetObject","oss:DeleteObject","oss:ListObjects",
            "oss:AbortMultipartUpload","oss:ListParts","oss:GetBucketLocation"],
  "Resource":["acs:oss:*:*:<bucket>","acs:oss:*:*:<bucket>/*"]}]}

三层修完，30分钟1811条的丢失归零

总结：别复用AK，别信health

四.验证四步，缺一不可

被"health绿了但其实全丢"教育之后，总结了四步验证，以后每次动完都跑一遍：

#1.健康检查，只代表进程活着
curl http://127.0.0.1:3000/api/public/health
curl http://127.0.0.1:3030/api/health

#2.API key有效性
curl -u pk-lf-xxx:sk-lf-xxx http://127.0.0.1:3000/api/public/projects

#3.写入端到端，关键，打穿OSS→队列→ClickHouse全链路
#期望successes里status 201，返回Internal Server Error就是OSS写入失败
curl -u pk-lf-xxx:sk-lf-xxx -X POST http://127.0.0.1:3000/api/public/ingestion \
  -H 'Content-Type: application/json' \
  -d '{"batch":[{"id":"evt-1","type":"trace-create","timestamp":"<UTC-ISO>",
       "body":{"id":"trace-smoke-1","name":"smoke","timestamp":"<UTC-ISO>"}}]}'

#4.等30秒左右能查回来，验证ClickHouse读路径和时区
curl -u pk-lf-xxx:sk-lf-xxx 'http://127.0.0.1:3000/api/public/traces?limit=3'

至于每个agent任务怎么在langfuse里变成一棵能搜的trace树，任务号、归树、session分组，又是一整篇的内容，未完待续

最近深度使用 Claude Code，体验是真不错，但有个痛点：任务一跑十几分钟，人不可能干等着。起身倒杯水、回个消息，回来发现它早就停在"是否允许执行 Bash"上干等我了，白白空转半天。

先是用 Notification hook 接了 iMessage 提醒，能用，但不够——提醒是"叫你一下"，我想要的是抬头一瞥就知道现在什么状态。翻箱倒柜找出一台吃灰多年的 iPhone 6，思路就来了：做个网页红绿灯，常亮摆在显示器旁边。红灯闪 = 有任务等我确认，黄灯 = 正在干活，绿灯 = 干完了。

整体思路

一开始想在 Mac 上起个局域网 server，后来觉得多余——直接白嫖 Cloudflare Worker + D1，手机打开域名就能看，Mac 上一个常驻进程都不用跑，出门在外也能瞄一眼家里的任务：

Claude Code hooks --curl--> Cloudflare Worker (D1) <--轮询-- 手机网页

数据模型学的是发帖子：hook 每次触发就往上 POST 一条，每个项目只显示最新一条，新消息自动把旧的顶掉，完全不需要管会话生命周期，也不需要任何配置——session_id、项目路径都是 hook 输入里自带的。

事件和灯色的映射：

页面上每个项目一条全宽色块，整块就是灯的颜色，红块闪烁且永远排第一，干完超过 3 小时的自动变暗，横屏自动变两列。

部署

三步，全程白嫖免费额度。

- 阅读剩余部分 -

本文记录了在 8 卡 NVIDIA L20 服务器上部署 DeepSeek-V4-Flash 的完整过程。前半部分是可直接复制到新机器的部署步骤，后半部分是部署过程中遇到的踩坑记录与根因分析（vLLM 不兼容、MXFP4 算子加载失败等），方便排错时回查。

1. 环境信息

2. 安装指南（迁移部署）

重要： 以下步骤可用于在另一台服务器上复制本套部署。

前置条件

第一步：检查硬件环境

# 确认 GPU 数量和型号
nvidia-smi

# 确认 CUDA 版本
nvcc --version

# 确认内存
free -h

# 确认磁盘空间
df -h /data1   # 或你存放模型的目录

第二步：安装 Miniconda（如果没有）

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
bash Miniconda3-latest-Linux-x86_64.sh -b -p $HOME/miniconda3
eval "$($HOME/miniconda3/bin/conda shell.bash hook)"
conda init
source ~/.bashrc

第三步：创建 Conda 环境并设置 CUDA 路径

# 创建 Python 3.11 环境
conda create -n ktrans python=3.11 -y
conda activate ktrans

# 设置 CUDA 路径（根据你的 CUDA 安装位置调整）
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

第四步：安装 Python 包

重要： 包的安装顺序很重要。先装 sglang-kt（会自动拉 flashinfer 0.6.3），然后再升级 flashinfer。

# 国内环境建议使用清华源
PIP_MIRROR="-i https://pypi.tuna.tsinghua.edu.cn/simple"

# 1. 安装核心框架
pip install sglang-kt ktransformers $PIP_MIRROR

# 2. 安装辅助依赖
pip install tilelang transformers==4.57.1 $PIP_MIRROR

# 3. 【关键】升级 flashinfer 到 >= 0.6.9（否则 MXFP4 算子无法加载）
pip install --upgrade flashinfer-python flashinfer-cubin $PIP_MIRROR

# 4. 验证安装
python3 -c "import flashinfer; print(f'flashinfer version: {flashinfer.__version__}')"
python3 -c "import sglang; print('sglang imported successfully')"
python3 -c "import ktransformers; print('ktransformers imported successfully')"

警告： 升级 flashinfer 后会提示 sglang-kt 0.6.2.post3 requires flashinfer_cubin==0.6.3 依赖冲突，可以安全忽略，不影响实际运行。

- 阅读剩余部分 -

近期我们上线了LiteLLM，社区活跃，star最高。主要解决，1简化接入 2计费限流。天有不测风云，上线后被外部脱裤！使用https://www.sysdig.com/blog/cve-2026-42208-targeted-sql-injection-against-litellms-authentication-path-discovered-36-hours-following-vulnerability-disclosure 绕过鉴权，数据库中查看到上游key被拿到，一顿轮转。加白升级版本。
随着使用过程的深入，架构也由单台-多台+数据库-redis，配置也有不少讲究

当前架构

                       ┌───────────┐
                       │    ALB    │
                       │ (公网入口) │
                       └─────┬─────┘
                      ╱             ╲
            ┌────────▼───┐    ┌────▼────────┐
            │ gateway01  │    │ gateway02   │
            │ 192.168.   │    │ 192.168.    │
            │ 1.126      │    │ 3.108       │
            │ Gunicorn   │    │ Gunicorn    │
            │ 4 workers  │    │ 4 workers   │
            └──────┬─────┘    └──────┬──────┘
                   │   cron 每分钟    │
                   │   config 同步    │
                   │  ◄──────────── │
                   └────────┬───────┘
                      ┌─────▼──────┐
                      │  Redis 7.0 │
                      │  阿里云     │
                      └─────┬──────┘
                      ┌─────▼──────┐
                      │ PostgreSQL │
                      │  阿里云 RDS │
                      └────────────┘

- 阅读剩余部分 -

近期做了一系列langgraph视频，在个人视频号

结论

联机优势，跑大尺寸模型，对单个请求延迟有高要求。否则单机部署更灵活。

背景

        本次采购两台 NVIDIA DGX Spark，搭载 GB10 Blackwell GPU，128GB 统一内存。本次测试旨在验证在这套硬件上运行大型语言模型的推理能力，并对比单机与双机分布式部署的性能差异。

- 阅读剩余部分 -

最近趁着国补更新了 Apple Watch，本想体验全方位的健康监测，却发现“血压监测”和“睡眠呼吸暂停检测”在健康 App 中提示 “在你所在地区不可用”。

这其实是苹果基于地理围栏（Geo-fencing）的软件锁定。经过实测，只要掌握正确的“物理位移”技巧，无需越狱即可完美解锁。以下是详细教程：

核心原理与准备工具

• 核心原理： 苹果的审计机制主要依赖 iPhone 联网时的物理位置信息。通过模拟定位工具将 iPhone 定位至已开放功能区域（如香港），即可激活相关组件。
• 软件工具： AnyGo（需在 Mac 端安装，该软件为付费授权）。
• 硬件需求： iPhone、Apple Watch S9+、Mac电脑。

操作步骤

1. 环境准备

• 关闭手表： 先将 Apple Watch 彻底关机，中断其与手机的实时同步。

• 开启开发者模式： * 在 iPhone 上进入 设置 -> 隐私与安全性。

  • 拉到最底部，找到 开发者模式 并点击开启。
  • 手机会自动重启，重启后点击“允许”开启。

2. 断开网络与干扰

1. 在 iPhone 的设置中手动关闭：定位服务、蓝牙、Wi-Fi。
2. 静候约 10 秒，确保系统缓存的位置数据完全失效。

3. 执行虚拟定位

1. 在电脑上打开 AnyGo。
2. 使用数据线或蓝牙将 iPhone 连接至电脑（使用数据线）。
3. 在 AnyGo 的地图搜索栏输入 “尖沙咀”（或其他已开放区域），点击移动/更改定位。
4. 此时在 iPhone 上重新开启：定位服务、蓝牙、Wi-Fi。

4. 激活健康功能

1. 打开自带地图应用，如果位置已经到 “尖沙咀” ，则代表成功，打开 iPhone 上的 “健康” App。
2. 点击右上角个人头像，找到 “健康核对清单”。
3. 由于此时系统认为你位于香港，原本置灰的“睡眠呼吸暂停”等功能现在已变为可设置状态。
4. 按照屏幕提示，一步步完成功能的初始化引导。

5. 最终同步

1. 长按侧边按钮重新开启 Apple Watch。
2. 等待手表与手机自动重连并完成同步。
3. 进入手表的设置或健康应用，你会发现相关功能已成功常驻！

背景

模型发展极其迅速，截止今天，此方法为目前能交付、前端好看、能完成稍复杂项目的0-1、重构、迭代。核心“快速实现脑中想法”，可以是原型图，可以是前端，更可以是完整POC
整理了当前公司已购买资源、免费工具，通过一系列排列组合

SOP

• 前置条件
  a. 翻墙能力，绝大多数AI工具对国区封锁，香港也不行，趋势是香港也不再可信，优先使用v2rayn客户端，tun模式稳定，Antigravity对IP敏感
  b. 谷歌账户，https://policies.google.com/u/1/country-association-form?pageId=none隐私策略，请自行注册，主要区域不要选中国，推荐美国、次选新加坡
• 模型能力，术业有专攻
  a. 优先海外模型，效果更好
  b. 前端gemini 3 pro
  c. 后端 Opus4.5 thinking、GPT-5.1-codex-max、GPT-5.2-codex-max。cursor中都可使用，如果没有，也没关系，Antigravity提供免费额度，足够低频使用，尤其对产品经理友好
  d. 原型图，stich，免费https://stitch.withgoogle.com/
  e. 前端工作台（可选但强烈建议），原型图在细节还不够统一，比如多个页面色差、文字、按钮、语言位置不一致，导出到Google AI studio
• 总体原则
  a. 一定先plan，聊清楚再编码，cursor会给出计划，直接在上面加注解
  b. 提前后端分离，从导入的前端写api-spec.md，契约文档
  c. 提readme.md要求，每次重大变更让模型更新，适用于token用完，有助模型快速理解
  d. git要在项目初始就开始，不相信模型的undo，自己commit，git reset --hard HEAD~1
  e. 优先think类模型，思考的模型质量较fast高很多，争取一次做对
  f. 提问的艺术，贴图，贴示例，描述清楚位置，用红框勾选，模型都看得懂
  g. 额度用完怎么办，用不同的IDE，cursor用完，Antigravity打开同样文件夹，一样可以继续
  h. 最后的交付环节，让模型写dockerfile，复杂项目，比如你用了不同技术栈，中间件，compose一把梭。mac用colima
  i. 可选，只有部署到远端服务器关注，安全、白名单、监控

总结

目前方案还不够完美，要切换不同模型，不同平台，一把梭实现还不行，相信1-2年内，模型能力提升后会得到改善。

3万人民币出头，可以买到支持cuda、原厂出品且合法的桌面AI工作站。测试Qwen3-Next-80B-A3B-Instruct-FP8 占满显存，基本是可以运行的最大尺寸模型，每秒生成422个tokens！

# ab_benchmark.sh
#!/usr/bin/env bash
set -euo pipefail

usage() {
  cat <<EOF
Usage: $0 -h <host:port> -m <model> -p <prompt> -g <gen_tokens> -n <total_requests> -c <concurrency>

Required:
  -h  Host:Port of vLLM server (e.g., 127.0.0.1:8000)
  -m  Model identifier (as you use in request)
  -p  Prompt text (e.g., "你好，你是谁？")
  -g  Expected generated token count (integer)
  -n  Total number of requests for ab
  -c  Concurrency for ab

Example:
  $0 -h 127.0.0.1:8000 -m "/models/qwen-full/Qwen3-Next-80B-A3B-Instruct-FP8" \
    -p "你好，你是谁" -g 128 -n 100 -c 5
EOF
  exit 1
}

HOST=""
MODEL=""
PROMPT=""
GEN_TOKENS=""
TOTAL_REQ=""
CONCURRENCY=""

while getopts "h:m:p:g:n:c:" opt; do
  case $opt in
    h) HOST="$OPTARG";;
    m) MODEL="$OPTARG";;
    p) PROMPT="$OPTARG";;
    g) GEN_TOKENS="$OPTARG";;
    n) TOTAL_REQ="$OPTARG";;
    c) CONCURRENCY="$OPTARG";;
    *) usage;;
  esac
done

if [[ -z "$HOST" || -z "$MODEL" || -z "$PROMPT" || -z "$GEN_TOKENS" || -z "$TOTAL_REQ" || -z "$CONCURRENCY" ]]; then
  usage
fi

AB_LOG="ab_chat_${MODEL//[:\/]/_}_${TOTAL_REQ}n_${CONCURRENCY}c.log"
PAYLOAD="ab_chat_payload.json"

# Build the payload
cat > $PAYLOAD <<EOF
{
  "model": "${MODEL}",
  "messages": [
    {"role": "system", "content": "你是一个有帮助的AI助手"},
    {"role": "user", "content": "${PROMPT}"}
  ],
  "temperature": 0,
  "max_tokens": ${GEN_TOKENS}
}
EOF

echo "Running ab with payload:"
cat $PAYLOAD
echo

# Run ApacheBench
ab -n $TOTAL_REQ -c $CONCURRENCY -s 30000 \
  -T "application/json" \
  -p $PAYLOAD \
  http://${HOST}/v1/chat/completions > $AB_LOG 2>&1

echo "ab log saved to $AB_LOG"
echo

# Extract metrics
RPS=$(grep "Requests per second:" $AB_LOG | head -n1 | awk '{print $4}')
MEAN_LAT=$(grep "Time per request:" $AB_LOG | head -n1 | awk '{print $4}')
# Estimate token throughput
TPS_EST=$(echo "$RPS * $GEN_TOKENS" | bc)

echo "===== Result ====="
echo "Host:                 $HOST"
echo "Model:                $MODEL"
echo "Prompt:               $PROMPT"
echo "Total requests (ab):  $TOTAL_REQ"
echo "Concurrency (ab):     $CONCURRENCY"
echo "Estimated Gen Tokens: $GEN_TOKENS"
echo
echo "Requests/sec:         $RPS"
echo "Mean Latency(ms):     $MEAN_LAT"
echo "Est. Tokens/sec:      $TPS_EST"
echo

# 启动方法
./ab_benchmark.sh \
  -h localhost:8000 \
  -m "/models/qwen-full/Qwen3-Next-80B-A3B-Instruct-FP8" \
  -p "你好，你是谁" \
  -g 250 \
  -n 30 \
  -c 5

深入体验 Codex、Gemini3 之后，我只有一个感受：
人类从未如此接近“造物主”，而我从未如此接近“被淘汰者”。

按下回车、等待数秒，一个人就能瞬间成为世界的塑造者。
而我几十年的积累，在模型面前，只剩一句 prompt 的价值。

《在线假期排班》《hey 小维语音唤醒》《婚姻模拟器》……
那些“根本不可能”的想法，在 AI 手里柔软得像橡皮泥。

学习速度？反应速度？思维广度？
原以为是人类智慧的荣耀，如今被 model=gpt5.1 轻松碾压。
二十年构建的经验体系，在它面前甚至成为拖累。

我站在 AI 这座大山脚下，抬头看不见山顶。
这并不是被时代抛弃——
而是这个时代根本没有“我”。
那种无力感，不是差一点，而是差一个物种。

努力四十年，却在技术洪水前脆弱得像一张卫生纸。
所谓价值、意义、努力，
会不会只是慢速时代的幻觉？

越欣喜它的强大，越感到自己的渺小。
这一刻，我不知道该为时代欢呼，还是为自己默哀。

——2025.11.24 共勉

突然在阿里云控制台上看到，可以设置cname的权重，印象里只有mx记录有优先级！特意去查了DNS规范，确实没有

实践是检验真理的唯一标准，开干

按标准dns协议，cname记录是没有“权重”、“优先级”的，阿里应该是自己实现，不是标准，无法影响其他DNS服务器，换句话说，通过DNS控制服务权重不可靠，用户必须使用阿里的dns才能实现。当玩具用吧

在我们的商业场景中，设备和云端需要低消耗、可靠的连接。最终我们使用了mqtt协议。
初代方案
CLB--HAproxy--内网CLB--EMQ集群，稳定维持几百万连接

当前方案
云推出各种负载均衡产品，如ALB、NLB，在和厂商交流过程中，NLB具备卸载证书、限速，天生适合物联网，考虑切换
NLB--EMQ--CLB

随着权重的调整，看着新NLB连接稳定上升!但观察到一直停留在75万连接就上不去了

经过排查，在官方文档中看到NLB对于单一后端服务器的限制 https://help.aliyun.com/zh/slb/network-load-balancer/product-overview/restrictions-on-use “NLB服务器组禁用客户端地址保持功能时，每个可用区的NLB与单一后端服务器（或IP）的组合最多可支持60,000条并发连接。并发超过此限制会自动弹出新的Local IP避免端口分配失败，每个可用区最大支持扩展至8个Local IP，此时每个可用区的NLB与单一后端服务器（或IP）的组合最多支持250,000条并发连接，请确保交换机空闲的IP地址充足以免影响弹性。”
当连接数超百万时提前找阿里云“预热”，后端服务器、NLB都遵循五元组限制

今年4月采购Apple Mac Studio 在本地离线运行模型，实现了云故障诊断的本地化与安全闭环。此方案获得Apple官方认可，被选为典型案例，并由其出资拍摄宣传短片。影片将展示双方品牌Logo，用于宣传。充分展现了商米运维在技术创新上的实力与成果。

两三年前，无意刷到“杨旭游记”视频，独特的房车旅游形式，杨旭操着一口京腔娓娓道来，主人公大多数是自己。从祖国的边陲到非洲的角落，偶尔在寒暑假有他女儿客串。
从一个人穿越500公里无人区，在石油小镇“大漠孤烟直”
到路途中遇到更多房车朋友，在南疆品尝哈萨克美食。
他的视频有种独特的“慢”感，正好符合心中对美好、自由的享受感。

上周三，预定了周末两天的房车，临时决定去舟山，距离近。周六早上取车，“房车生活家”位于国家会展中心，场地里有大概30辆左右房车，C型居多。我选择的是上汽大通RV80 C型 舒适版 899/天。工作人员强调此车型驻车空调需要接市电，不适合车内居住。升级到尊享款有7.2度电池，但价格翻倍。

这两天共行驶500公里，高速440公里，路况较佳基本无拥堵。记录
车辆租金：899/天*2
保险：40/天*2，最低档，抵扣出险3000
清洁费：150
油费：柴油，396+180，还车时多出一点，约等于1.1/公里
ETC：470
住宿：1000
优势：

• 驾驶室非常高，视野很好
• 人在放车内可以站直，我身高1.85，不压抑
• 底盘和普通SUV差不多，通过性还好
• 人能躺平，有额头床，车位有两张上下铺的单人床。小朋友和老人能休息

缺陷：

• 隔音差，可能和车龄有关，发动机声音直逼座舱，轰隆隆的
• 变速箱顿挫，AMT手动挡加换挡单元，用A档的时候明显在6档-5档的时候卡一下
• 动力一般，深踩油门100，持续10-15秒，到110，半分钟缓慢120，踩到底就130
• 车身高不能进地库，尤其3.2米超高的C型车，注意一定不要靠路边行驶，树枝会刮到车顶！
• 车内有粘木头的胶水味，暴晒后还是能闻到，这可是有7年车龄的老车
• 性价比低，想当然认为自带电池足以晚间空调
• 上下水麻烦，上厕所自己倒黑水箱，全程要小朋友去公厕上了

这款房车，房、车属性都没做好，称其为“床车”更贴切，晚上还是得去宾馆。租房车的价格体系不合理，同样的价格能租车+豪华型酒店

日常工作会碰到众多文字汇报，如周报、事故贴、分析报告等。本质是填充内容到制式文档中
联想场景：

1. 每周从任务系统中查看、汇总任务进展形成周报，记录在钉文档中
2. 在繁杂的事故后总结，人员发言、故障截图、日志片段等，按照事故贴格式梳理时间轴、OCR、总结
3. 处理新事故时，总结SOP，发布到知识库

看效果，我们的内部任务看板是TB，需要总结上周某板块的内容，按照格式进行总结、归纳
输出markdown格式

输出docx文件，可下载

流程图

关键步骤

# 代码执行环节
def main(start_date: str, end_date: str, text: list) -> dict:
    import csv, io, json
    from datetime import datetime

    # 连接文本行
    content = "\n".join(text)
    reader = csv.DictReader(io.StringIO(content), delimiter='|')

    sd = datetime.strptime(start_date, "%Y-%m-%d").date()
    ed = datetime.strptime(end_date,   "%Y-%m-%d").date()

    total_rows = 0
    filtered = []

    for row in reader:
        total_rows += 1

        # 清洗字段名可能含空格
        ct_raw = row.get("创建时间") or row.get(" 创建时间 ") or ""
        ct_raw = ct_raw.strip()
        if not ct_raw:
            continue

        # 解析多种时间格式
        ct = None
        for fmt in ("%Y/%m/%d %H:%M", "%Y-%m-%d %H:%M",
                    "%Y/%m/%d %H:%M:%S", "%Y-%m-%d %H:%M:%S"):
            try:
                ct = datetime.strptime(ct_raw, fmt)
                break
            except:
                pass
        if not ct:
            continue

        # 筛选时间范围
        if sd <= ct.date() <= ed:
            filtered.append(row)

    output = {
        "total_rows": total_rows,
        "total_filtered": len(filtered),
        "filtered": filtered
    }

    return {"result": json.dumps(output, ensure_ascii=False)}


# LLM提示词
下面有一段 JSON 输出，变量名为{{#1753088011989.result#}}，结构如下：
- total_rows：原始行数
- total_filtered：符合时间范围的记录总数
- filtered：数组，每个元素是一行解析后的字典，包含列字段

请直接生成一段markdown格式周报：
1. 将每一行的标题、备注进行总结，稍微扩展，保证总体意思清晰不啰嗦，放在下方的分类中（项目支持、TMS、成本、日常、其他）；
2. 序号、条理清晰。

示例输出格式：

## 周报摘要
- 总行数：...
- 筛选数：...

# 运维部2025W28

# 项目支持

## 网关

*   复用已有的云效maven仓库，当前规则 
*   开发过程涉及基础设置，无费用新增。可复用，比如已有的云效xxx仓库
*   “绕圈”，不建议。如堡垒机、监控等，流量走一遍阿里云出境再到AWS
*   有费用产生，自行搞定。特殊情况再讨论
*   参与周五AWS workshop，明确需求是，网关团队注意兜底措施，最关键数据库跨云、跨区域、跨账号备份。**厂商答复支持**，待业务稳定后增加

## DMP
*   rocketmq5.0原价使用一年（4.0版本xxx折），申请折扣中，尝试追索些代金券
*   MSE升级完成，未发现异常
*   AU开源版nacos已接入ops平台  
*   kubernetes版本加白，列为技改待办。风险、收益详见文档 。集群承载应用，连接基础设施。和程序框架类似，谨慎升级
# TMS
# 成本
# 日常
# 其他

写技术文档一直是挺花时间，也挺头疼的一项任务。更头疼的是还要配图！
先看效果（推荐手机端观看，可放大）：

画的还是有模有样，看步骤
cursor或chatbox添加mermaid MCP
MCP添加方式：

**提示词：**
生成一个微服务架构图，包含以下组件：
1.前端层：Web客户端、移动客户端
2.API网关层：负责请求路由和统一认证
3.服务集群层：用户服务、订单服务、支付服务、商品服务
4.数据层：MySQL数据库、Redis缓存、MongoDB、Doris、Elasticsearch搜索引擎
5.运维工具层：Prometheus监控、Grafana展示、Kubernetes容器编排

要求如下：

1.使用分层结构展示组件
2.标注各组件之间的通信协议（如REST、gRPC、tcp等）
3.使用不同颜色区分服务类型（如客户端、网关、服务、存储、运维）
4.图中内容必须使用英文
5.使用上下结构，保持图形为长方形
图像保存路径为：/Users/jixing/Downloads/

测试了音频驱动肖像动画的框架，https://github.com/jixiaozhong/Sonic 眨眼、皱眉、微笑、扭动都很自然。适用口播视频、数字人、介绍视频。看效果

1. 显卡：4090
2. 显存占用：15G
3. 推理时长：10m42.728s

原始图片，肖战粉丝不要打我：）

在今年的大模型落地背景下，敏感信息不和共有模型交互。我们分别评测了 A100 8卡、4090、H800、H20，动辄百万级，在前期探索阶段很难拿到产出数据支撑。
梳理需求后发现，90%场景是推理，只有AI部门涉及训练任务。推理性能和性价比成为重点。

此时注意到，Mac Studio在M2 Ultra芯片上采用了统一内存架构（内存≈显存），可用于推理大型模型。油管也已有博主实测运行 deepseek-R1:671b。

最终选择购入最新的M3 Ultra Mac Studio

• CPU&GPU：Apple M3 Ultra 芯片 (32 核中央处理器、80 核图形处理器和 32 核神经网络引擎)
• MEM：512G统一内存

价格不到7万。实测默认参数下，可以运行 deepseek-R1:671b，30个并发响应轻松，推理速度可接受。


Mac Studio并不是为全天候服务器设计

虽然推理能力超出预期，但Mac Studio天生不适合全天候服务器，主要存在以下问题：

1. 重启后需本地登录。即使启用远程登录（SSH）和屏幕共享（VNC），每次重启后，必须在本机物理登录一次，远程连接功能才能恢复。这使得无人值守场景下，稳定性有损失。
2. 服务部署与Linux不同。在Mac上安装、配置守护进程，与Linux系统差异较大，需要额外适配工作。例如，Ollama绑定地址、环境变量设置，都需要用 launchctl 手动配置。

稳定运行的必要设置

为了最大化稳定性，必须手动关闭系统的各种休眠机制：

# 防止系统进入睡眠
sudo systemsetup -setcomputersleep Never

# 防止显示器睡眠
sudo systemsetup -setdisplaysleep Never

# 防止硬盘休眠
sudo systemsetup -setharddisksleep Never

# 验证配置
systemsetup -getcomputersleep
systemsetup -getdisplaysleep
systemsetup -getharddisksleep

# 设置Ollama监听所有IP地址
launchctl setenv OLLAMA_HOST "0.0.0.0"

# 调整GPU共享内存限制，必选！否则大尺寸模型跑不起来
sudo sysctl iogpu.wired_limit_mb=491520

在 deepseek-r1:32b 中小尺寸模型下，A100 单卡可提供 1.8QPS，单问题 7 秒内完成响应。 对于小团队够用。 单卡推理比4090弱

• 服务器硬件配置：
  ○ CPU：Intel(R) Xeon(R) Platinum 8336C CPU @ 2.30GHz * 2
  ○ GPU：NVIDIA A100-SXM4-80GB * 8
  ○ MEM：1960G
• 网络：本机
• 测试工具：Apache Benchmark (ab)
• 模型：deepseek-r1:32b

ab -n 1000 -c 10 -s 30000 -T "application/json" -p payload.json -v 4 http://1.1.1.1:11434/v1/completions > ab_detailed_log01.txt 2>&1

# payload.json
{
  "model": "deepseek-r1:32b",
  "prompt": "你好，你是谁？"
}

8卡A100，可运行deepseek-r1:671b（671b-q4_K_M 404GB），响应较慢

你购买了test.dev 需要跳转到 test.com，在godaddy上仅需配置转发，http(s)://test.dev 都可正常跳转。在国内云仅支持http://test.dev→https://test.com，https://test.dev不支持

购买差异

URL转发机制差异

协议测试：

# GoDaddy HTTPS重定向验证
curl -v https://test.dev

输出字段可以看到自动帮你加了godaddy颁发证书

• SSL connection using TLSv1.3 / AEAD-AES128-GCM-SHA256 / [blank] / UNDEF
• ALPN: server accepted http/1.1
• Server certificate:
• subject: CN=test.dev
• start date: Mar 14 09:34:11 2025 GMT
• expire date: Mar 14 09:34:11 2026 GMT
• subjectAltName: host "test.dev" matched cert's "test.dev"
• issuer: C=US; ST=Arizona; L=Scottsdale; O=GoDaddy.com, Inc.; OU=http://certs.godaddy.com/repository/; CN=Go Daddy Secure Certificate Authority - G2