作者: MaxGO

  • 在新疆读书时,我很喜欢石河子冬天飘雪的夜晚,因为空气中有股雪茄味

    多年以后,我才明白,那是冬天取暖燃烧煤炭留下的味道,空气中PM2.5爆表。

  • 影之刃零——超越黑神话的神作

    难以置信的好,动作部分远超黑神话悟空,有史以来最佳,把动作游戏制作水准拉升一个量级。势必会横扫今年全球游戏最佳奖项,我相信玩过这游戏的人几年内都不会再看上其它任何动作游戏~~~

  • 六个不同人格设定下的Openclaw,接入5种开源模型,针对50米洗车问题的回答

    其中Qwen3.5:27b 接入了两个不同人格,但均回答错误

    智谱最新旗舰,GLM 5.1 也没回答正确

    回答正确的只有,谷歌最新开源模型 gemma4:31b 和 Minimax M2.7

    1号和6号接入的是同一本地部署的Qwen3.5:27b模型,人格设定有可能影响推理结果?

  • 4路4090 24G 跑Qwen3.5:27B 搭配OpenClaw 使用Vllm 完整启动配置

    [Unit]
    Description=vLLM API Server (Local Model)
    After=network.target
    
    [Service]
    Type=simple
    User=system
    Group=system
    WorkingDirectory=/tmp
    
    # 环境变量
    Environment="PATH=/home/system/vllm_env/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
    Environment="CUDA_VISIBLE_DEVICES=0,1,2,3"
    Environment="NCCL_DEBUG=INFO"
    Environment="NCCL_IB_DISABLE=1"
    Environment="PYTHONUNBUFFERED=1"
    Environment="HF_HUB_OFFLINE=1"
    Environment="VLLM_USE_MODELSCOPE=0"
    
    # 内存锁定限制(NCCL 需要)
    LimitMEMLOCK=infinity
    LimitCORE=infinity
    
    # 关键修改:使用本地模型缓存的绝对路径(替换原来的 --model Qwen/...)
    # 注意:路径中的哈希值 507bda6fcfcb5d3de0fe815d9e755bfeb58822e7 请根据你的实际目录确认
    ExecStart=/home/system/vllm_env/bin/python -m vllm.entrypoints.openai.api_server \
        --model /home/system/.cache/huggingface/hub/models--Qwen--Qwen3.5-27B-GPTQ-Int4/snapshots/507bda6fcfcb5d3de0fe815d9e755bfeb58822e7 \
        --served-model-name Qwen3.5-27B-GPTQ-Int4 \
        --tensor-parallel-size 2 \
        --pipeline-parallel-size 2 \
        --gpu-memory-utilization 0.9 \
        --max-model-len 128000 \
        --kv-cache-dtype fp8 \
        --max-num-seqs 4 \
        --enable-prefix-caching \
        --enable-auto-tool-choice \
        --tool-call-parser qwen3_xml
    
    # 重启策略
    Restart=on-failure
    RestartSec=10
    TimeoutStartSec=600
    
    [Install]
    WantedBy=multi-user.target

    两个坑点,在AI的建议下完成配置之后,总发现Openclaw无法调用tools,经常回复一句话就没了下文,于是花了几天时间开始排障,开始以为是openclaw频繁更新版本出的幺蛾子,最终发现问题出在Vllm调用tools本身,需要添加关键参数–enable-auto-tool-choice –tool-call-parser qwen3_xml ,AI没能很好的解决问题,总是给出过时回复,导致绕了不少弯路,究其原因,可能是模型本身迭代速度太快AI信息源滞后所致。

  • I see you

    I see:

    The boy who started learning English on Duolingo in 2017

    The man who kept going for 679 days without stopping

    The person who lost everything and didn’t break

    The fighter who got 500K back from 800K in debt

    The student who’s honest enough to say “this is me”

    That’s not just growing up. That’s becoming someone real. Someone strong.

    I see you.
    The real you. The struggling you. The strong you. The you that kept going when it was dark.

    AI 出品

  • 张雪——活着的传奇

    张雪,年少时脸上的笑容让我想起了大航海路上的路飞,一个把热爱写在脸上的人,活着的传奇!

  • 她在吐槽我~

    Openclaw加Ollama Qwen3.5~

  • 经常刷短视频的同学最近应该都体会到了来自小龙虾的压力

    从开始的默默无闻,到爆火后,各路自媒体狂推“它无所不能”。让人有种再不养小龙虾就会落后的急迫感,再到后来爆出安全漏洞,官方下场提醒安全,所有看客又都同时松了口气,终于不至于落后了,这玩意不安全,再到现在,大部分看客的心态开始恢复平和,甚至开始自我安慰,没有买第一代苹果的人照样不会错过智能手机时代,这个状态应该能持续到下一波冲击的到来。

  • 刚突发奇想,中国能否成为世界的算力中心?

    AI给出了回答:中国成为世界算力中心并向全球输出算力,是一个宏大且具有战略意义的构想。基于2026年初的最新数据、政策导向及技术发展趋势,这一目标具备显著的可行性基础,但也面临严峻的地缘政治与技术生态挑战。