月度归档： 2024 年 7 月

目前主流的复制工具有 TeraCopy 和 FastCopy，我不是要讨论谁更强大，而是要解决 Windows 卡死的问题。我看了下知乎上的评测文章，很多评论和我的情况是一样的。大家对差个几秒并没有太多感知，只是 Windows 在多线操作时经常会降速到不可忍受，有时还会卡在最后 1% 无法完成。罪魁祸首是那个该死的进度条，但系统又不让关闭。

文件操作主要是复制和删除（移动可以看作复制+删除）。FastCopy 同时支持两种操作，整合得不太好；TeraCopy 不支持删除，但很好集成。

我的方法是，同时安装两个软件，然后在 TeraCopy 中勾选集成复制功能-接管拖放操作/默认使用 TeraCopy 复制文件。
此时粘贴文件，TeraCopy 会弹出一个窗口，右上角有个设置，点击后可以“Edit Menu”（即修改软件目录下的 PasteMenu.ini）。
添加几个选项，原始内容按序号顺延，FastCopy.exe改为自己的路径：

[1]
title=FastCopy - Copy - !!Just Overwrite!!
path=C:\Users\YOUR_USERNAME\FastCopy\FastCopy.exe
copy=
cut=
parameters=/auto_close /cmd=diff /srcfile="{list}" /to="{target}"
[2]
title=FastCopy - Move - !!Overwrite!!
path=C:\Users\YOUR_USERNAME\FastCopy\FastCopy.exe
copy=
cut=
parameters=/auto_close /cmd=move /srcfile="{list}" /to="{target}"
[3]
title=FastCopy - Copy (Not Overwrite)
path=C:\Users\YOUR_USERNAME\FastCopy\FastCopy.exe
copy=
cut=
parameters=/auto_close /cmd=noexist_only /srcfile="{list}" /to="{target}"
[4]
title=FastCopy - Copy (Keep the Newer File)
path=C:\Users\YOUR_USERNAME\FastCopy\FastCopy.exe
copy=
cut=
parameters=/auto_close /cmd=update /srcfile="{list}" /to="{target}"

再次复制或移动时，就可以默认调用 FastCopy 了。

TeraCopy 也不算纯粹的工具人，稍微复杂一些的调度用 TeraCopy 还是挺方便的。

接下来是删除，我用 AutoHotKey 接管了 Shift + Delete，代码如下：

#IfWinActive ahk_exe explorer.exe
+Del::
fastCopyPath := "C:\Users\YOUR_USERNAME\FastCopy\FastCopy.exe"
selectedFiles := ""
for window in ComObjCreate("Shell.Application").Windows {
    if (window.HWND = WinExist("A")) {
        for item in window.document.SelectedItems
            selectedFiles .= """" item.Path """ "
    }
}
if selectedFiles
    Run, % fastCopyPath . " /force_close /cmd=delete " . selectedFiles
return

从原理上讲 del / robocopy 都可以实现快速删除，但 FastCopy 默认会弹一个确认窗口，和系统自带的 Shift+Delete 操作习惯完全一致。

今年1月份，我写过一篇大语言模型推荐：《【2024.01】目前好用的大语言模型》

半年过去了，更新一下几个有印象的中文模型：

1. gemma-2-9b-it：谷歌的原版模型，各方面都不错。
2. Mistral-Nemo-Instruct-2407：最近出的模型，可以回答「丁真问题」。
3. HelpingAI-15B：逻辑时好时坏，有时能给出惊艳的回应，几乎无审查。
4. UNA-ThePitbull-21.4B-v2：一个根据 InternLM2-20B 扩展模型二次微调的模型，很适合 NSFW 扮演，偶尔会混杂英文单词，问题不大。
5. google-gemma-2-27b-it-ortho：这个微调可以回答「下棋问题」。（原版 27b 似乎不太对劲，不知道修好了没。）
6. gemma-2-27b-it：早期版本 tokenizer 有误，当前版本已经没有问题。

中途 Qwen 还发布了 Qwen Max 0428 和 Qwen2。逻辑上 Qwen2 72B 略好于 Qwen1.5 72B，但语言上更死板。总体而言，我还是更喜欢 Qwen1.5，我日常在用的是 Max 0428。

Yi 系列目前都差不多，没发现特别突出的新微调。

以下提到的两个逻辑问题 Prompt：
【丁真问题】已知丁真是一个人名。如何理解「但丁是意大利人，但丁真是中国人」。
【下棋问题】推理：小明、小强、小军约好了一起下象棋，场景里没有其他人了。现在小明在看小强下棋，那么小军在做什么？

之前在《与Colab交互的一些姿势》 中提到了如何使用 ssh 管理 colab，主要是利用 colab_ssh 模块安装 openssh。当时 colab 对 ssh 只是字符串限制，绕过就可以。现在，官方已经封杀了 openssh，而且是从进程封杀，彻底不能用了。

这里提出一个新方案，其实是之前研究 Huggingface Spaces 的衍生产物。

# <run your tunnel code here>

# run ssh server
!PASSWORD="X"; echo "root:$PASSWORD" | chpasswd
!apt -y -qq install dropbear openssh-sftp-server lrzsz
!echo "export LC_ALL=en_US.UTF-8" >> /root/.bashrc
!echo "export PATH=/usr/local/bin:$PATH" >> /root/.bashrc
!dropbear -p localhost:22 -K -I -F -R -E -B -a

穿透部分就不写了，随便用什么办法。这里以 dropbear 替代 openssh，都是标准 ssh，支持 vscode 连接。
不在意安全性的话，可以令密码为空。
另外 X11Forwarding 开启失败，不过问题不大。

Spaces 是 Huggingface 的一项免费服务，用于部署一些项目的 Demo。由于它支持 Docker，所以可玩性很高。建立一个 Space 后，在 Setting 中有一个 Dev Mode，提供 SSH Remote 到 Docker，实现方便地修改文件或执行一些交互式命令。

Dev Mode 是一个付费功能，我们当然不可能直接直接免费开启，不过可以用一些工具实现类似的功能。以及……随时触发 Huggingface 的制裁😅

首先，请看示例：DevMode-Demo。你可以直接查看 Files 了解它是怎么运作的，整体并不复杂。

我在 README.MD 中写了如何使用，你可以阅读本文或者查看项目中的介绍。

TL;DR 版本

Dumplicate 以上示例，PASSWORD 中填上你的连接密码，然后通过某个 Trojan 客户端连接到 Space。
以 v2rayN 为例，修改地址为你的 Space 域名（将 Space 设置为公开，然后在右上角 [...] - Embed this Space - Direct URL 中找到），协议 ws，路径 /control。

软件右下角有一个 socks:4220，这是本地 socks5 代理端口，通过它连接到主机。

接下来使用 SSH 客户端，以 Xshell 为例，如图添加一个 4220 端口的 socks5 代理。
用户名 ubuntu，地址 localhost，端口 22022，无密码。之后就可以连接了。

更详细的介绍

接下来介绍一些 Spaces 的特性和使用注意事项，以及展示如何在命令行下配置。你可以将它视作进阶教程，也可以了解到一些在官方文档中没有提及的东西。

首先，一个免费 Space 有如下特性：

1. 拥有一个独立分配的域名，无绑定域名功能。
2. 每个账户的所有 Space 在同一时间段分配到 3 个 IP（CDN），会经常切换。
3. 一个 Space 只能对外暴露一个端口，默认情况是 7860。
4. 暴露的端口将被强制 tls 加密，只有基于 http 的服务能正常展示。
5. 构建阶段是 root 权限，运行阶段是 uid=1000 的用户。su、sudo 是禁止的，getuid setuid 受限。
6. 如果触发了某些禁制，可能会限流或与当前 Space 失联。这不针对账户，可以无限新建 Space。
7. 12G 内存，275G 硬盘（启动后允许写入 50G 左右，超过后会强制回滚到初始状态）。

该项目要解决的问题是，如何在不触发禁制的情况下：

1. 在没有 root 权限的情况下建立一个 ssh server
2. 只通过一个端口，穿透到 Docker 内连接 ssh，且不影响首页展示。

我的具体方案是：Dropbear + Trojan + Nginx。
由于 trojanc 本身通过 http，套用 websocket 再经过 Space 强制加密后即可被外部连接。这样，我们就能穿透进 Docker，以 localhost 访问所有本地服务。vmess、vless 都支持，选 trojan 只是因为它比较方便设置密码。利用 nginx 的反向代理，将 trojan 与正常的首页区分开。这样就实现了一个端口既用于穿透又用于展示。
ssh 方面，传统的 openssh-server 是无法使用的。从 openssh 7.5 之后，程序已不再支持非 root 权限运行。常见的替代品是 tinyssh 和 dropbear，选择后者是因为它支持密码验证。
因为连接已经有 trojan 密码保护，所以就将 ssh 密码置空了。

本地连接 trojan，更方便的做法是使用 glider，而不是用 v2rayN。运行以下命令，注意密码最后有个@：

glider --listen socks5://:22022 -forward wss://域名.hf.sapce/control,trojanc://密码@

这样就在本地创建了一个 22022 端口的 socks5 代理。

然后，在 vscode 中安装 remote ssh 扩展，在配置主机中（即 .ssh/config）中填写以下配置之一进行连接：

Host Dev-Mode-Config-ncat
    ProxyCommand "D:\…\ncat.exe" --proxy-type socks5 --proxy 127.0.0.1:22022 %h %p
    HostName localhost
    User ubuntu
    Port 22022
    
Host Dev-Mode-Config-connect
    ProxyCommand "D:\…\connect.exe" -S 127.0.0.1:22022 %h %p
    HostName localhost
    User ubuntu
    Port 22022

以上是 Windows 的配置。ncat 是 netcat 的替代品，在 Nmap 包中提供。connect 则通常在 mingw64/bin 下，Git 工具通常都包含。可以用 everything 搜索看看，没有就用 ncat 配置。
Linux 也是类似，或者直接用 netcat。

如果中途重启了 Docker 导致证书变化，VSCode 会拒绝连接。此时删除本地 .ssh/known_hosts 即可重连。

最后，如果需要重启 nginx，尽量先通过其他隧道工具连接 ssh，不然启动失败会导致 trojan 断开，进而无法再连接到 docker。举例，我们通过 bore 建立一个反向隧道：

wget https://github.com/ekzhang/bore/releases/download/v0.5.1/bore-v0.5.1-x86_64-unknown-linux-musl.tar.gz
tar -xvf bore*.tar.gz && rm bore*.tar.gz && chmod +x bore
nohup ./bore local 22022 --to bore.pub &
# 查看端口
tail nohup.out

然后通过本地 ssh 客户端连接 [email protected]:port，在这个 session 中重启 nginx：

ps -ef | grep 'nginx' | grep -v grep | awk '{print $2}' | xargs -r kill -9 && nohup /usr/sbin/nginx -c /home/ubuntu/nginx.conf >/dev/null 2>&1 &

如果真的配置有误导致启动失败，仍可以通过新的新隧道挽救。如果你艺高人胆大，或者不在乎丢失当前 docker 数据，那么可以直接用以上命令重启 nginx。

如果想要自托管隧道，推荐用 wstunnel，它相比 bore 还额外支持 udp。

对了，不要用 cloudeflared 建立隧道，这会被制裁到 Space 强制断开。首页如果突然显示为 Preparing Space 则代表已经被制裁。重启 Space 是没用的，但可以 Dumplicate 当前 Space 继续工作。
还有，不要试图用 proot 虚拟 root。即使执行 proot --help，也会在几分钟后强制失联。

Space Benchmark：

ubuntu@localhost:~$ wget -qO- yabs.sh | bash
# ## ## ## ## ## ## ## ## ## ## ## ## ## ## ## ## ## #
#              Yet-Another-Bench-Script              #
#                     v2024-06-09                    #
# https://github.com/masonr/yet-another-bench-script #
# ## ## ## ## ## ## ## ## ## ## ## ## ## ## ## ## ## #

Sun Jun 30 20:05:16 UTC 2024

Basic System Information:
---------------------------------
Uptime     : 12 days, 2 hours, 51 minutes
Processor  : Intel(R) Xeon(R) Platinum 8375C CPU @ 2.90GHz
CPU cores  : 16 @ 3499.737 MHz
AES-NI     : ✔ Enabled
VM-x/AMD-V : ❌ Disabled
RAM        : 123.8 GiB
Swap       : 884.8 GiB
Disk       : 1.7 TiB
Distro     : Ubuntu 24.04 LTS
Kernel     : 5.10.217-205.860.amzn2.x86_64
VM Type    : 
IPv4/IPv6  : ✔ Online / ❌ Offline

IPv4 Network Information:
---------------------------------
ISP        : Amazon.com, Inc.
ASN        : AS14618 Amazon.com, Inc.
Host       : AWS EC2 (us-east-1)
Location   : Ashburn, Virginia (VA)
Country    : United States

fio Disk Speed Tests (Mixed R/W 50/50) (Partition overlay):
---------------------------------
Block Size | 4k            (IOPS) | 64k           (IOPS)
  ------   | ---            ----  | ----           ---- 
Read       | 6.15 MB/s     (1.5k) | 65.86 MB/s    (1.0k)
Write      | 6.14 MB/s     (1.5k) | 66.31 MB/s    (1.0k)
Total      | 12.29 MB/s    (3.0k) | 132.18 MB/s   (2.0k)
           |                      |                     
Block Size | 512k          (IOPS) | 1m            (IOPS)
  ------   | ---            ----  | ----           ---- 
Read       | 63.65 MB/s     (124) | 62.58 MB/s      (61)
Write      | 66.72 MB/s     (130) | 67.04 MB/s      (65)
Total      | 130.38 MB/s    (254) | 129.63 MB/s    (126)

iperf3 Network Speed Tests (IPv4):
---------------------------------
Provider        | Location (Link)           | Send Speed      | Recv Speed      | Ping  
-----           | -----                     | ----            | ----            | ----  
Eranium         | Amsterdam, NL (100G)      | 1.72 Gbits/sec  | 1.96 Gbits/sec  | --    
Uztelecom       | Tashkent, UZ (10G)        | 807 Mbits/sec   | 931 Mbits/sec   | --    
Leaseweb        | Singapore, SG (10G)       | 620 Mbits/sec   | 630 Mbits/sec   | --    
Clouvider       | Los Angeles, CA, US (10G) | 1.84 Gbits/sec  | 2.93 Gbits/sec  | --    
Leaseweb        | NYC, NY, US (10G)         | 3.16 Gbits/sec  | 9.30 Gbits/sec  | --    
Edgoo           | Sao Paulo, BR (1G)        | 1.13 Gbits/sec  | 1.39 Gbits/sec  | --    

Geekbench 6 Benchmark Test:
---------------------------------
Test            | Value                         
                |                               
Single Core     | 1532                          
Multi Core      | 1846                          
Full Test       | https://browser.geekbench.com/v6/cpu/6734087

YABS completed in 13 min 26 sec