从TwiL-LM3看逻辑推理模型:如何评估与应用“小而精”的AI模型
2026/9/2 14:26:30
在文本处理的工作中,有许多实用的工具可以帮助我们完成各种任务,如去除重复行、提取文本字段、比较文件差异等。下面将详细介绍这些工具的使用方法。
uniq 程序是一个轻量级工具,用于去除排序文件中的重复行。需要注意的是,输入文件必须是经过排序的,因为 uniq 只能去除相邻的重复行。
首先,创建一个包含重复行的文本文件:
[me@linuxbox ~]$ cat > foo.txt a b c a b c直接使用 uniq 处理该文件,重复行不会被去除:
[me@linuxbox ~]$ uniq foo.txt a b c a b c先对文件进行排序,再使用 uniq,重复行就会被去除:
[me@linuxbox ~]$ sort foo.txt | uniq a b c| Option | Description |
|---|---|
| -c | 输出重复行,并在前面加上该行出现的次数。 |