1
相当于四本红楼梦的内容。支持几百上千个文档存储到大语言模型上下文窗口。
chatgpt4 输入100Wtoken $5,输出100W token $15;
deepseek: 输入1元,输出2元。
涌现:在较小的模型中不出现,而在较大的模型中出现的能力。
1.突破规模的临界点后,表现大幅度提升
2.某些prompt 策略对小模型失效,而对大模型起作用。
涌现能力,模型越大越好,简单任务100亿,复杂任务1000亿
一、运行和开发环境搭建
1.安装conda
Conda是一个开源的包管理系统和环境管理器,主要用于简化Python及其他语言的软件包管理和项目环境管理,它最初由Anaconda公司开发,广泛用于数据科学、机器学习和科学计算等领域。
目前主流有anaconda3和miniforg3,anaconda3对于企业有版权限制,miniforg3为替代方案,对于个人用户无影响。
https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/