中文llama3 语言模型

一.简介

本镜像为L_A_X集成了飞鸟白菜训练的first version of llama3 in Chinese (首个llama3 中文版) ，基于streamlit部署，这个版本专为中文用户设计，提供了无缝的交互体验和高效的自然语言处理能力,本模型训练使用170k条中文问答数据进行 sft，数据源包括 sharegpt-90k、ruozhiba、xhs、zhihu 等，用户可以轻松地在算力平台上部署和运行这个镜像，享受到快速、准确的语言模型训练和推理服务。

主要特性：

优化的中文NLP能力：llama3中文版专门针对中文进行了优化，提高了对中文语境和语义的理解。
streamlit集成：streamlit的集成使得用户可以通过一个简洁的Web界面与llama3交互，极大地提升了用户体验。
模型推理成本：fp16 模式大概占用16G显存，推荐24G显卡使用 int4模式大概占用8G显存，推荐至少10G显存使用，需要自行搜索修改代码中load_in_4bit=True。

适用场景：