Llama 2-AI社区内最强开源大模型

 

此次 Meta 发布的Llama 2 模型系列包含 70 亿、130 亿和 700 亿三种参数变体。此外还训练了 340 亿参数变体,相比于 Llama 1,Llama 2 的训练数据多了 40%,上下文长度也翻倍,并采用了分组查询注意力机制。其预训练模型是在2 万亿的 token上训练的,精调 Chat 模型是在100 万人类标记数据上训练的。公布的测评结果显示,Llama 2 在包括推理、编码、精通性和知识测试等许多外部基准测试中都优于其他开源语言模型。

论文地址:点击跳转

项目地址:https://github.com/facebookresearch/llama

Llama 2-AI社区内最强开源大模型

 

 

 

给TA打赏
共{{data.count}}人
人已打赏
新鲜事

Soofy-智能语言学习工具

2023-6-12 14:16:59

新鲜事

ChatGPT“最强竞争对手”的Claude

2023-7-25 16:28:15

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索