• 币安Binance
  • 币安注册
  • 平台快讯
  • 比特币行情
  • 区块链新闻

苏州大学推出开源大模型 OpenBA,具备150亿参数

2024-10-25 11:11

据品玩 9 月 22 日报道,据 Arxiv 页面显示,来自苏州大学的一个研发团队近日推出一款名为 OpenBA 的开源 seq2 seq 模型。

据悉,OpenBA 是一款具有 150 亿参数的双语非对称 seq2 seq 模型,也是首个加入中国开源模型社区的大语言模型变体。论文显示,研究者采用高效的技术以及采用三阶段的训练策略,从头开始训练了 OpenBA 模型。

实验显示,OpenBA 在 BELEBELE 基准测试中的性能优于 LLaMA-70 B,在 MMLU 基准测试中的性能优于 BLOOM-176 B,在 C-Eval(hard)基准测试中的性能优于 GLM-130 B。

原文链接

最新发布

  • 牛市中途深度调整一览下半场值得关注的Solana生态五大潜力项目
  • 链游工会 GuildFi 更名为 Zentry 并将推出新代币 ZENT
  • SEC与灰度之战:比特币ETF命运的拉锯战
  • 美国共和党发布党纲草案:特朗普誓言要结束对加密产业的"非法打击&quot
  • 4月23日晚间重要动态一览

热点资讯

  • 区块链新闻
  • 平台快讯
  • 比特币行情

标签

币安,让金钱在全球范围内自由流动


立刻注册

关于我们

立刻注册