潞晨科技推出的Colossal-AI：650亿参数大模型预训练方案
近日，潞晨科技，一家专注于人工智能领域的创业公司，宣布推出首个开源的Colossal-AI预训练方案，该方案采用了650亿参数的LLaMA低成本预训练模型。
据介绍，相较于其他主流选择，该预训练方案在预训练速度上提升了38%，且只需32张A100/A800即可运行，对商业使用没有限制。
有关该预训练方案的详细信息和代码可在以下开源地址查看：https://github.com/hpcaitech/ColossalAI
© 版权声明
文章版权归作者所有，未经允许请勿转载。
相关文章
萝卜智能是一个集成了多种AI工具导航平台，专为实战应用、效果测评、知识学习和价值变现设计。无论你是AI新手还是资深专家，都能在这个平台上找到适合的工具和资源，共同推动人工智能技术的发展。
桂公网安备45010002450472号