算力 第5页
推理性能超H100十倍!21岁华裔小哥哈佛辍学开发AI加速芯片-开放智能

推理性能超H100十倍!21岁华裔小哥哈佛辍学开发AI加速芯片

 最近,两位哈佛辍学生共同创立的AI芯片公司,估值已达3400万美元,并计划明年交付一款名为「Sohu」的AI推理加速芯片——其LLM推理性能达到H100的10倍,而单价吞吐量更是高达140倍。像Pika一样...
micro的头像-开放智能micro2年前
8411
DeepSeek满血微调秘籍来了-开放智能

DeepSeek满血微调秘籍来了

 全网首发!DeepSeek V3/R1满血版低成本监督微调秘籍来了,让高达6710亿参数AI巨兽释放最强性能。DeepSeek V3/ R1火爆全网,基于原始模型的解决方案和API服务已随处可见,陷入低价和免费内卷。...
micro的头像-开放智能micro1个月前
24856
Efficient Computer称新CPU设计能效高达百倍,获1600万美元融资-开放智能

Efficient Computer称新CPU设计能效高达百倍,获1600万美元融资

  2024年3月11日,初创企业Efficient Computer宣布其高能效Fabric架构Monza处理器测试芯片成功回片,并且获得了1600万美元的种子轮融资。Efficient Computer声称其新CPU设计能效比现有的微控...
micro的头像-开放智能micro1年前
1108
130亿参数大模型塞进PC,没网也能生成PPT-开放智能

130亿参数大模型塞进PC,没网也能生成PPT

全球最强性能CPU,一夜之间王座易主了。就在刚刚,骁龙峰会,高通旗下骁龙X Elite芯片正式亮相,专为PC笔记本打造,性能和功耗都创下行业新纪录。打开网易新闻 查看更多图片 发布会现场,大有“...
micro的头像-开放智能micro2年前
1466
Meta新模型推理加速3倍,编程任务提高17%-开放智能

Meta新模型推理加速3倍,编程任务提高17%

“预测下一个token”被认为是大模型的基本范式,一次预测多个tokens又会怎样?Meta AI法国团队推出“基于多token预测的更快&更好大模型”。打开网易新闻 查看更多图片 多token预测模型,在...
micro的头像-开放智能micro11个月前
21810
小扎砸数百亿美元猛攻开源AGI!-开放智能

小扎砸数百亿美元猛攻开源AGI!

 今天,小扎正式宣战「开源AGI」!下一代大模型Llama 3正在训练,年底将拥有35万块H100,届时算力总和达60万块H100。为了追赶OpenAI,成立十年的FAIR团队纳入GenAI,全力奔赴AGI。自Llama2、Co...
micro的头像-开放智能micro1年前
10110
DeepSeek开源DeepEP通信库-开放智能

DeepSeek开源DeepEP通信库

DeepSeek开源第二弹如期而至。这一次,他们把MoE训推EP通信库DeepEP开源了,支持FP8专为Hopper GPU设计,低延迟超高速训练推理。刚刚,DeepSeek放出了开源第二弹——DeepEP!它拥有高效优化的al...
micro的头像-开放智能micro1个月前
24919
Mac专属大模型框架来了!两行代码部署,能聊本地数据,支持中文-开放智能

Mac专属大模型框架来了!两行代码部署,能聊本地数据,支持中文

Mac用户,终于不用羡慕N卡玩家有专属大模型Chat with RTX了!大神推出的新框架,让苹果电脑也跑起了本地大模型,而且只要两行代码就能完成部署。 仿照Chat with RTX,框架的名字就叫Chat with ...
micro的头像-开放智能micro1年前
2627
讯飞星火大模型升级3.0,刘庆峰:完全基于国产算力平台-开放智能

讯飞星火大模型升级3.0,刘庆峰:完全基于国产算力平台

·据科大讯飞董事长刘庆峰透露,在基础算力平台方面,目前讯飞星火大模型V3.0完全基于国产算力平台,将来大模型的4.0版本也将完全基于华为支持的算力平台。·刘庆峰对近日科大讯飞被曝学习机中...
micro的头像-开放智能micro2年前
1019
离职创业一年,我才发现训练大模型有这么多坑-开放智能

离职创业一年,我才发现训练大模型有这么多坑

 如何在不到一年的时间里创办一家公司、筹集资金、购买芯片,并搭建出追赶 Gemini pro/GPT 3.5 的 LLM?很多人都对构建基础架构和训练大语言模型和多模态模型感到好奇,但真正走完「从零开始」...
micro的头像-开放智能micro11个月前
2248