算力共46篇
AI算力产业链梳理-开放智能

AI算力产业链梳理

一、芯片1、算力芯片:见底龙芯中科、海光信息,其他:寒武纪、景嘉微、云天励飞等;2、光模块:中际旭创、天孚通信、太辰光、剑桥科技、九联科技、新易盛、联特科技、天孚通信、东田微、华工科...
innov的头像-开放智能innov1年前
01129
Mamba架构第一次做大!混合Transformer,打败Transformer-开放智能

Mamba架构第一次做大!混合Transformer,打败Transformer

 精彩精彩,第一个把爆火Mamba架构真正扩展到足够大的工作来了。520亿参数,还是Mamba+Transformer混合架构。它的名字叫Jamba。打开网易新闻 查看更多图片 取两种架构之长,模型质量和效率兼得...
micro的头像-开放智能micro5个月前
01659
苹果版CUDA来了!专为自家芯片打造,M3 Max可跑每秒迭代2.8次-开放智能

苹果版CUDA来了!专为自家芯片打造,M3 Max可跑每秒迭代2.8次

 苹果新发布适用于苹果芯片的机器学习框架MLX,MLX是一个类似于NumPy的阵列框架,旨在为使用苹果硬件的研究人员简化 ML 模型的训练和部署。一直以来,英伟达CUDA称霸天下,使得它在AI领域的势...
micro的头像-开放智能micro10个月前
06215
前谷歌科学家离职创业1年,自述训练LLM卡在算力上!-开放智能

前谷歌科学家离职创业1年,自述训练LLM卡在算力上!

前谷歌大脑科学家Yi Tay去年3月离职后,创办了一家初创公司。创业一年,他发文表示「痛并快乐着」。 在这篇博文中,我讨论了: 1. 在不同计算提供商中采购计算和差异的经验。我们最大的发现/惊...
micro的头像-开放智能micro6个月前
06613
30天生效!美芯片禁令升级,仅剩V100可用?-开放智能

30天生效!美芯片禁令升级,仅剩V100可用?

就在刚刚,美国再次收紧对我国出口尖端AI芯片,英伟达A100、A800、H100、H800等无一幸免。当地时间10月17日,美国正式发布新规,全面收紧尖端AI芯片对华出口。商务部长雷蒙多表示,管制目的就是...
micro的头像-开放智能micro1年前
07812
波士顿动力发布新一代Atlas机器人-开放智能

波士顿动力发布新一代Atlas机器人

大半夜的,本来想睡了。然后看到昨天在我朋友圈疯狂刷屏的波士顿动力,就在刚刚,又刷了一次屏。在如今AI和具身智能爆火的今天,人形机器人的明星公司波士顿动力,昨天宣布正式下线了他们的液压...
micro的头像-开放智能micro5个月前
01815
推理性能超H100十倍!21岁华裔小哥哈佛辍学开发AI加速芯片-开放智能

推理性能超H100十倍!21岁华裔小哥哈佛辍学开发AI加速芯片

 最近,两位哈佛辍学生共同创立的AI芯片公司,估值已达3400万美元,并计划明年交付一款名为「Sohu」的AI推理加速芯片——其LLM推理性能达到H100的10倍,而单价吞吐量更是高达140倍。像Pika一样...
micro的头像-开放智能micro10个月前
05811
Efficient Computer称新CPU设计能效高达百倍,获1600万美元融资-开放智能

Efficient Computer称新CPU设计能效高达百倍,获1600万美元融资

  2024年3月11日,初创企业Efficient Computer宣布其高能效Fabric架构Monza处理器测试芯片成功回片,并且获得了1600万美元的种子轮融资。Efficient Computer声称其新CPU设计能效比现有的微控...
micro的头像-开放智能micro6个月前
0938
130亿参数大模型塞进PC,没网也能生成PPT-开放智能

130亿参数大模型塞进PC,没网也能生成PPT

全球最强性能CPU,一夜之间王座易主了。就在刚刚,骁龙峰会,高通旗下骁龙X Elite芯片正式亮相,专为PC笔记本打造,性能和功耗都创下行业新纪录。打开网易新闻 查看更多图片 发布会现场,大有“...
micro的头像-开放智能micro12个月前
0946
Meta新模型推理加速3倍,编程任务提高17%-开放智能

Meta新模型推理加速3倍,编程任务提高17%

“预测下一个token”被认为是大模型的基本范式,一次预测多个tokens又会怎样?Meta AI法国团队推出“基于多token预测的更快&更好大模型”。打开网易新闻 查看更多图片 多token预测模型,在...
micro的头像-开放智能micro4个月前
017810