排序
推理性能超H100十倍!21岁华裔小哥哈佛辍学开发AI加速芯片
最近,两位哈佛辍学生共同创立的AI芯片公司,估值已达3400万美元,并计划明年交付一款名为「Sohu」的AI推理加速芯片——其LLM推理性能达到H100的10倍,而单价吞吐量更是高达140倍。像Pika一样...
智能的本质就是压缩?马毅团队5年心血提出「白盒」Transformer
来自UC伯克利,港大等机构的研究人员,开创性地提出了一种「白盒」Transformer结构——CRATE。他们通过将数据从高维度分布压缩到低维结构分布,实现有效的表征,从而进一步实现了有竞争力的模型...
北大团队搞定ChatGPT都头痛的算法优化,普通笔电就能跑
连ChatGPT看了都直摇头的算法优化,被北大团队给搞定了。测试表明,新研究能解验证集中90%的题目,包括NOIP、Codeforce、Leetcode等比赛中的分治和动态规划题目——这些题目,很多大模型也难...
Yann Lecun :开源,LLM的局限性、AGI 和人工智能的未来
本文为1194字,建议阅读3分钟图灵奖获得者,Meta 首席科学家 Yann LeCun 最新接受 Lex Fridman 播客采访,整个采访2小时38分,探讨了一大堆内容,讨论了:开源的重要性、LLM 的局限性、为什...