Transformers 的二次复杂度和弱长度外推限制了它们扩展到长序列的能力，虽然存在线性注意力和状态空间模型等次二次解决方案，但从以往的经验来看，它们在预训练效率和下游任务准确性方面表现不...

近日，新加坡南洋理工大学博士生、香港科技大学研究助理徐华韬和所在团队，打造了一个名为“渗透式人工智能（Penetrative AI）”的项目。打开网易新闻 查看更多图片 图 | 徐华韬（来源：徐华韬...

大半夜的，本来想睡了。然后看到昨天在我朋友圈疯狂刷屏的波士顿动力，就在刚刚，又刷了一次屏。在如今AI和具身智能爆火的今天，人形机器人的明星公司波士顿动力，昨天宣布正式下线了他们的液压...

如何复盘大模型技术爆发的这一年？除了直观的感受，你还需要一份系统的总结。今天，斯坦福 HAI 研究所发布了第七个年度的 AI Index 报告，这是关于人工智能行业现状的最全面的报告之一。打开网...

徒手用 1000 行 C 语言实现，不依赖庞大的外部库，Mac 即可运行。如今这年头，徒手写神经网络代码已经不算事儿了，现在流行手搓大模型训练代码了！这不，今天，特斯拉前 AI 总监、OpenAI 创始团...

4月12日消息，据悉，百度Create AI开发者大会将于4月16日举办。日前，百度披露了新推出的三大AI开发神器——AgentBuilder、AppBuilder与ModelBuilder最新进展，这些AI开发工具将直接加速企业AI...

大型科技公司正忙着升级自家的大型语言模型。据报道，OpenAI和Meta即将发布各自的新版人工智能（AI）模型，他们声称这些模型将能够进行推理和规划，这是在机器中实现超人认知的关键步骤。本周，...

 就在最近，国产大模型Kimi再次引爆了舆论。3月18日，月之暗面宣布其对话式AI助手产品Kimi智能助手现已支持200万字的无损上下文输入。这个差异化的“长文本处理”的免费大模型，一下子就火出了...

OpenAI的秘密武器、ChatGPT背后功臣RLHF，被开源了。来自Hugging Face、加拿大蒙特利尔Mila研究所、网易伏羲AI Lab的研究人员从零开始复现了OpenAI的RLHF pipeline，罗列了25个关键实施细节。最...

 最近，有很多人在为 AI 代替自己的工作而担忧。上个月火遍 AI 圈的「首位 AI 程序员」Devin，利用大模型能力已经掌握了全栈技能，仅需要人类给出自然语言指令，就可以自动完成复杂的代码任务...