Transformers 的二次复杂度和弱长度外推限制了它们扩展到长序列的能力，虽然存在线性注意力和状态空间模型等次二次解决方案，但从以往的经验来看，它们在预训练效率和下游任务准确性方面表现不...

LLaMA-2 相较于 LLaMA-1，引入了更多且高质量的语料，实现了显著的性能提升，全面允许商用，进一步激发了开源社区的繁荣，拓展了大型模型的应用想象空间。然而，从头预训练大模型的成本相当高，...

OpenAI Sora宣传视频(00:59)“一名时尚女子走在充满霓虹灯和广告牌的标志性东京街头，她穿着黑色皮夹克、红长裙和黑靴子，拎着黑色手袋，戴着太阳镜，涂着红色口红，走路自信又随意。街道潮湿且...

5月9日，在北京阿里云AI智领者峰会上，阿里云CTO周靖人公布百炼大模型平台最新进展。百炼平台从模型开发、应用开发到算力底座全面升级，更加易用、更加开放，引入更多模型，还率先兼容LlamaInde...

Stable Diffusion 是 公司的一款文生图大模型，DALL·E 2 则是 公司的一款文生图大模型。近日，一组研究人员让这两款大模型能够做到无视已被设定好的安全规则，创建出包含裸体、肢解尸体、暴力...

 最近，清华和微软的研究人员提出了一种全新的方法，能在保证输出质量不变的前提下，将提示词压缩到原始长度的20%！在自然语言处理中，有很多信息其实是重复的。如果能将提示词进行有效地压缩...

 赶着1024的程序员节，刚刚稚晖君发了个大福利： 智元人形机器人，全套资料全球开源，包括设计图纸和代码！ 打开网易新闻 查看更多图片 具体而言，这次开源的是智元家的灵犀X1，就是今年8月...

汤姆猫12月10日在互动平台表示，在生成式人工智能领域，公司海外研发团队已通过Google的Vertex AI平台接入Google大模型及其他AI服务（例如moderation等），用于研发、测试公司内部自研产品，后...

4月19日，Facebook母公司Meta重磅推出了Llama3。即便大家现在对于大厂和巨头频繁迭代AI模型的行为已经见怪不怪，Meta的Llama3仍旧显得与众不同，因为这是迄今最强大的开源AI模型。Meta推出了重...

 微软斯坦福研究人员发表新论文，提出STOP系统，通过迭代优化算法，让GPT-4能够针对任务，自我改进输出代码。这种不用改变模型权重和结构的自我优化方法，可以避免出现「自我进化的AI系统」的...