PyTorch 团队亲自教你如何加速大模型推理。 在过去的一年里，生成式 AI 发展迅猛，在这当中，文本生成一直是一个特别受欢迎的领域，很多开源项目如 llama.cpp、vLLM 、 MLC-LLM 等，为了取...

最近一段时间，国内外的大模型行业卷的是「快速版」。5 月谷歌 I/O 大会上，新发布的 Gemini 1.5 大模型序列中出现了 Flash 版，主打轻量化和响应速度。到 7 月，OpenAI 又在 GPT-4o 的基础上推...

Transformers 的二次复杂度和弱长度外推限制了它们扩展到长序列的能力，虽然存在线性注意力和状态空间模型等次二次解决方案，但从以往的经验来看，它们在预训练效率和下游任务准确性方面表现不...

Stable Diffusion 是 公司的一款文生图大模型，DALL·E 2 则是 公司的一款文生图大模型。近日，一组研究人员让这两款大模型能够做到无视已被设定好的安全规则，创建出包含裸体、肢解尸体、暴力...

4月19日，Facebook母公司Meta重磅推出了Llama3。即便大家现在对于大厂和巨头频繁迭代AI模型的行为已经见怪不怪，Meta的Llama3仍旧显得与众不同，因为这是迄今最强大的开源AI模型。Meta推出了重...

  北京大学Yuangroup团队发起了一个 Open-Sora开源计划，旨在复制OpenAI（close AI）的视频生成模型sora‍ 本项目希望通过开源社区的力量复现Sora，由北大-兔展AIGC联合实验室共同发起，当前...

 随着AIGC的逐渐普及，你有没有发现越来越多的人开始用大模型自制微信头像？不过，许多文生图大模型仍然存在诸多不足，例如质感不强、图像畸变等。而今，秉持着实用研发思路的腾讯混元文生图大...

公告写道，此次开源的是 Mojo 标准库核心部分，包含用于优化 AI 超参数的功能，这些超参数决定了神经网络处理数据的方式。 Mojo 标准库还处于积极开发阶段，变化迅速，因此我们首先开源其核心...

 打开网易新闻 查看更多图片 本文首先将关注 RAG 的概念和理论。然后将展示可以如何使用用于编排（orchestration）的 LangChain、OpenAI 语言模型和 Weaviate 向量数据库来实现一个简单的 RAG...

 这几天引发了AI社区大讨论的逼近GPT-4性能的泄漏模型「miqu」，的确是Mistral公司训练的一个旧模型的量化版。此前，冲上各大榜单的这个开源模型引发开发者热议，开源AI或已进入关键时刻。破案...