天工大模型3.0将于4月17日发布，并将同步开源
日前昆仑万维方面宣布，天工大模型3.0将于4月17日、即天工大模型发布一周年之际开启公测，并将同步开源。据了解，天工3.0采用4千亿级参数MoE混合专家模型，号称是全球模型参数最大、性能最强...
国产黑马一年肝出万亿参数MoE！霸榜多模态，剑指AGI
LLM战场的新玩家，一出手就是王炸！信仰Scaling Law的阶跃星辰，一口气带来了Step-1千亿参数语言大模型、Step-1V千亿参数多模态大模型，以及Step-2万亿参数MoE语言大模型的预览版。而阶跃星辰...
开源五连招，其中三个是MoE
大模型的快节奏发展，让了解最新技术动态、积极主动学习成为每一位从业者的必修课。 InfoQ研究中心期望通过每周更新大模型行业最新动态，为广大读者提供全面的行业回顾和要点分析。现在，让我...
OpenAI遭遇研发谜团：有时大模型很难学会，过后又能突然学会
两年前，OpenAI的研究人员尤里·布尔达（Yuri Burda）和哈里·爱德华兹（Harri Edwards）曾试图找出如何让一个大型语言模型进行基本运算。打开网易新闻 查看更多图片 （来源：OpenAI 官网）他们...
Mamba架构第一次做大！混合Transformer，打败Transformer
精彩精彩，第一个把爆火Mamba架构真正扩展到足够大的工作来了。520亿参数，还是Mamba+Transformer混合架构。它的名字叫Jamba。打开网易新闻 查看更多图片 取两种架构之长，模型质量和效率兼得...
对标英伟达的“唯一巨星”，要IPO了
国内芯片半导体领域突然传来重磅消息，“批量全球资本加持的巨星”要IPO了。投资家网获悉，智驾科技独角兽地平线（Horizon Robotics）近日正式向港交所递交招股书，高盛、摩根士丹利、中信建...
芯片战争早已打响！谷歌15个月打造首个TPU
在英伟达统治AI时代硬件的当下，谷歌的TPU却开辟了另一条道路。今天，小编带你了解第一块TPU的前世今生，同时揭开TPU架构的神秘面纱。在计算的历史上，曾被丢弃或过时的想法仍然很有趣，有时...
AI编程语言Mojo正式开源标准库，宣称比Python快9万倍
公告写道，此次开源的是 Mojo 标准库核心部分，包含用于优化 AI 超参数的功能，这些超参数决定了神经网络处理数据的方式。 Mojo 标准库还处于积极开发阶段，变化迅速，因此我们首先开源其核心...
新开源之王来了！1320亿参数，还比Llama2-70B快1倍
“最强”开源大模型之争，又有新王入局：大数据巨头Databricks，刚刚发布MoE大模型DBRX，并宣称： 它在基准测试中击败了此前所有开源模型。 包括同为混合专家模型的Grok-1和Mixtral。打开网易...
一口气升级7个大模型SaaS应用，百度智能云
这一波大模型产业落地浪潮里，不少企业其实处在 “干瞪眼“的状态。一种情况是，很多大模型产品看得见却摸不着，在台上一个个遥遥领先——今天Sora技精四座，明天英伟达的机器人又赢得满堂彩，...