GPT-4可能也在用的推测解码是什么？一文综述前世今生和应用情况
众所周知，大型语言模型（LLM）的推理通常需要使用自回归采样，这个推理过程相当缓慢。为了解决这个问题，推测解码（Speculative Decoding）已经成为 LLM 推理的一种新型采样方法。这种方法在每个采样步骤中，会先预测几个可能的
科技前沿
2024年工业机器人的五大趋势
全球运行机器人的存量达到约390万台，创下新纪录。这一需求是由许多令人兴奋的技术创新驱动的。国际机器人联合会(IFR)日前报告了2024年的五大自动化趋势：1. 人工智能和机器学习在机器人和自动化中使用人工智能(AI)的趋势不断增长。生成式
比GPT-4快18倍，世界最快大模型Groq登场！每秒500 token破纪录，自研LPU是英伟达GPU 10倍
一觉醒来，每秒能输出500个token的Groq模型刷屏全网。堪称是「世界上速度最快的LLM」！相比之下，ChatGPT-3.5每秒生成速度仅为40个token。有网友将其与GPT-4、Gemini对标，看看它们完成一个简单代码调试问题所需
Gemini一眼识破Sora视频是AI生成？百万token上下文能力碾压GPT-4
当谷歌Gemini 1.5，遇上抢了它头条的「罪魁祸首」Sora会怎么样？这两天，拿到内测资格的AI圈大佬们，纷纷给广大网友来了一波在线测试。这不，Gabor Cselle就让Gemini 1.5去分析了那个著名的樱花雪景视频。对此，Gem
人工智能驱动的效率：重新定义数据中心的能源使用
在当今的数字时代，数据中心是积极管理巨大信息流的动力，以保持我们互联世界的运行。数据中心格局反映了这场技术革命，其在过去三年中增长了惊人的48%。然而，这种进步是有代价的，因为大型数据中心是贪婪的能源消耗者，每个数据中心都需要足够的电力来供
AI驱动的超自动化如何提高业务效率
人们对AI和超自动化感到兴奋，这是有充分理由的，AI具有自动化涉及人类思维和相关行为的复杂企业任务的潜力。AI驱动的企业超自动化看起来就像自动驾驶汽车的现状，我们有特斯拉可以按需送人们去地方，Waymo在旧金山和凤凰城的街道上漫游，根本没有
Midjourney创始人：版权问题暂时无解，AI生图不是要取代艺术家
Midjourney大火之后，艺术家的路却越走越窄了。而最近，又曝出Midjourney等生图AI面临很严重的版权问题。用户用非常简单的提示词就能获得无数收版权保护的图像。最近，福布斯杂志的特约撰稿人专门采访了Midjourney的创始人D
超四分之一企业禁止员工使用生成式人工智能
根据思科2024年数据隐私基准研究，超过四分之一(27%)的组织出于隐私和数据安全风险的考虑，暂时禁止在员工中使用生成式人工智能。大多数组织还对此类工具实施了控制。近三分之二(63%)的受访者对可以输入的数据进行了限制，61%的受访者对员工
大型多视角高斯模型LGM：5秒产出高质量3D物体，可试玩
为满足元宇宙中对 3D 创意工具不断增长的需求，三维内容生成（3D AIGC）最近受到相当多的关注。并且，3D 内容创作在质量和速度方面都取得了显著进展。尽管当前的前馈式生成模型可以在几秒钟内生成 3D 对象，但它们的分辨率受到训练期间所需
什么是机器学习中的模型部署？
在机器学习中，模型部署是将机器学习模型集成到现有生产环境中的过程，在该环境中，模型可以接受输入并返回输出。目标是让其他人可以使用经过训练的机器学习模型的预测。大多数在线资源侧重于机器学习生命周期的前期步骤，例如探索性数据分析(EDA)、模型
