-
MLP一夜被干掉！MIT加州理工等革命性KAN破记录，发现数学定理碾压DeepMind
一夜之间，机器学习范式要变天了！ 当今，统治深度学习领域的基础架构便是，多层感知器（MLP）——将激活函数放置在神经元上。 那么，除此之外，我们是否还有新的路线可走？ 就在今天，来自MIT、加州理工、东北大学等机构的团队重磅发布了，全新的神经网络结构...
-
奥特曼本人确认：神秘gpt2不是GPT-4.5！
答案揭晓了！ 「神秘gpt2-chatbot不是GPT-4.5」。 最近，Sam Altman在哈佛大学演讲中，向所有人确认了这不是OpenAI下一代的模型。 还记得几天前，gpt2-chatbot突然在LLM竞技场chat.lmsys.org现身，展现...
-
特斯拉机器人进厂打工，马斯克：手的自由度今年将达到22个！
特斯拉机器人Optimus最新视频出炉，已经可以在厂子里打工了。 正常速度下，它分拣电池（特斯拉的4680电池）是这样的： 官方还放出了20倍速下的样子——在小小的“工位”上，拣啊拣啊拣： 这次放出的视频亮点之一在于Optimus在厂子里完成这项工作...
-
特斯拉Optimus人形机器人进厂打工，娴熟分装电池、自我矫正，还能走更远了
特斯拉人形机器人又解锁了新技能！ 昨日，Tesla Optimus 官方发布了新的 demo 视频，展示了二代 Optimus 人形机器人的最新进展。 这次，Optimus 开始进厂打工了，在特斯拉电池工厂学会了分装电池，并且比以前走得更快更远更稳了。...
-
如何在网络服务中利用人工智能和机器学习
将人工智能技术集成到各种产品中已经成为游戏规则的改变者，特别是在网络服务系统中。人工智能的定义已经扩展到包含编程代码中的启发式和概率，为更高效的数据处理和解决问题的能力铺平了道路。 机器学习(ML 市场正在全球范围内蓬勃发展。2022年，其价值约为19...
-
模型量化与量化在LLM中的应用 ｜ 得物技术
【图片出处：Knowledge Distillation: A survey,2021,p2】 剪枝则是通过靠剪除模型中不重要的权重从而给模型“瘦身”，提高模型的推理效率，为了保证模型的能力，通常剪枝过程也需要伴随着模型基于训练数据的微调。根据剪除权重的...
-
闭环永动机！NeuroNCAP：彻底打通端到端闭环仿真链路，已开源！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者的个人理解 本文提出了一种用于测试自动驾驶（AD）软件系统的多功能基于NeRF的仿真器，其设计重点是传感器真实闭环评估和安全关键场景的创建。仿真器从真实世界的驾驶传感器数据序列中...
-
苹果首款AI平板曝光，新iPad Pro搭载M4芯片
据彭博社Mark Gurman的最新爆料，苹果公司即将在5月份发布新版iPad Pro，这款设备将直接搭载M4芯片，跳过M3版本。M4芯片继续采用台积电3nm工艺，其主要改进在于提升神经网络引擎的性能，这将使得AI功能运行更加流畅。 M4系列芯片可能包括M...
-
苹果高管：Mac是可以买到最好的AI电脑
快科技4月28日消息，苹果Mac产品营销部门Laura Metz在接受采访时表示:Mac是用户可以买到的最好的操作生成式AI的个人电脑产品。” Laura Metz声称，实际上苹果从2020年第一款M系列芯片M1推出的时候，就已经开始AI的部署了，在M1芯...
-
最新综述！万字长文彻底搞懂单目3D车道线检测
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者的个人理解 3D车道检测在自动驾驶中起着至关重要的作用，通过从三维空间中提取道路的结构和交通信息，协助自动驾驶汽车进行合理、安全和舒适的路径规划和运动控制。考虑到传感器成本和视觉数...
-
图灵诺奖得主等大佬齐聚海淀！清华版Sora震撼首发，硬核AI盛会破算力黑洞
中关村论坛举办以来的首个主题日活动：「人工智能主题日」今日开启！ 到场嘉宾，也是星光熠熠，大佬云集，还有着浓浓的国际范儿，与世界顶尖水平接轨。 一共161位嘉宾，近一半是外籍AI大佬和从业者。 而嘉宾阵容也是非常豪华，汇集了国内外30多名院士，还有诺奖、...
-
终局之战！OpenAI Sora大佬专访：AI视频模型仍处在GPT-1时代
【新智元导读】Sora一出，谁与争锋!近日，Sora团队的三位负责人Aditya Ramesh、Tim Brooks和Bill Peebles接受了采访，解读了Sora在模拟现实、预测结果和丰富人类体验等方面带来的变革。 对于视频生成领域，大家一致的看法就...
-
一文解决任何机器学习问题！
前言 数据挖掘大神Abhishek Thakur，很多数据挖掘kaggler对他都非常熟悉，他在 Linkedin 发表了一篇名为Approaching (Almost Any Machine Learning Problem(几乎解决任何机器学习...
-
探讨自回归模型和扩散模型的发展应用
在当前大模型驱动的内容创新浪潮中，人工智能产业正以前所未有的力度拥抱一场由大模型技术策动的科技革新运动。这场革命不仅重塑了人机交互的边界，使其跃升至更高层次的认知协作，而且正在颠覆传统的计算思维与执行模式，催生出全新的计算范式，从而深刻地渗透并革新各行各...
-
量化、剪枝、蒸馏，这些大模型黑话到底说了些啥？
量化、剪枝、蒸馏，如果你经常关注大语言模型，一定会看到这几个词，单看这几个字，我们很难理解它们都干了些什么，但是这几个词对于现阶段的大语言模型发展特别重要。这篇文章就带大家来认识认识它们，理解其中的原理。 模型压缩 量化、剪枝、蒸馏，其实是通用的神经网络...
-
OpenAI Preparedness团队首席Aleksander Madry：机器学习模型的内部计算如何将输入转化为预测？
考虑一个标准的ResNet50模型，该模型经过训练用于图像分类任务。我们是否能够理解这个模型中的卷积滤波器如何将输入图像转换为其预测的标签？或者，GPT-3中的注意力头如何contribute到下一个标记的预测？理解这些模型组件——包括滤波器或头等架构...
-
黄仁勋亲自给OpenAI送货，全球首台DGX H200开箱了
今天，黄仁勋又来送 AI 芯片了，还是超强悍的那种。 OpenAI 联合创始人、总裁 Greg Brockman 发推，晒出了自己、OpenAI CEO 奥特曼与英伟达创始人兼 CEO 黄仁勋的合照。 他表示，老黄亲自为 OpenAI 送来了全球第一台...
-
LLM 安全 | 大语言模型应用安全入门
一、背景 2023年以来，LLM 变成了相当炙手可热的话题，以 ChatGPT 为代表的 LLM 的出现，让人们看到了无限的可能性。ChatGPT能写作，能翻译，能创作诗歌和故事，甚至能一定程度上做一些高度专业化的工作，比如法律服务和医疗诊断咨询。...
-
《这就是ChatGPT》登顶微信读书热搜榜第一名
今日，据微信读书热搜榜显示，《这就是ChatGPT》登顶微信读书热搜榜第一名。 据悉，《这就是 ChatGPT》是一本由 [美] 斯蒂芬・沃尔夫拉姆（Stephen Wolfram）于2023年7月出版的图书，由人民邮电出版社出版。 该书主要介绍了 Op...
-
AI信任危机之后，揭秘预训练如何塑造机器的「可信灵魂」
图表 1: 大模型的通用训练流程 [1] 在人工智能的前沿领域，大语言模型（Large Language Models，LLMs）由于其强大的能力正吸引着全球研究者的目光。在 LLMs 的研发流程中，预训练阶段占据着举足轻重的地位，它不仅消耗了大量的计...
-
人工智能可以帮助识别门牌号吗？
人工智能(AI 是一项进步，使计算机和机器能够复制人类的知识和解决问题的能力。如今，人们正在使用人工智能识别门牌号码。人工智能可以单独或与其他技术相结合来执行任务，如传感器、地理定位、机器人技术，无需人类参与。 人工智能在识别门牌号码方面的作用 在计算...
-
AI成功改写人类DNA，全球首个基因编辑器震撼开源！近5倍蛋白质宇宙LLM全生成
AI，能够重写人类基因组了？ 就在刚刚，初创公司Profluent宣布，完全由AI设计的基因编辑器，已经成功编辑了人类细胞中的DNA。 也就是说，世界上首个使用AI从头设计的分子级精确基因编辑器诞生了。 就像ChatGPT能生成诗歌一样，Proflue...
-
自然语言处理(NLP)的工作原理
本文旨在揭开语言模型的神秘面纱，阐明其处理原始文本数据的基本概念和机制。它涵盖了几种类型的语言模型和大型语言模型，重点关注基于神经网络的模型。 语言模型定义 语言模型专注于生成类似人类的文本的能力。通用语言模型本质上是单词序列的统计模型或概率分布，用于...
-
牛津大学最新！Mickey：3D中的2D图像匹配SOTA！(CVPR'24)
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面 项目链接：https://nianticlabs.github.io/mickey/ 给定两张图像，可以通过建立图像间的对应关系来估计它们之间的相机相对姿态。通常，这些对应关系是二维到二维的...
-
时代2024最具影响力100人：黄仁勋、Bengio、纳德拉 、王传福等人入选
刚刚，《时代》周刊发布了 2024 年度最具影响力的 100 人名单。 在这份名单中，我们看到了很多熟悉的学者和企业家。 微软公司 CEO、董事长萨蒂亚・纳德拉，比亚迪创始人王传福，英伟达创始人兼首席执行官黄仁勋，图灵奖得主 Yoshua Bengio...
-
英特尔构建全球最大的神经形态系统，以促进更可持续的AI
英特尔宣布，已经建造了世界上最大的神经形态系统，代号为Hala Point，这一大规模神经形态系统最初部署在桑迪亚国家实验室，采用英特尔的Loihi 2处理器，旨在支持未来以大脑启发的AI研究，并解决当前AI在效率和可持续性方面的挑战。Hala Po...
-
4000万蛋白结构训练，西湖大学开发基于结构词表的蛋白质通用大模型，已开源
蛋白质结构相比于序列往往被认为更加具有信息量，因为其直接决定了蛋白质的功能。而随着AlphaFold2带来的巨大突破，大量的预测结构被发布出来供人研究使用。如何利用这些蛋白质结构来训练强大且通用的表征模型是一个值得研究的方向。 西湖大学的研究人员利用Fo...
-
综述！深度模型融合（LLM/基础模型/联邦学习/微调等）
23年9月国防科大、京东和北理工的论文“Deep Model Fusion: A Survey”。 深度模型融合/合并是一种新兴技术，它将多个深度学习模型的参数或预测合并为一个模型。它结合了不同模型的能力来弥补单个模型的偏差和错误，以获得更好的性能。然而...
-
如何基于香橙派AIpro对视频/图像数据进行预处理
本文分享自华为云社区《如何基于香橙派AIpro对视频/图像数据进行预处理》，作者： 昇腾CANN。 受网络结构和训练方式等因素的影响，绝大多数神经网络模型对输入数据都有格式上的限制。在计算机视觉领域，这个限制大多体现在图像的尺寸、色域、归一化参数等。如果...
-
通透！机器学习各大模型原理的深度剖析！
通俗来说，机器学习模型就是一种数学函数，它能够将输入数据映射到预测输出。更具体地说，机器学习模型就是一种通过学习训练数据，来调整模型参数，以最小化预测输出与真实标签之间的误差的数学函数。 机器学习中的模型有很多种，例如逻辑回归模型、决策树模型、支持向量...
-
如何通过机器学习算法设计软传感器？
通过理解机器学习算法的功能，工程师可以为他们的应用生成有效的软传感器。 软传感器（soft sensor），也称为虚拟传感器，是一种可以综合处理数百个测量数据的软件。想要添加软传感器的工厂管理者可能会对使软传感器工作的机器学习的范围感到不知所措。然而，...
-
苹果Mac系列全面升级：M4芯片研发加速 主打AI
快科技4月12日消息，日前，据名记马克古尔曼爆料，苹果正加快研发M4系列芯片，该芯片将主打AI功能。 爆料称，苹果计划今年底到明年初发布多款搭载M4芯片Mac，包括全新iMac、低端14英寸MacBook Pro、高端14英寸和16英寸MacBook Pr...
-
效率狂增16倍！VRSO：纯视觉静态物体3D标注，打通数据闭环！
本文经自动驾驶之心公众号授权转载，转载请联系出处。 标注之殇 静态物体检测（Static object detection，SOD），包括交通信号灯、导向牌和交通锥，大多数算法是数据驱动深度神经网络，需要大量的训练数据。现在的做法通常是对大量的训练样本...
-
为什么要纯C语言手搓GPT-2，Karpathy回应网友质疑
几天前，前特斯拉 Autopilot 负责人、OpenAI 科学家 Andrej Karpathy 发布了一个仅用 1000 行代码即可在 CPU/fp32 上实现 GPT-2 训练的项目「llm.c」。 llm.c 旨在让大模型（LM）训练变得简单...
-
AIGC实战——StyleGAN(Style-Based Generative Adversarial Network)
AIGC实战——StyleGAN 0. 前言 1. StyleGAN 1.1 映射网络 1.2 合成网络 1.3 自适应实例归一化层 1.4 风格混合 1.5 随机变化 2. StyleGAN 生成样本 3. StyleGAN2 3.1...
-
RAG 修炼手册｜一文讲透 RAG 背后的技术
在之前的文章中《RAG 修炼手册｜RAG敲响丧钟？大模型长上下文是否意味着向量检索不再重要》，我们已经介绍过 RAG 对于解决大模型幻觉问题的不可或缺性，也回顾了如何借助向量数据库提升 RAG 实战效果。 今天我们继续剖析 RAG，将为大家大家详细介绍...
-
AIGC-Stable Diffusion发展及原理总结
目录 一. AIGC介绍 1. 介绍 2. AIGC商业化方向 3. AIGC是技术集合 4. AIGC发展三要素 4.1 数据 4.2 算力 4.3 算法 4.3.1 多模态模型CLIP 4.3.2 图像生成模型 二. Stable...
-
低成本算法，大幅提升视觉分类鲁棒性！悉尼大学华人团队发布全新EdgeNet方法
在深度神经网络时代，深度神经网络（DNNs）在视觉分类任务中展现出了卓越的准确性。然而，它们对额外噪声，即对抗性攻击，表现出了脆弱性。先前的研究假设这种脆弱性可能源于高准确度的深度网络过度依赖于与纹理和背景等无关紧要且不鲁棒的特征。 最近的AAAI 20...
-
深度学习与AIGC：未来的智能生活
1.背景介绍 深度学习和人工智能生成(AIGC 是当今最热门的研究领域之一，它们在各个领域的应用都取得了显著的成果。深度学习是一种通过神经网络模拟人类大脑工作方式的机器学习方法，它已经在图像识别、自然语言处理、语音识别等领域取得了显著的成果。而人...
-
数据中心芯片市场将激增，到2032年将达到238亿美元
数据中心芯片市场预计将在未来十年经历大幅增长，从2022年到2032年的复合年增长率(CAGR 将超过8.1%，这个新兴市场的规模在2022年为111亿美元，预计到2032年将达到238亿美元。该行业负责数据处理和计算操作的核心，其发展受到数据生成的快...
-
标题：探索AI绘画：使用深度学习生成艺术
正文： 随着计算机技术的发展，人工智能在各个领域取得了显著的成果。 通过训练深度学习模型，AI可以学习大量的艺术作品，从而生成具有独特风格和创意的新作品。 本文将介绍如何使用Python和TensorFlow实现一个简单的AI绘画程序。...
-
AIGC实战——ProGAN(Progressive Growing Generative Adversarial Network)
AIGC实战——ProGAN 0. 前言 1. ProGAN 2. 渐进式训练 3. 其他技术 3.1 小批标准差 3.2 均等学习率 3.3 逐像素归一化 4. 图像生成 小结 系列链接 0. 前言 我们已经学习了使用生成对...
-
如何为制造业和自动化应用选择现人工智能技术
在工业自动化领域的生产和实验室之外的日常生活中，人工智能(AI 的定义差异很大。 “人工智能”指的是一门包含了几种不同技术和工程学科的科学，包括机器视觉、计算机视觉、机器学习和深度学习。当一个基于这些技术组合的系统设计得当时(从应用分析到最终验证 ，它...
-
陶哲轩转发、菲尔兹奖得主领衔：AI正在颠覆数学家的工作方式
想了解更多AIGC的内容，请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 陶哲轩点赞转发，《美国数学学会通报》用一整期特刊介绍了AI给数学带来的改变。 这些文章读起来很有趣，尽管使我自己即将发表的一篇文章显得多...
-
智能百科 | 多模态人工智能及其应用
多模态人工智能概述 多模态人工智能是一种人工智能技术，其能够处理和理解多种类型的输入数据，例如文本、图像、语音和视频等。与传统的单一模态人工智能相比，多模态人工智能能够更全面地理解和处理信息，因为其能够同时考虑多种输入源的信息。 多模态人工智能通常利用...
-
太全了！多模态深度学习的综述！
1.介绍 我们对世界的体验是多模态的 —— 我们看到物体，听到声音，感觉到质地，闻到气味，尝到味道。模态是指某件事发生或经历的方式，当一个研究问题包含多个模态时，它就具有多模态的特征。为了让人工智能在理解我们周围的世界方面取得进展，它需要能够同时解释这些...
-
ICLR 2024 | 联邦学习后门攻击的模型关键层
想了解更多AIGC的内容， 请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ 联邦学习使多个参与方可以在数据隐私得到保护的情况下训练机器学习模型。但是由于服务器无法监控参与者在本地进行的训练过程，参与者可以篡改本...
-
AI下一个重大飞跃是理解情感！第一个具有情商的对话型AI来了
想了解更多AIGC的内容： 请访问： 51CTO AI.x社区 https://www.51cto.com/aigc/ AI的下一个重大突破是理解情感吗？Hume AI表示是的。 3月27日，一家名为Hume AI的新创公司宣布，他们已经在一轮B轮融资中...
-
消息称谷歌考虑对基于 AI 的搜索引擎收费，将部分功能添至高级订阅服务
4 月 4 日消息，据英国《金融时报》援引三位熟悉谷歌的知情人士消息称，谷歌考虑对基于人工智能的搜索收费，这对其商业模式来说是一次重大变化。因为自 2000 年以来，谷歌的搜索产品一直都是依靠广告盈利的。 据报道，谷歌正在考虑保持标准搜索（不含 AI...
-
人工智能与半导体：共生关系
人工智能(AI 和半导体已经形成了一种共生关系，相互推动彼此的成长和进化。 人工智能前所未有的计算需求推动了更强大、更专业的半导体技术的发展，而半导体制造的进步使越来越复杂的人工智能系统得以创建。 人工智能对半导体的影响 人工智能的兴起迎来了计算需求的...