-
马斯克xAI公布大模型详细进展，Grok只训练了2个月
个月就达到了不错的水平，不过并没有超过 GPT-4，支持的上下文长度也不长。在训练中，这个模型用到了深度学习框架 Jax，而不是 PyTorch。 为什么要构建 Grok？ 在博客中，xAI 首先...
-
马斯克版ChatGPT爆火来袭！不用Python，11人爆肝两个月
PyTorch或Tensorflow，甚至连Python成分也没有。 而是选用了Rust编程语言以及深度学习框架新秀JAX。 背后原因，xAI认为大模型训练过程就像一列呼啸而过的货运火车，如果其中一节...
-
全球首发！总结七十余种开源数据集，一览自动驾驶开源数据体系
本文经自动驾驶之心公众号授权转载，转载请联系出处。 基于数据驱动的各类深度学习模型任务，近年来随着数据集规模的不断扩大，性能逐渐被提升，国内外各大自动驾驶公司都在不断建立自己的数据库，以及数据闭环...
-
CMU清华MIT引爆全球首个Agent无限流，机器人「007」加班自学停不下来！具身智能被革命
练。 现在，我们正在迅速耗尽来自网络的高质量的真实token。全球训练AI的数据，都快不够用了。 深度学习之父Hinton表示，「科技公司们正在未来18个月内，要使用比现在GPT-4多100倍的算力...
-
LeCun、吴恩达等370多人签联名信：严格控制AI是危险的，开放才是解药
体发酵。 公开信链接：https://open.mozilla.org/letter/ 截至目前，深度学习三巨头之一的 LeCun、斯坦福大学计算机科学系教授吴恩达等 370 多人已经在这封公开信上...
-
索尼互动娱乐公司收购基于 AI 的视频处理解决方案公司 iSIZE
索尼公司今天宣布已经签署协议，将收购总部位于英国的公司 iSIZE，该公司专注于「为视频交付提供深度学习技术。iSIZE 为媒体和娱乐行业构建了基于 AI 的解决方案，以实现比特率的节省和质量的改善，...
-
大模型: 模型大了难在哪里？
基座，一方面搞半天成本上耗不起，另一方面可能还没啥效果。 2. 大模型训练需要更多的显存内存资源。 深度学习训练需要的内存包括模型参数、反向传播的梯度、优化器所用的内存、正向传播的中间状态（activ...
-
使用Ray创建高效的深度学习数据管道
用于训练深度学习模型的GPU功能强大但价格昂贵。为了有效利用GPU，开发者需要一个高效的数据管道，以便在GPU准备好计算下一个训练步骤时尽快将数据传输到GPU。使用Ray可以大大提高数据管道的效率。...
-
机器学习|PyTorch简明教程下篇
层感知机 多层感知机通过在网络中加入一个或多个隐藏层来克服线性模型的限制，是一个简单的神经网络，也是深度学习的重要基础，具体图如下： import numpy as np import torch...
-
OpenAI首席科学家：ChatGPT意识觉醒，AI共生成未来关键
片由AI生成，图片授权服务商Midjourney Sutskever的职业经历充满突破性成就，包括与深度学习和神经网络相关的关键项目，如AlexNet的创建。他的工作引领了深度学习的大爆炸时刻，将其应...