-
大语言模型训练数据常见的4种处理方法
型预训练数据过滤中。但是由于预训练数据量非常大，并且对于质量判断的准确率并不要求非常高，因此一些基于深度学习以及基于预训练的方法还没有应用于低质过滤过滤中。 2.冗余去除 文献指出大语言模型训...
-
AIGC实战——条件生成对抗网络(Conditional Generative Adversarial Net, CGAN)
，以便使生成的输出与给定的标签相关联。 系列链接 AIGC实战——生成模型简介AIGC实战——深度学习 (Deep Learning, DL AIGC实战——卷积神经网络(Convolution...
-
MosaicML 推出 30B 模型 — 挑战 LLaMA、Falcon 和 GPT
osaicML联合创始人兼首席执行官Naveen Rao。他之前的创业公司是Nervana，这是一家深度学习公司，于2016年被英特尔收购，所以他最近在人工智能行业并不重要。 顾名思义，MPT-30...
-
AIGC的起源：从基础到未来的前景
本文探究了自动图像内容生成（AIGC）技术的起源、基础概念以及未来的发展前景。从最初的概念到如今的深度学习应用，AIGC已经取得了巨大的进步。文章还将探讨AIGC在艺术、医疗、设计等领域中的潜在前景...
-
深度学习之目标检测中的常用算法
随着深度学习的不断发展，深度卷积神经网络在目标检测领域中的应用愈加广泛，现已被应用于农业、交通和医学等众多领域。 与基于特征的传统手工方法相比，基于深度学习的目标检测方法可以学习低级和高级图像特征，...
-
word2vec作者爆料：seq2seq是我的想法、GloVe抄袭技巧，反击来了
谷歌大脑中几乎所有的人，唯独没有我。那时是资金大量涌入人工智能领域的时期，每一个想法都价值连城。看到深度学习社区迅速变成某种权力的游戏，我感到很悲哀。」 论文地址（上）以及致谢名单（下）：ht...
-
用生物脑机制启发持续学习，让智能系统适者生存，清华朱军等团队研究登Nature子刊封面
而导致对先前知识的灾难性遗忘（catastrophic forgetting）。 作为人工智能尤其是深度学习发展的重要瓶颈，持续学习近年来在人工智能领域受到广泛关注。大多数持续学习方法都专注于提高对所...
-
人工智能有能力彻底改变科学研究
超越人类智能的系统和应用。AI的发展经历了几个阶段，从早期的符号主义、联结主义，到近年来的统计学习、深度学习等，不断地突破了理论和技术的限制，实现了许多令人惊叹的成就，如图像识别、自然语言处理、语音识...
-
【网安AIGC专题10.11】①代码大模型的应用：检测、修复②其安全性研究：模型窃取攻击（API和网页接口） 数据窃取攻击 对抗攻击（用途：漏洞隐藏） 后门攻击（加触发器+标签翻转）
使用过程中产生的相关计算数据，包括输出向量、模型参数、模型梯度等，可能会泄露训练数据的敏感信息。这使深度学习模型的数据泄露问题难以避免。 例如， 1、模型逆向攻击，攻击者可以在不接触隐私数据的情况下...
-
推理性能超H100十倍！21岁华裔小哥哈佛辍学开发AI加速芯片「Sohu」，2人公司估值3400万刀
工智能加速器领域，一些公司拥有针对特定工作负载的专门架构。 数据中心的专用架构主要集中在DLRM（深度学习推荐模型），因为GPU很难加速这类任务。 Meta最近宣布已经构建了自己的DLRM推理芯片，...