-
业内：过去数月老款AI芯片降价，大模型培训成本降60%
1月24日消息，众所周知，开发大语言模型（LLM）成本高昂。这不仅包括模型本身的研发，还有在云端运行这些模型的费用。以人工智能初创公司Anthropic为例，云端运行模型的成本几乎占了该公司上个月收入的一半以上，这还未算上训练模型的成本。 然而，最近的...
-
stable diffusion模型训练时数据量
文生图模型之Stable Diffusion - 知乎通向AGI之路码字真心不易，求点赞！ https://zhuanlan.zhihu.com/p/6424968622022年可谓是 AIGC（AI Generated Content）元年，上半年有文生...
-
Midjourney V6刷屏，但它最可怕的地方居然不是那些神图？
Midjourney在沉寂九个月后推出了Midjourney V6，这个文生图产品体现出的更细腻的细节处理，更强大的语言理解能力和更加“不像AI”的图片效果在过去几天引发一片惊呼。 作为一个闭源的模型产品，Midjourney的魔法配方并不为人所知，但就...
-
人工智能实战：Stable Diffusion技术分享
背景 Stable Diffusion是计算机图形学和可视化领域中的一项重要技术。在这篇分 享中 ，我们将深入探讨稳定扩散的原理、关键要素和实施步骤 ，通过了解Stable Diffusion的流程化 ，我们可以提升自身的设计能力和创造力 ，为公司 和个...
-
LLaMa 原理+源码——拆解 (KV-Cache, Rotary Positional Embedding, RMS Norm, Grouped Query Attention, SwiGLU)
原理 Vanilla Transformer 与 LLaMa 的区别 Embedding RMS Norm Rotary Positional Encodding SwiGLU Function KV-Cache Grouped Mult...
-
UCLA提出多模态具身智能大模型MultiPLY AI首次拥有类人感官
近日，UCLA等机构的研究人员推出了具身智能大模型MultiPLY，该模型不仅具备多模态感知能力，包括触觉、视觉、听觉等，使得AI能够更全面地与3D环境进行交互。这标志着具备多感官能力的大模型成为未来AI发展的重要方向。 MultiPLY在多任务实验中表...
-
AIGC重塑基础设施，高密数据中心为何众望所归？
凯文·凯利在《必然》中认为，科技在本质上有所偏好，使得它朝往某种特定方向。 毫无疑问，进入到数字经济时代，人工智能技术飞速发展与加速应用之际，这个特定方向逐渐明朗：即算力科技，算力已经成为新一轮科技和产业革命的核心生产力，发展先进的数据中心基础设施是数字...
-
aigc分享
AIGC技术分享 AIGC概述 AIGC的概念、应用场景和发展历程 https://36kr.com/p/2135547607286144 ppt https://36kr.com/p/2243237713604482 机器学习基础 机器学...
-
2024年，开源AI潜力更大？
开源（OS）正在驱动生成式 AI 的创新。得益于像 GitHub 和 Hugging Face 等学术研究平台，我们得以见证 AI 技术的蓬勃发展。但值得注意的是，OpenAI、Anthropic 等越来越多的科技公司选择不公开模型的代码和权重。 指责大...
-
网络安全人士必知的AI专业术语
随着人工智能的迅猛发展，我们正置身于第四次工业革命的浪潮中。在这个数字化的时代，网络安全成为各行业至关重要的议题。作为网络安全从业人员，不仅需要熟练掌握传统安全领域的知识，更需要深刻理解和运用人工智能，以在风云变幻的网络战场中保护信息资产。人工智能不仅为...
-
AI绘画创作，训练Lora模型绘制你心中的童年爱豆漫画
从零开始，教你如何塑造完美动漫人物Lora模型 1.整合包下载 首先是去秋叶大佬那里下载一键训练包，这样我们的训练就相当简单，解压包以后先更新，后启动。 秋叶大神百度网盘包：百度网盘 请输入提取码 提取码：p8uy 秋叶...
-
AIGC 大模型纷纷部署，企业如何为 AI 数据降本增效
编辑 | 宋慧 出品 | CSDN 云计算 AIGC 从年初开始持续爆火，国内各种大模型纷纷涌现，其中模型参数轻松突破千亿数量级。模型中数据的形态、部署也是多种多样的，庞大数据量背后的管理和成本不容小觑。 混合数据厂商肯睿 Cloudera...
-
“AI学会欺骗，人类完蛋了”？看完Anthropic的论文，我发现根本不是这回事啊
AGI若到来，人类是否会受到威胁，是一个大众热衷讨论同时研究者们也很关注的问题，从各个角度对此的研究几乎都会引发人们的讨论。最新的一个重磅研究来自今天最重要的大模型公司之一Anthropic。 1月9号他们发布了一篇论文，提出关于“Sleeper Agen...
-
AI绘画软件Stable Diffusion模型/Lora/VAE文件存放位置
型下载说明（下载模型后输入对应参数即可生成） 建议直接去civitai.com找模型，如果无法找到可以在幕后模型区找也可以去， 下载好后放入对应的文件夹。进入127.0.0.1:7680 左上角刷新即可看到新的模型。 模型种类 大模型 大模型...
-
一文了解AIGC与ChatGPT
关注微信公众号掌握更多技术动态 --------------------------------------------------------------- 一、AIGC简介 1.AIGC基础 (1 AIGC是什么 AIGC是人...
-
LLaMA Board: 通过一站式网页界面快速上手 LLaMA Factory
原文：https://github.com/hiyouga/LLaMA-Factory/blob/main/README_zh.md ? 加入我们的微信群。 [ English | 中文 ] LLaMA Board: 通过一站式网页界面快速上手...
-
腾讯太极文生图大模型，带你一起感受祖国大好河山
一、背景 随着大规模预训练模型的蓬勃发展和算力的大规模提升，业界和学界在图片生成这个领域也取得了非常大的进展。在AIGC（AI Generated Content）这个领域，随着英文Stable Diffusion模型的开源，催生出了很多AI绘画相关的...
-
Dreambooth Stable Diffusion始化训练环境（AutoDL）
以AutoDL为例 以下代码源自：赛博华佗——秋叶： Akegarasu 环境选择 Miniconda: Miniconda是一个轻量级的Conda环境管理系统。它包含了conda、Python和一些常用...
-
如何降低AIGC的疑似度？用ASI
在当今这个AI技术日新月异的时代，AIGC，即人工智能生成内容，已经深入到我们生活的方方面面。然而，随着其应用的广泛，AIGC的“疑似度”问题也逐渐凸显出来。所谓疑似度，是指AI生成的内容与人类原创内容的相似程度。如何降低AIGC的疑似度，让AI的创作更贴...
-
ChatGPT和文心一言哪个更好用？
ChatGPT和文心一言都是基于深度学习技术的自然语言处理模型，它们各自具有优势和局限性，需要根据具体需求进行选择。以下是两者的比较： 算力：ChatGPT由OpenAI开发，具有强大的文本生成能力和语言理解能力，其训练数据集规模和模型规模都非常大，...
-
快速上手！LLaMa-Factory最新微调实践，轻松实现专属大模型
1.为什么要对Yuan2.0做微调？ Yuan2.0（https://huggingface.co/IEITYuan）是浪潮信息发布的新一代基础语言大模型，该模型拥有优异的数学、代码能力。自发布以来，Yuan2.0已经受到了业界广泛的关注。当前Yua...
-
用通俗易懂的方式讲解大模型：一个强大的 LLM 微调工具 LLaMA Factory
LLM（大语言模型）微调一直都是老大难问题，不仅因为微调需要大量的计算资源，而且微调的方法也很多，要去尝试每种方法的效果，需要安装大量的第三方库和依赖，甚至要接入一些框架，可能在还没开始微调就已经因为环境配置而放弃了。 今天我们来介绍一个可以帮助大家快速...
-
ai绘画 ai模型对显卡的要求
AI是由很多层计算组成的，每一层计算都无差别地计算所有的节点，甚至是对所有的节点的排列组合。由于没有局部性，运行内存需要能够放得下一整个模型至少一层的运算量。如果运行内存不够大，就得把运算好的数据存储起来，放在外存，然后在外存读出没有运算的数据继续算，那这...
-
非营利组织计划推出Fairly Trained认证计划，确保AI模型生成内容不侵权
针对人工智能的潜在法规要求对模型进行审查，一些组织开始向AI公司提供认证计划，以展示他们的工作不侵犯版权。 据彭博社报道，Fairly Trained是由前Stability AI音频副总裁Ed Newton-Rex创立的，该组织为那些证明已经征得版权许可...
-
新一代注意力机制Lightning Attention-2：无限序列长度、恒定算力开销、更高建模精度
大语言模型序列长度的限制，极大地制约了其在人工智能领域的应用，比如多轮对话、长文本理解、多模态数据的处理与生成等。造成这一限制的根本原因在于当前大语言模型均采用的 Transformer 架构有着相对于序列长度的二次计算复杂度。这意味着随着序列长度的增加...
-
基于 PAI-EAS 一键部署 Stable Diffusion AIGC 绘画
人工智能平台PAI完成云上Stable Diffusion以文生图应用搭建，支持两种方式： 使用交互式建模 PAI-DSW 使用模型在线服务 PAI-EAS 两种部署适用人群： 1.使用交互式建模 PAI-DSW 部署Stable Diffus...
-
【慕伏白】stable diffusion webui 使用手册
文章目录 Global Parameters 1. Stable Diffusion checkpoint 2. Functions text2img 1. Prompt Prompt Editing 2. Negative prompt...
-
【论文笔记 · PFM】Lag-Llama: Towards Foundation Models for Time Series Forecasting
Lag-Llama: Towards Foundation Models for Time Series Forecasting 摘要 本文提出Lag-Llama，在大量时间序列数据上训练的通用单变量概率时间序列预测模型。模型在分布外泛化能力上取...
-
200亿「书生·浦语2.0」正式开源！数推性能比肩ChatGPT，200K超长上下文完美召回
就在今天，上海人工智能实验室与商汤科技联合香港中文大学和复旦大学，正式发布新一代大语言模型书⽣·浦语2.0（InternLM2）。 Github：https://github.com/InternLM/InternLM HuggingFace：https...
-
不知道AIGC是什么？近屿智能OJAC第六期AIGC深度训练营，带您从入门到精通！
想赶上AIGC技术革命这波红利，赚取更多收益的朋友，现在正是大好的时机！ 近屿智能OJAC的“AIGC星辰大海”第六期训练营正火热招募中！上千名学员已在此实现了职业的转型和飞跃，甚至有的学员通过学习AIGC大模型课程成功搭建出了自己的AI产品，并且成...
-
【stable diffusion原理解读通俗易懂，史诗级万字爆肝长文，喂到你嘴里】
文章目录 一、前言（可跳过） 二、stable diffusion 1.clip 2.diffusion model forward diffusion （前向扩散） 逆向扩散（reverse diffusion） 采样图 阶段小结 3....
-
请查收使用OpenAI的Whisper进行语音识别的攻略
Whisper是一种令人激动的新型语言模型，采用了全新的语音识别方法，即使是低质量的音频，Whisper也能产生高质量的结果，并且对各种声音和语言的适应性极强，无需进行微调。 Whisper是开源的，有一系列可用的模型尺寸，可以作为众多语音转文字应用的有...
-
[玩转AIGC]LLaMA2训练中文文章撰写神器（数据准备，数据处理，模型训练，模型推理）
目录 一、下载并加载中文数据集 二、中文数据集处理 1、数据格式 2、数据集处理之tokenizer训练格式 1）先将一篇篇文本拼凑到一起（只是简单的拼凑一起，用于训练tokenizer） 2）将数据集进行合并 3、数据集处理之模型（ll...
-
AIGC持续火爆大模型争相推出，庞大市场造就算力供应模式演变
本图由AI生成 文/王吉伟 近期的AIGC领域仍旧火爆异常。 但火的不只是AIGC应用，还有巨头之间的AI竞赛，以及接连不断上新的AI大模型（LLM，Large Language Model）。 面对ChatGPT带来的技术冲击，为了研...
-
最新开源！更擅长推理的LLaMA大模型，支持中文
©PaperWeekly 原创 · 作者 | 李忠利 研究方向 | 自然语言处理 跟大家介绍一下自己最近训练的 LLaMA 模型——BiLLa: A Bilingual LLaMA with Enhanced Reasoning Abi...
-
AIGC和ChatGPT推进百度、阿里、腾讯、华为大模型技术创新
AIGC | PC集群 | PC Farm | GPU服务器 生成式AI | Stable Diffusion | ChatGPT 2022 年 12 月，OpenAI 推出了 ChatGPT，这是一种高性能计算的大型语言生成模型。它的出现推动了人...
-
Stable Diffusion 硬核生存指南：WebUI 中的 GFPGAN
本篇文章聊聊 Stable Diffusion WebUI 中的核心组件，强壮的人脸图像面部画面修复模型 GFPGAN 相关的事情。 写在前面 本篇文章的主角是开源项目 TencentARC/GFPGAN，和上一篇文章《Stable Diffusio...
-
深挖RLHF潜力，复旦语言和视觉团队创新奖励模型优化，让大模型更对齐
继第一份大模型对齐技术报告（Secrets of RLHF in Large Language Models Part I）获 NeurIPS 2023 workshop best paper 后，第二份报告强势归来，复旦语言和视觉团队联合推出的第二...
-
Transformer的无限之路：位置编码视角下的长度外推综述
在自然语言处理（Natural Language Processing，NLP）领域，Transformer 模型因其在序列建模中的卓越性能而受到广泛关注。然而，Transformer 及在其基础之上的大语言模型（Large Language Model...
-
大模型伪装「潜伏特工」学会欺骗！OpenAI劲敌重磅研究震惊马斯克
不要教LLM学会骗人！不要教LLM学会骗人！不要教LLM学会骗人！ 因为后果可能会很严重，甚至超出人类的想象。 最近，AI初创公司Anthropic的研究表明，一旦LLM学会了人类教授的欺骗行为，它们就会在训练和评估的过程中隐藏自己，并在使用时偷偷输出恶...
-
探索学习和入门使用GitHub Copilot：提升代码开发的新利器
目录 引言 1. 什么是GitHub Copilot？ 2. 入门使用GitHub Copilot 3. GitHub Copilot的基础知识 4. GitHub Copilot的应用场景 结论 在最近的开发工作中，发现了一个比较实用...
-
精确指出特定事件发生时间！字节&复旦大学多模态大模型解读视频太香了
字节&复旦大学多模态理解大模型来了： 可以精确定位到视频中特定事件的发生时间。 比如在下面这个视频中： 狗子转身看镜头时的时间戳是多少？ 什么时候用爪子推开滑板？ 在这里，视频中的宝宝什么时候推起眼镜、舒展了一下身体？又是什么时候翻的书？ 对...
-
向量数据库：AIGC时代的必备基础工具
今天分享的AIGC系列深度研究报告：《向量数据库：AIGC时代的必备基础工具》。 （报告出品方：广发证券） 报告共计：47页 点击添加图片描述（最多60个字）编辑 一、向量数据库为 AI 大模型全生命周期管理提质增效 随着AI大模型的...
-
AIGC内容分享(十三)：2023年中国AIGC产业全景报告
目录 核心摘要 中国AIGC产业之“变”与"新 技术变革的原始驱力：大模型层 价值传递的实际落位：应用层 不可忽视的资源引擎：算力层 中国AIGC产业之发展趋势 核心摘要 古人有云：日就月将，学有缉熙于光明。人类对人工智能学的潜心钻研...
-
拆掉英伟达护城河，细节曝光！世界最快超算用3072块AMD GPU训完超万亿参数LLM
用AMD的软硬件系统也能训练GPT-3.5级别的大模型了。 位于美国橡树岭国家实验室（Oak Ridge National Laboratory）的全世界最大的超算Frontier，集合了37888个MI250X GPU和9472个Epyc 7A53 C...
-
AI绘画权益纠纷：你的创作是否触碰了版权底线？
最近，北京互联网法院就一起人工智能生成图片（AI绘画图片）的著作权侵权案进行了首次审理并做出了判决。这是中国首例牵涉到“AI文生图”著作权的案件，庭审过程在多个平台进行直播，吸引了众多网友，同时引发了对于AI生成内容与著作权之间关系的广泛讨论。 那么近年...
-
一文读懂 LLM 可观测性
Hello folks，我是 Luga，今天我们继续来聊一下人工智能(AI 生态领域相关的技术 - LLM (大型语言模型 可观测性 ，本文将继续聚焦在针对 LLM 的可观测性进行解析，使得大家能够了解 LLM 的可观测性的必要性以及其核心的生态体系知...
-
百度最强中文AI作画大模型
前言 最近文生图领域的发展可谓是分生水起，这主要是得益于最近大火的扩散模型，之前笔者也写过一篇关于文本生产3D模型的文章，大家感兴趣的可以穿梭： https://zhuanlan.zhihu.com/p/570332906 今天要给大家介绍...
-
LLMs之LLaMA-2：LLaMA-2的简介(技术细节)、安装、使用方法(开源-免费用于研究和商业用途)之详细攻略
LLMs之LLaMA-2：LLaMA-2的简介(技术细节 、安装、使用方法(开源-免费用于研究和商业用途 之详细攻略 导读：2023年7月18日，Meta重磅发布Llama 2！这是一组预训练和微调的大型语言模型（LLM），规模从70亿到700亿个...
-
实战AI大模型：AIGC及经典模型
今天，人工智能技术的快速发展和广泛应用已经引起了大众的关注和兴趣，它不仅成为技术发展的核心驱动力，更是推动着社会生活的全方位变革。特别是作为AI重要分支的深度学习，通过不断刷新的表现力已引领并定义了一场科技革命。大型深度学习模型（简称AI大模型）以其强大的...