-
AI绘画stability工具大全
Stability AI 公司的关于AI绘画工具集合，这家公司从Stable Diffusion商业出来，具有能浓厚社区文化，凡事研究AI绘画都会关注这家公司！ Stability AI 的使命是让AI对所有人开放和有益。 本文基于Stable Dif...
-
人工智能：电信行业的希望灯塔
为了有效利用人工智能的变革力量，电信提供商必须从根本上转变思维方式，并采用旨在推动增长的创新商业模式。ChatGPT的出现引发了人们对人工智能的极大兴趣，吸引了从董事会成员和供应商到分析师和活动组织者等各个利益相关者的关注。在这个以数字化转型为主导的时...
-
CES 2024的亮点仅仅聚焦AI深度赋能和产业创新吗？｜ DALL-E 3、Stable Diffusion等20+ 图像生成模型综述
随着科技飞速发展，CES（国际消费电子展）已然成为全球科技产业的风向标，每年的CES大会都是业界瞩目的盛事。回顾2024年CES大会，不难发现其亮点纷呈，其中以人工智能的深度赋能为最引人注目之处。AI技术的深入应用成为CES大会上的一大亮点，各大厂商纷纷展...
-
不分割成token，直接从字节中高效学习，Mamba原来还能这样用
在定义语言模型时，通常会使用一种基本分词方法，把句子分为词（word）、子词（subword）或字符（character）。其中，子词分词法一直是最受欢迎的选择，因为它在训练效率和处理词汇表外单词的能力之间实现了自然的折中。然而，一些研究指出了子词分词法...
-
打破MoE训练效率与性能瓶颈，华为盘古稀疏大模型全新架构LocMoE出炉
2023 年 12 月，首个开源 MoE 大模型 Mixtral 8×7B 发布，在多种基准测试中，其表现近乎超越了 GPT-3.5 和 LLaMA 2 70B，而推理开销仅相当于 12B 左右的稠密模型。为进一步提升模型性能，稠密 LLM 常由于其参数...
-
Agent像人一样分工协作，还能“群聊”交换信息
智能体也要有“规范手册”！ 一项名为MetaGPT的研究，通过对智能体角色进行明确分工，并要求多个智能体在协作中采用统一规范的“交流格式”等方法，让智能体性能大增。 目前，这项研究在GitHub上已狂揽33.6k星，并在深度学习顶会ICLR 2024上被...
-
中文创意写作能力超GPT-4，「最会写」的中文大模型Weaver来了
ChatGPT 等通用大模型支持的功能成百上千，但是对于普通日常用户来说，智能写作一定是最常见的，也是大模型最能真正帮上忙的使用场景之一。尽管大模型经常能写出看起来像模像样的文字，但是大多数情况下内容的创意程度和文风都经不起深究。尤其是在创作领域，大模型...
-
【AI绘画】stable diffusion原理解读，通俗易懂，直接喂到你嘴里！！！
手把手教你入门绘图超强的AI绘画，用户只需要输入一段图片的文字描述，即可生成精美的绘画。给大家带来了全新保姆级教程资料包 （文末可获取） 文章目录 一、前言（可跳过） 二、stable diffusion 1.clip 2...
-
人工智能大时代——AIGC综述
生成式AI分类 模型按照输入输出的数据类型分类，目前主要包括9类。 有趣的是，在这些已发布大模型的背后，只有六个组织（OpenAI, Google, DeepMind, Meta, runway, Nvidia）参与部署了这些最先进的模型。...
-
生成式人工智能应用中的矢量数据库
生成式人工智能凭借其制作文本、图像和音频等新内容的卓越能力，处于技术创新的前沿。 这个变革领域的核心是一个经常被忽视的部分：矢量数据库。这些数据库能够熟练地处理复杂的非结构化数据，从而激发人工智能的创造力，证明自己在这一领域的价值无可估量。 生成式人...
-
史上首个100%开源大模型重磅登场！破纪录公开代码/权重/数据集/训练全过程，AMD都能训
多年来，语言模型一直是自然语言处理（NLP）技术的核心，考虑到模型背后的巨大商业价值，最大最先进的模型的技术细节都是不公开的。 现在，真·完全开源的大模型来了！ 来自艾伦人工智能研究所、华盛顿大学、耶鲁大学、纽约大学和卡内基梅隆大学的研究人员，联合发表了...
-
图领域首个通用框架来了！入选ICLR'24 Spotlight，任意数据集、分类问题都可搞定
能不能有一种通用的图模型—— 它既能够根据分子结构预测毒性，又能够给出社交网络的朋友推荐？ 或者既能预测不同作者的论文引用，还可以发现基因网络中的人类衰老机制？ 你还真别说，被ICLR 2024接收为Spotlight的“One for All（OFA）...
-
匿名论文提出奇招，增强大模型长文本能力居然还能这么做
一提到提高大模型长文本能力，就想到长度外推或者上下文窗口扩展? 不行，这些都太费硬件资源了。 来看一个奇妙新解: 和长度外推等方法使用KV缓存的本质不同，它用模型的参数来存储大量上下文信息。 具体办法就是建一个临时Lora模块，让它仅在长文本生成过程中“流...
-
详解“小而优”的大语言模型Zephyr 7B
Zephyr是Hugging Face发布的一系列大语言模型，使用蒸馏监督微调(dSFT 在更庞大的模型上进行训练，显著提高了任务准确性。 2023年是属于大语言模型(LLM 和开源的一年。许多初创公司和企业开放了模型和权重的源代码，以应对ChatGPT...
-
登Nature子刊，滑铁卢大学团队评论「量子计算机+大语言模型」当下与未来
模拟当今量子计算设备的一个关键挑战，是学习和编码量子比特之间发生的复杂关联的能力。基于机器学习语言模型的新兴技术已经显示出学习量子态的独特能力。 近日，加拿大滑铁卢大学的研究人员在《Nature Computational Science》发表题为《La...
-
击败OpenAI，权重、数据、代码全开源，能完美复现的嵌入模型Nomic Embed来了
一周前，OpenAI 给广大用户发放福利，在下场修复 GPT-4 变懒的问题后，还顺道上新了 5 个新模型，其中就包括更小且高效的 text-embedding-3-small 嵌入模型。 我们知道，嵌入是表示自然语言或代码等内容中概念的数字序列。嵌入使...
-
陶哲轩看了都直呼内行！谷歌等用LLM自动证明定理拿顶会杰出论文，上下文越全证得越好
Transformer的技能树是越来越厉害了。 来自马萨诸塞大学、谷歌和伊利诺伊大学厄巴纳-香槟分校（UIUC）的研究人员发表了一篇论文，利用大语言模型自动生成定理的完整证明。 论文地址：https://arxiv.org/pdf/2303.04910...
-
基于LLaMA Factory，单卡3小时训练专属大模型 Agent
大家好，今天给大家带来一篇 Agent 微调实战文章 Agent（智能体）是当今 LLM（大模型）应用的热门话题 [1]，通过任务分解（task planning）、工具调用（tool using）和多智能体协作（multi-agent cooperat...
-
【CV】稳定扩散模型（Stable Diffusion）
?大家好，我是Sonhhxg_柒，希望你看完之后，能对你有所帮助，不足请指正！共同学习交流? ?个人主页－Sonhhxg_柒的博客_CSDN博客 ? ?欢迎各位→点赞? + 收藏⭐️ + 留言? ?系列专栏 - 机器学习【ML】 自...
-
张晴晴：对话数据推动AIGC——大模型底层数据探索
“Training data is technology” . 数据即科技，OpenAI的联合创始人IlyaSutskever在与知名科技媒体The Verge访谈中提到。ChatGPT自发布以来热度席卷全球，一周前惊艳亮相的GPT-4更是...
-
LLaMA、Baichuan、ChatGLM、Qwen、天工等大模型对比
12.10更新：Qwen技术报告核心解读 Baichuan Baichuan 2: Open Large-scale Language Models 数据处理：数据频率和质量，使用聚类和去重方法，基于LSH和dense embedding方...
-
AIGC智能编程：编程革新还是就业陷阱？
AIGC智能编程：程序员的失业陷阱？ 引言 随着人工智能的迅猛发展，智能编程技术也越来越受到关注。AIGC智能编程是一种利用人工智能技术自动生成代码的方法，它能够极大地提高编程效率和质量。然而，这种技术的兴起也引发了人们对程序员就业前景的忧虑。本文...
-
LLaMA模型指令微调 字节跳动多模态视频大模型 Valley 论文详解
Valley: Video Assistant with Large Language model Enhanced abilitY 大家好，我是卷了又没卷，薛定谔的卷的AI算法工程师「陈城南」~ 担任某大厂的算法工程师，带来最新的前沿AI知识和工具...
-
快速入门ChatGPT和AIGC：底层原理、热门工具、行业现状【我们能做什么】
最近大家热议的ChatGPT和AI绘画工具的底层技术原理是什么？是如何发展到现在的？有哪些应用场景、热门工具？AIGC产业上下游有哪些公司？作为普通用户，我们还能接触哪些应用AI技术打造的商业解决方案？…… 我们查阅了AIGC相关相关的调研报告和各类资料...
-
大模型也有小偷？为保护你的参数，上交大给大模型制作「人类可读指纹」
大模型的预训练需要耗费巨量的计算资源和数据，因而预训练模型的参数也正成为各大机构重点保护的核心竞争力和资产。然而，不同于传统的软件知识产权保护可以通过比对源代码来确认是否存在代码盗用，对预训练模型参数盗用的判断存在以下两方面的新问题： 1） 预训练模型的...
-
基于医疗领域数据微调LLaMA——ChatDoctor模型
文章目录 ChatDoctor简介 数据构建和训练过程 建立外部知识库 ChatDoctor相比ChatGPT有什么优势？ ChatDoctor的效果 代码解读 train_lora.py文件解读 微调实战 下载仓库并进入目录 创建con...
-
年龄两岁，教龄一年半：婴儿AI训练师登上Science
在公开采访中，图灵奖得主 Yann LeCun 多次提到，现在的 AI 模型和人类婴儿相比，学习效率实在是太低了。那么，如果让一个 AI 模型去学习婴儿头戴摄像头拍到的东西，它能学到什么？ 最近，Science 杂志上的一篇论文进行了初步尝试。研究发现，...
-
GPT-4V只能排第二！华科大等发布多模态大模型新基准：五大任务14个模型全面测评
近期，多模态大模型（LMMs）在视觉语言任务方面展示了令人印象深刻的能力。然而，由于多模态大模型的回答具有开放性，如何准确评估多模态大模型各个方面的性能成为一个迫切需要解决的问题。 目前，一些方法采用GPT对答案进行评分，但存在着不准确和主观性的问题。另...
-
如何用Stable Diffusion生成高质量的图 全网最全介绍！（附资料）
Stable Diffusion无疑是最近最火的AI绘画工具之一，所以本期给大家带来了全新Stable Diffusion 提示词资料包（文末可获取） Stable Diffusion Stable Diffusion是一个开源的图像生成AI系统,...
-
英国部长们敦促保护创意人员作品被AI公司使用
上议院一个委员会表示，部长们必须捍卫内容创作者的利益，他们的作品在未经科技公司许可的情况下被用来构建人工智能产品，例如产生“巨额经济回报”的聊天机器人。 英国上议院通信和数字委员会表示，随着人工智能发展的兴起，英国的法律框架未能执行版权的基本原则。该委员会...
-
华科大发布多模态大模型新基准 覆盖五大任务
近期，华中科技大学等机构发布了一项关于多模态大模型（LMMs）的全面评估新基准，旨在解决多模态大模型性能评估的问题。这项研究涉及了14个主流多模态大模型，包括谷歌Gemini、OpenAI GPT-4V等，覆盖了五大任务、27个数据集。然而，由于多模态大模...
-
UCLA华人提出全新自我对弈机制！LLM自己训自己，效果碾压GPT-4专家指导
合成数据已经成为了大语言模型进化之路上最重要的一块基石了。 在去年底，有网友扒出前OpenAI首席科学家Ilya曾经在很多场合表示过，LLM的发展不存在数据瓶颈，合成数据可以解决大部分的问题。 图片 英伟达高级科学家Jim Fan在看了最近的一批论文后也...
-
匿名论文提出奇招！增强大模型长文本能力居然还能这么做
一提到提高大模型长文本能力，就想到长度外推或者上下文窗口扩展？ 不行，这些都太费硬件资源了。 来看一个奇妙新解： 和长度外推等方法使用KV缓存的本质不同，它用模型的参数来存储大量上下文信息。 具体办法就是建一个临时Lora模块，让它仅在长文本生成过程中“...
-
AI2发布开放语言模型OLMo 号称多项性能媲美Llama2
AI2最新发布的开放语言模型（OLMo）框架旨在推动大规模语言模型的研究和实验。通过在Hugging Face和GitHub上提供训练代码、模型和评估代码，AI2致力于让学术界和研究人员能够共同研究语言模型的科学，探索新的预训练数据子集对下游性能的影响，以...
-
数据为王！如何通过数据一步步构建高效的自动驾驶算法？
本文经自动驾驶之心公众号授权转载，转载请联系出处。 写在前面&笔者的个人理解 下一代自动驾驶技术期望依赖于智能感知、预测、规划和低级别控制之间的专门集成和交互。自动驾驶算法性能的上限一直存在巨大的瓶颈，学术界和业界一致认为，克服瓶颈的关键在于以...
-
DALL-E 系列：AI绘画背后的惊人真相！！【1个离奇内幕、3个意想不到、5大秘密揭示】
DALL-E 系列：AI绘图原理，根据用户给出的描述，生成与描述相匹配的图像 DALL-E 1 dVAE Transformer DALL-E 2 CLIP 先验 prior decoder（image） DALL-E 3...
-
当物联网遇上人工智能：技术的未来展望
人工智能(AI 已经取得了惊人的进步，并作为一种普遍适用的技术对社会产生了影响。 但早期的人工智能研究，始于20世纪50年代。如今，人工智能仍在不断发展。当数据过多时，人工智能会很有帮助。物联网(IoT 预计将显著增加生成的数据量，目前估计每天约为2.5...
-
深度学习（生成式模型）—— stable diffusion：High-Resolution Image Synthesis with Latent Diffusion Models
文章目录 前言 motivation Conditioning Mechanisms 实验结果 如何训练autoencoder LDM性能与autoencoder深度的联系 LDM带来的图像生成速率提升 LDM在图像生成任务上与sota方法比...
-
关于推荐系统，有六大让人震惊的“秘密”
推荐系统自1992 年代诞生以来, 到2024 年的今天已经有32 年的发展历程。在这几十年的发展历程中，各个互联网和科技公司上线过数以百万计的推荐系统模型。尽管推荐系统经历过 2012 到 2014 年的发展低潮，但很快就被后起之秀快手和字节跳动一改颓...
-
Warning！远距离LiDAR感知
本文经自动驾驶之心公众号授权转载，转载请联系出处。 一、引言 去年开了图森ai day之后，一直想以文字形式总结一下这几年在远距离感知方面所做的工作，正好最近有时间了，就想写一篇文章记录一下这几年的研究历程。本文所提到的内容都在图森ai day视频[0]...
-
【扩散模型】万字长文全面理解与应用Stable Diffusion
万字长文全面理解与应用Stable Diffusion 1. Stable Diffusion简介 1.1 基本概念 1.2 主体结构 1.3 训练细节 1.4 模型评测 1.5 模型应用 1.6 模型版本 1.7 其他类型的条件生成模型 1...
-
十分钟读完「降低 LLaMA 模型微调内存占用的QLoRA」论文
QLoRA 提出内存高效的微调方法！降低 LLaMA 模型微调内存占用，仅需数小时追赶 ChatGPT 引言：大模型微调的新时代 随着人工智能技术的飞速发展，大型语言模型（Large Language Models，LLMs）已成为自然语言处理领域的重...
-
大模型技术实践（三）｜用LangChain和Llama 2打造心灵疗愈机器人
上期文章我们实现了Llama 2-chat-7B模型的云端部署和推理，本期文章我们将用“LangChain+Llama 2”的架构打造一个定制化的心灵疗愈机器人。有相关知识背景的读者可以直接阅读「实战」部分。 01 背景...
-
Informatica调查:全球企业优先考虑生成式 AI
企业云数据管理领导者Informatica发布了其年度调查结果，题为《CDO Insights2024:制定AI准备路线》。调查聚焦全球数据领袖，包括首席数据官在内，有600名受访者提供了他们对生成式人工智能准备的见解，并突显了在实施该方法时的关键技术和组...
-
【思路合集】talking head generation+stable diffusion
1 以DiffusionVideoEditing为baseline： 改进方向 针对于自回归训练方式可能导致的漂移问题： 训练时，在前一帧上引入小量的面部扭曲，模拟在生成过程中自然发生的扭曲。促使模型查看身份帧以进行修正。 在像VoxCeleb或L...
-
赶超Gemini Pro，提升推理、OCR能力的LLaVA-1.6太强了
去年 4 月，威斯康星大学麦迪逊分校、微软研究院和哥伦比亚大学研究者共同发布了 LLaVA（Large Language and Vision Assistant）。尽管 LLaVA 是用一个小的多模态指令数据集训练的，却在一些样本上展示了与 GPT-4...
-
【网安AIGC专题10.19】论文6（顶会ISSTA 2023）：提出新Java漏洞自动修复数据集：数据集 VJBench+大语言模型、APR技术+代码转换方法+LLM和DL-APR模型的挑战与机会
How Effective Are Neural Networks for Fixing Security Vulnerabilities 写在最前面 摘要 贡献 发现 介绍 背景：漏洞修复需求和Java漏洞修复方向 动机 方法 贡献...
-
人工智能教程（七）：Scikit-learn 和训练第一个模型
在本系列的 上一篇文章 中，我们用 TensorFlow 构建了第一个神经网络，然后还通过 Keras 接触了第一个数据集。我们还将介绍另一个强大的机器学习 Python 库 scikit-learn。不过在进入正题之前，我要介绍两个轰动性的人工...
-
Depth Anything：释放大规模无标注数据的深度估计
本文经自动驾驶之心公众号授权转载，转载请联系出处。 24年1月论文“Depth Anything: Unleashing the Power of Large-Scale Unlabeled Data“，来自香港大学、字节、浙江实验室和浙江大学。 这项...
-
Python进行数据分析||AIGC生成的Python-Pandas库的一些主要函数及其使用实例来进行数据分析
在Python的Pandas库中，有许多函数可以用来进行数据分析。以下是一些主要函数及其使用实例： read_csv( ：这个函数用于从CSV文件中读取数据。例如，如果你有一个名为"my_data.csv"的文件，你可以使用以下代码来读取它： im...