-
微软发布 Azure ND H100 v5 虚拟机，配备 8 个英伟达 H100 GPU
IT之家 11 月 21 日消息，微软 Azure AI 基础设施迎来升级，推出了 ND H100 v5 虚拟机系列，这款虚拟机配备了英伟达 H100 Tensor Core 图形处理单元（GPU）和低延迟网络。 据介绍，微软全新发布 Azure ND...
-
stable diffusion教程，详细版，包括解决各种问题
前提： 需要环境 git git下载地址Git - Downloading Package 直接装即可 python3.10.6 下载地址 Python Release Python 3.10.6 | Python.org 记得p...
-
计算机行业AIGC算力时代系列报告-ChatGPT芯片算力：研究框架
报告下载： 计算机行业AIGC算力时代系列报告-ChatGPT芯片算力：研究框架 简介 “AI算力时代已经来临，计算机行业正在经历着一场前所未有的变革！” 这是一个充满活力和兴奋的时代，人工智能（AI）已经成为了计算机行业中最为炙手可热的话题。随...
-
Omniverse Replicator环境配置和使用说明
Omniverse Replicator使用说明 本教程将介绍Omniverse Replicator的环境配置和使用说明, 参加Sky Hackathon的同学可以参考本教程来合成训练数据集. 文章目录 Omniverse Repl...
-
LLM - Model Load_in_8bit For LLaMA
一.引言 LLM 量化是将大语言模型进行压缩和优化以减少其计算和存储需求的过程。 博主在使用 LLaMA-33B 时尝试使用量化加载模型，用传统 API 参数控制量化失败，改用其他依赖尝试成功。这里先铺下结论: ◆ Load_in_8bit ✔️...
-
whisper.cpp在Windows VS的编译
Whisper是OpenAI开源的一款语音识别的模型，包含有英语和多国语言的模型，根据实际情况来看，其支持的90多种语言的准确率着实表现惊艳，英文甚至可以做到3%左右的误词率，官方图表显示中文的误词率大约是14%，但是实际使用的情况来看，误词率也是相当低，...
-
「无需配对数据」就能学习！浙大等提出连接多模态对比表征C-MCR
多模态对比表示（multi-modal contrastive representation, MCR）的目标是将不同模态的输入编码到一个语义对齐的共享空间中。 随着视觉-语言领域中CLIP模型的巨大成功，更多模态上的对比表征开始涌现出来，并在诸多下游任...
-
AMD显卡Ubuntu20.4系统下部署stable diffusion
今天来给大家做一个AMD显卡使用stable diffusion的小白（硬核）教程。最近这段时间AI特别火，很多小伙伴看到各种大佬用AI画的老婆非常精美（色情），弄的人心痒痒，自己也想画一个心仪的老婆（画作）。...
-
LLama大模型初体验——Linux服务器部署LLama注意事项
LLama大模型初体验——Linux服务器部署LLama注意事项 一、基本步骤 基本步骤可以参考这个链接：超详细Llama2部署教程——个人gpt体验攻略！ llama开源仓库：https://github.com/facebookresearc...
-
stable diffusion model训练遇到的问题【No module named ‘triton‘】
一天早晨过来，发现昨天还能跑的diffusion代码，突然出现了【No module named ‘triton’】的问题，导致本就不富裕的显存和优化速度雪上加霜，因此好好探究了解决方案。 首先是原因，由于早晨过来发现【电脑重启】导致了【训练终止】（美好...
-
AI - stable-diffusion(AI绘画)的搭建与使用
最近 AI 火的一塌糊涂，除了 ChatGPT 以外，AI 绘画领域也有很大的进步，以下几张图片都是 AI 绘制的，你能看出来么？ 一、环境搭建 上面的效果图其实是使用了开源的 AI 绘画项目 stable-diffusion 绘制的，这是它的官...
-
【朱颜不曾改，芳菲万户香。AIGC人物图片创作---InsCode Stable Diffusion 美图活动一期】
【朱颜不曾改，芳菲万户香。AIGC人物图片创作 ---InsCode Stable Diffusion 美图活动一期】 本文目录： 一、 Stable Diffusion 模型在线使用 1.1、模板运行环境配置 1.2、运行InsCo...
-
AIGC：【LLM（一）】——LoRA微调加速技术
文章目录 一.微调方法 1.1 Instruct微调 1.2 LoRA微调 二.LoRA原理 三.LoRA使用 一.微调方法 Instruct微调和LoRA微调是两种不同的技术。 1.1 Instruct微调 Instr...
-
本地部署开源大模型的完整教程：LangChain + Streamlit+ Llama
在过去的几个月里，大型语言模型(llm 获得了极大的关注，这些模型创造了令人兴奋的前景，特别是对于从事聊天机器人、个人助理和内容创作的开发人员。 大型语言模型(llm 是指能够生成与人类语言非常相似的文本并以自然方式理解提示的机器学习模型。这些模型使...
-
AntDB数据库受邀参加第六届上海人工智能大会，分享AIGC时代核心交易系统升级方案
近日，第六届上海人工智能大会春季论坛圆满落幕。大会以“数智互联，瞰见未来”为主题，邀请了来自国内外十余个国家和地区的学术界顶级学者和业内知名企业的技术大咖，探讨人工智能的学术、人才、技术、行业发展痛点。亚信科技AntDB数据库作为数智转型时代的基础软件受邀...
-
使用Python轻松识别音频中文字(Whisper)
使用Python轻松识别音频中文字 一、前言 在开会或是讨论问题的时候，我们总有一些内容需要记录下来。但由于各种原因，我们无法做到全面细致的记录。事后我们可能需要补充这些细节性内容，而回放视频或是录音费时费力，这时候语音识别可以帮助我们轻松解决这一...
-
Stable diffusion安装踩坑(win&Mac&iOS)
今天Apple官方支持了这个库，所以特意下载下来试试看，效果还不错，M芯片在深度学习领域第一次给人惊喜了。https://machinelearning.apple.com/research/stable-diffusion-coreml-apple-si...
-
Stable diffusion 和 Midjourney 怎么选？
通过这段时间的摸索，我将和你探讨，对普通人来说，Stable diffusion 和 Midjourney 怎么选？最重要的是，学好影视后期制作对 AI 绘画创作有哪些帮助？反过来，AI 绘画对影视后期又有哪些帮助？ 先说第一个问题的结论：普通人请直接选...
-
chatgpt平替，清华chatglm本地化部署教程（aigc大模型风口，校招找工作必备），包含weiui部署，api部署，对话框部署
ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。...
-
【CVHub】《万字长文带你解读AIGC》系列之入门篇
本文来源“CVHub”公众号，侵权删，干货满满。 作者丨派派星 来源丨CVHub 原文链接：《万字长文带你解读AIGC》系列之入门篇 0. 导读 图0 随着ChatGPT的病毒式传播，生成式人工智能(AIGC, a.k.a AI-gener...
-
运行Whisper笔记（1）
最近chatGPT很火，就去逛了一下openai的github项目。发现了这个项目。 这个项目可以识别视频中的音频，转换出字幕。 带着一颗好奇的心就尝试自己去部署玩一玩 跟着这篇文章一步步来进行安装，并且跟着这篇文章解决途中遇到的问题。 途中还会遇到几个...
-
日本 Rapidus 与 Tenstorrent 达成合作 将共同开发 2 纳米 AI 芯片
Rapidus Corporation，一家专注于高级逻辑半导体的研究、开发、设计、制造和销售的公司，今天宣布已与专注于人工智能（AI）计算的下一代计算公司 Tenstorrent Inc. 达成合作协议，共同开发基于 2 纳米逻辑半导体的 AI 边缘设备...
-
AI绘画 | stable-diffusion-ui 下载和安装
简介 Stable Diffusion Web UI是一款基于Stable Diffusion基础应用的交互程序，它利用gradio模块搭建而成。这个模块除了具有txt2img、img2img等基本功能外，还包含许多模型融合改进、图片质量修复等附加升级...
-
微软开发定制AI芯片“由软变硬”，到底打的什么算盘？
传闻是真的，微软正在开发定制AI芯片，它可以用来训练大语言模型，让微软获得更多独立，避免过度依赖英伟达。不只如此，微软还在开发Arm CPU，主要供云计算网络使用。两款芯片瞄准的都是Azure数据中心，微软企业客户可以用它们来搭建AI平台。 最新消息显...
-
AIGC文生图：stable-diffusion-webui部署及使用
1 stable-diffusion-webui介绍 Stable Diffusion Web UI 是一个基于 Stable Diffusion 的基础应用，利用 gradio 模块搭建出交互程序，可以在低代码 GUI 中立即访问 Stable Dif...
-
高通推出第三代骁龙7处理器 AI性能提升90%
高通宣布推出第三代骁龙7移动平台，第三代骁龙7移动平台采用了全新的CPU架构，最高主频高达2.63GHz，采用64位架构，CPU整体性能提升近15%，GPU性能提升超过50%。同时，第三代骁龙7移动平台整体功耗降低20%，并带来更持久的续航。 在AI方面...
-
大语言模型量化方法对比：GPTQ、GGUF、AWQ
在过去的一年里，大型语言模型(llm 有了飞速的发展，在本文中，我们将探讨几种(量化 的方式，除此以外，还会介绍分片及不同的保存和压缩策略。 说明：每次加载LLM示例后，建议清除缓存，以防止出现OutOfMemory错误。 del model, tok...
-
OpenCL任务调度基础介绍 | 京东物流技术团队
当前，科学计算需求急剧增加，基于CPU-GPU异构系统的异构计算在科学计算领域得到了广泛应用，OpenCL由于其跨平台特性在异构计算领域渐为流行，其调度困难的问题也随之暴露，传统的OpenCL任务调度需要在编码阶段确定调度方案，这种人工调度难度高、适应性差...
-
Stable Diffusion配置要求，显卡推荐
Stable Diffusion 是一款流行的人工智能图像生成器，您可以在自己的 PC 上运行。但是运行Stable Diffusion的最低规格是多少，哪些组件最重要？ Stable Diffusion需要什么 PC 硬件？ Stable D...
-
C#开源项目：私有化部署LLama推理大模型
推荐一个C#大模型推理开源项目，让你轻松驾驭私有化部署！ 01 项目简介 LLama是Meta发布的一个免费开源的大模型，是一个有着上百亿数量级参数的大语言模型，支持CPU和GPU两种方式。 而LLamaSharp就是针对llama.cpp封装的C#...
-
faster-whisper-webui
摘要 whisper开源之后，很多相关的衍生产品也开源了，比如faster-whisper，它是一个比whisper转录更快的技术实现，转录速度是whisper的4倍，并且占用的显存更少，占用显存是whisper的1/2。而我们这次要讲的是faster...
-
聚焦 AIGC，函数计算为 AI 应用插上腾飞翅膀
6月1日，2023 阿里云峰会·粤港澳大湾区在广州举办，Serverless 加速创新分论坛如约亮相，阿里云函数计算 FC 聚焦 AIGC 应用开发，GPU 性能体验再升级，让 AIGC 应用开发更简单。 以更少的代码，实现业务创新 函数计算 FC...
-
Stable Diffusion WebUI 本地安装教学
Stable diffusion AI的绘图工具，这是一种扩散模型，可以通过不断去噪来获得最终的艺术作品。这款工具是当前最受欢迎的AI绘图工具之一，不仅是还是开源的，而且其中的AUTOMATIC111 Stable-diffusion-webui版本深受A...
-
微软深夜连甩三大炸弹！Bing Chat更名Copilot，自研芯片问世，还加入GPTs功能
就在刚刚，微软正式对外重磅宣布?： 从今天起，Bing Chat全线更名——Copilot。 图片 和ChatGPT一样，现在的微软Copilot也拥有自己的专属网站。 但与之不同的是，像GPT-4、DALL·E 3这样的功能，在Copilot上统统都是...
-
AIGC专栏3——Stable Diffusion结构解析-以图像生成图像（图生图，img2img）为例
AIGC专栏3——Stable Diffusion结构解析-以图像生成图像（图生图，img2img）为例 学习前言 源码下载地址 网络构建 一、什么是Stable Diffusion（SD） 二、Stable Diffusion的组成 三、i...
-
如何有效减少 AI 模型的数据中心能源消耗？
在让人工智能变得更好的竞赛中，麻省理工学院（MIT）林肯实验室正在开发降低功耗、高效训练和透明能源使用的方法。 在 Google 上搜索航班时，您可能已经注意到，现在每个航班的碳排放量估算值都显示在其成本旁边。这是一种告知客户其对环境影响的方式，并让他...
-
掰开安卓手机，满屏都是三个字：大模型丨模力时代
这年头，安卓厂商没个大模型，都不敢开手机发布会了。 前脚OPPO刚用大模型升级了语音助手，后脚vivo就官宣自研手机AI大模型; 小米发布会则直接将大模型当场塞进手机系统……其竞争激烈程度，不亚于抢芯片首发。 到底是怎么回事? 究其原因，还是智能终端已经成...
-
可与H100一战，微软首款5纳米自研芯片震撼发布！Copilot引爆办公全家桶，Bing Chat改名
微软深夜炸场，万物皆可Copilot！ Bing Chat，从此更名Copilot。 登录微软账号，就可以在Copilot专属网站上免费使用GPT-4、DALL·E 3。 图片 OpenAI的全新王牌爆款——自定义GPT，也被塞进Copilot宇宙，变身...
-
掰开安卓手机，满屏都是三个字：大模型
这年头，安卓厂商没个大模型，都不敢开手机发布会了。 前脚OPPO刚用大模型升级了语音助手，后脚vivo就官宣自研手机AI大模型； 小米发布会则直接将大模型当场塞进手机系统……其竞争激烈程度，不亚于抢芯片首发。 到底是怎么回事？ 究其原因，还是智能终端已经...
-
【大模型系列 06】LLaMA-7B/13B for PyTorch 昇腾迁移
源码链接 https://gitee.com/ascend/ModelZoo-PyTorch/tree/master/PyTorch/built-in/foundation/LLaMA-13B LLaMA-7B/13B for PyTorch...
-
LLMs之Vicuna：在Linux服务器系统上实Vicuna-7B本地化部署(基于facebookresearch的GitHub)进行模型权重合并(llama-7b模型与delta模型权重)、模型部
LLMs之Vicuna：在Linux服务器系统上实Vicuna-7B本地化部署(基于facebookresearch的GitHub 进行模型权重合并(llama-7b模型与delta模型权重 、模型部署且实现模型推理全流程步骤的图文教程(非常详细 ...
-
OPPO发布ColorOS 14 AI助手小布接入AndesGPT大模型
在2023年的OPPO开发者大会上，ColorOS14系统正式发布。官方数据表明，ColorOS已经积累了超过6亿的月活用户，并且连续五年成为首批适配新安卓的操作系统。ColorOS始终秉持用户至上的理念，致力于提供极致的系统体验。 为了提升系统流畅性，C...
-
DefaultCPUAllocator: not enough memory: you tried to allocate
DefaultCPUAllocator: not enough memory: you tried to allocate XXX 问题：系统内存不足。 解决方案（1）：重启电脑/使用任务管理器关闭多余应用释放系统内存（临时方案） 任务管理器启用方式：...
-
到底什么是算力？
算力的字面意思，大家都懂，就是计算能力（Computing Power）。 所谓“计算”，我们可以有多种定义。 狭义的定义，是对数学问题进行运算的过程，例如完成“1+1=？”的过程，或者对“哥德巴赫猜想”进行推理的过程。 广义的定义，则更为宏观，凡是对信...
-
AMD安装Stable-Diffusion步骤笔记
AMD安装Stable-Diffusion步骤2023.6.4 使用平台 安装步骤 1.安装 Python 3.10.6 2.安装 git 3.获取Stable-Diffusion 4.运行webui-user.bat 访问使用...
-
足够惊艳，使用Alpaca-Lora基于LLaMA(7B)二十分钟完成微调，效果比肩斯坦福羊驼
之前尝试了从0到1复现斯坦福羊驼（Stanford Alpaca 7B），Stanford Alpaca 是在 LLaMA 整个模型上微调，即对预训练模型中的所有参数都进行微调（full fine-tuning）。但该方法对于硬件成本要求仍然偏高且训练低效...
-
新技术有效加速大规模人工智能模型的处理性能
麻省理工学院和英伟达的研究人员开发了两种技术来加速稀疏张量的处理，稀疏张量是一种用于高性能计算任务的数据结构。这些技术可以显著提高系统的性能和能效，例如驱动生成式人工智能的大规模机器学习模型。 张量（Tensors）是机器学习模型使用的数据结构。这两种...
-
解释：生成式 AI的工作机制与差异
像 ChatGPT 这样强大的生成式 AI 系统是如何工作的，它们与其他类型的人工智能有何不同？ 快速浏览一下头条新闻，就会发现生成式人工智能如今无处不在。事实上，其中一些标题实际上可能是由生成式人工智能撰写的，例如 OpenAI 的 ChatGPT，...
-
百度搜索智能化算力调控分配方法
作者 | 泰来 导读 随着近年深度学习技术的发展，搜索算法复杂度不断上升，算力供给需求出现了爆发式的增长。伴随着AI技术逐步走到深水区，算法红利在逐步消失，边际效应日益显著，算力效能的提升尤为重要，同时随着宏观经济影响，大规模的算力需求供给也遭...
-
基于RWKV可在本地运行的AI小镇开源
AI Town RWKV Proxy是一个允许用户在本地通过RWKV代理来运行大型AI城市的项目。该项目基于RWKV，这是一个线性变换器，没有评估妥协，推理成本较低（10-100倍），足够轻便，可以在16GB RAM和任何现代CPU上运行。用户可以选择在不...