-
看红帽如何在RHEL与OpenShift中玩转生成式AI
市场上有很多生成式AI平台的选择，为什么要选择红帽? 红帽总裁兼CEO Matt Hicks直言红帽的不同之处在于运行位置的核心灵活性。企业既可以对小型开源模型进行混合部署，也可以在公有云或自有数据中心训练模型，同时支持主要的GPU供应商。 最近在R...
-
联发科天玑 9300+ 处理器发布 支持Llama27B端侧大模型运行
在今日上午的MediaTek天玑开发者大会MDDC2024上，备受瞩目的天玑9300++旗舰处理器终于揭开了神秘的面纱。这款处理器的CPU架构精心布局，融合了1个高达3.40GHz的Cortex-X4核心，3个2.85GHz的核心，以及4个2.00GHz的...
-
量化、剪枝、蒸馏，这些大模型黑话到底说了些啥？
量化、剪枝、蒸馏，如果你经常关注大语言模型，一定会看到这几个词，单看这几个字，我们很难理解它们都干了些什么，但是这几个词对于现阶段的大语言模型发展特别重要。这篇文章就带大家来认识认识它们，理解其中的原理。 模型压缩 量化、剪枝、蒸馏，其实是通用的神经网络...
-
【总结】在嵌入式设备上可以离线运行的LLM--Llama
文章目录 Llama 简介 运用 另一种：MLC-LLM 一个令人沮丧的结论在资源受限的嵌入式设备上无法运行LLM（大语言模型）。 一丝曙光：tinyLlama-1.1b（10.1亿参数，需要至少2.98GB的RAM） Llam...
-
玩转大模型！用Replicate一键部署
Replicate是一个云端的机器学习模型运行平台。它可以让用户使用云端API 直接运行机器学习模型，而无需了解复杂的机器学习模型内部构造。 Replicate允许用户在Python或Jupyter Notebook中运行模型，并在云端进行模型的部...
-
谷歌狂喜：JAX性能超越Pytorch、TensorFlow！或成GPU推理训练最快选择
谷歌力推的JAX在最近的基准测试中性能已经超过Pytorch和TensorFlow，7项指标排名第一。 而且测试并不是在JAX性能表现最好的TPU上完成的。 虽然现在在开发者中，Pytorch依然比Tensorflow更受欢迎。 但未来，也许有更多...
-
前谷歌工程师创业造AI芯片，要比英伟达好十倍！已融资2500万美元
3月28日消息，英伟达在AI芯片市场的主导地位激发了其他公司自主设计芯片的决心。尽管从头开始设计芯片充满挑战，耗时多年且成本高昂，通常以失败告终，但人工智能的巨大潜力驱使业界人士勇敢尝试。 在这一背景下，两位前谷歌工程师共同创立了MatX。他们利用在谷...
-
become-image官网体验入口 图像处理AI模型在线使用地址
become-image是一个AI模型，能够将任何面部图片适配到另一张图片上。该项目提供了在Replicate上运行此模型的链接，以及在ComfyUI中运行的指南。此外，还提供了在本地开发和运行Web UI的详细步骤。 点击前往become-image官...
-
参照人类大脑，学会忘记会让AI大模型变得更好？
计算机科学家团队近期开发出一种更敏捷更具弹性的机器学习模型，它们可以周期性忘记已知信息，而现有大语言模型不具备忘却能力。 实测表明，在很多情况下，“忘却法”的训练效率很高，忘却型模型表现也会更好。韩国基础科学研究院（Institute for Basi...
-
微软“办公新时代”活动前瞻，主打 AI：新画图应用、提高游戏帧率等
3 月 8 日消息，微软已敲定北京时间 3 月 22 日凌晨 1 点举办线上新品发布会，主题为“办公新时代”，预估主要内容是 Copilot、Windows 和 Surface，利用 AI 提高用户生产力。 根据 Windows Latest 报道，微...
-
单GPU就能压缩模型，性能不变参数少25%！微软提出模型稀疏化新方法
众所周知，对于大语言模型来说，规模越大，所需的算力越大，自然占用的资源也就越多。 研究人员于是乎把目光转到了这片领域，即模型的稀疏化（Sparsification）。 今天要介绍的SliceGPT，则可以实现模型的事后稀疏。也就是说，在一个模型训练完了以...
-
AIGC实战——能量模型(Energy-Based Model)
AIGC实战——能量模型 0. 前言 1. 能量模型 1.1 模型原理 1.2 MNIST 数据集 1.3 能量函数 2. 使用 Langevin 动力学进行采样 2.1 随机梯度 Langevin 动力学 2.2 实现 Langevin...
-
全网最全stable diffusion模型讲解！快来！！小白必收藏！！
手把手教你入门绘图超强的AI绘画程序Stable Diffusion，用户只需要输入一段图片的文字描述，即可生成精美的绘画。给大家带来了全新Stable Diffusion保姆级教程资料包（文末可获取） AI模型最新展现出的图像生成能力远远超出人们的预期...
-
AI读心术再升级！一副眼镜直接控制波士顿机器狗，脑控机器人成真
还记得之前的AI读心术吗？最近，「心想事成」的能力再次进化， ——人类可以通过自己的想法直接控制机器人了！ 来自麻省理工的研究人员发表了Ddog项目，通过自己开发的脑机接口（BCI）设备，控制波士顿动力的机器狗Spot。 狗狗可以按照人类的想法，移动到特...
-
20240126请问在ubuntu20.04.6下让GTX1080显卡让whisper工作在large模式下？
20240126请问在ubuntu20.04.6下让GTX1080显卡让whisper工作在large模式下？ 2024/1/26 21:19 问GTX1080模式使用large该如何配置呢？ 这个问题没有完成，可能需要使用使用显存更大的显卡了！ 比如G...
-
Stable Diffusion WebUi云端部署配置记录
一、前言 业务逻辑：服务器部署sdwebui项目，远程浏览器访问ui界面。服务器可租用AutoDL的GPU服务器 服务器：租用AutoDL的GPU服务器，Linux Stable Diffusion WebUi：作者AUTOMATIC1111，git...
-
【随手记录】Llama Tutorial 大语言模型实践 手把手系列带实践源码
这个tutorial的契机是yy突然看到了一个workshop 所以类似于一周大作业的形式，输入command输出使用了自动驾驶哪些模块，代码在这里 所以就干一干，顺便写一个tutorial给大家参考和教程 引申更多的应用 参考资料： https:...
-
哪些编程语言和领域最适合应用AIGC技术？
1. 引言 人工智能技术的发展已经深刻影响了各个行业，使得自动化和智能化成为了当今的一个热点。与此同时，应用在人工智能领域的算法和模型也变得越来越复杂。为了更好地应对这些挑战，越来越多的开发者开始关注应用于智能计算的编程语言和领域。本文将深入讨论哪些编...
-
Stable Diffusion 硬核生存指南：WebUI 中的 CodeFormer
本篇文章聊聊 Stable Diffusion WebUI 中的核心组件，强壮的人脸图像面部画面修复模型 CodeFormer 相关的事情。 写在前面 在 Stable Diffusion WebUI 项目中，源码 modules 目录中，有一个有趣...
-
AIGC：大语言模型开放平台OpenLLM简介（提供简易的模型部署体验）
文章目录 @[toc] 简介 一、安装 二、启动LLM服务器 项目链接 简介 该项目旨在为各种大语言模型（LLM）在生产环境中的部署和可观测性提供一个标准的解决方案，用最简单直接的方式把大语言模型（LLM）部署到云端或本...
-
AIGC｜手把手教你进行ChatGLM模型部署实践
一、背景介绍 模型部署基本步骤分为模型选择、模型部署、运行，如果需要在特定的场景下定制化模型，则还需要进行数据集的选择、数据集格式转换、微调。 根据上述的步骤本教程选取如下的开源模型、数据集，来对医疗场景下进行定制化模型部署。当然模型部署对G...
-
几何纹理重建新SOTA！浙大提出SIFU：单图即可重建高质量3D人体模型
在AR、VR、3D打印、场景搭建以及电影制作等多个领域中，高质量的穿着衣服的人体3D模型非常重要。 传统的方法创建这些模型不仅需要大量时间，还需要能够捕捉多视角照片的专业设备，此外还依赖于技术熟练的专业人员。 与此相反，在日常生活中，我们最常见...
-
Aiartapps官网体验入口 AI艺术图像创作工具免费试用地址
Aiartapps是一款为设计师和创意工程师提供各种AI艺术相关的资源和工具的创新产品。它为用户提供了生成艺术、人物头像创作、儿童故事生成、图像创作等多种功能，而无需具备机器学习知识。Aiartapps产品不仅提供了API接口和SDK支持，还具备稳定的扩散...
-
GitHub正式发布Copilot Chat，开放给所有用户使用
功能特性 Copilot Chat是一款以编程为中心的聊天机器人，类似于ChatGPT。它由GPT-4提供支持，开发者可以使用自然语言向其提问，获取实时的编程指导，例如解释概念、检测漏洞或编写单元测试。 使用范围 最初，Copilot Chat 为...
-
Stable Diffusion 硬核生存指南：WebUI 中的 GFPGAN
本篇文章聊聊 Stable Diffusion WebUI 中的核心组件，强壮的人脸图像面部画面修复模型 GFPGAN 相关的事情。 写在前面 本篇文章的主角是开源项目 TencentARC/GFPGAN，和上一篇文章《Stable Diffusio...
-
OpenAI的人工智能语音识别模型Whisper详解及使用
1 whisper介绍 拥有ChatGPT语言模型的OpenAI公司，开源了 Whisper 自动语音识别系统，OpenAI 强调 Whisper 的语音识别能力已达到人类水准。 Whisper是一个通用的语音识别模型，...
-
stable diffusion模型讲解
AI模型最新展现出的图像生成能力远远超出人们的预期，直接根据文字描述就能创造出具有惊人视觉效果的图像，其背后的运行机制显得十分神秘与神奇，但确实影响了人类创造艺术的方式。 AI模型最新展现出的图像生成能力远远超出人们的预期，直接根据文字描述就能创造出具有...
-
谷歌起草“机器人宪法”，以确保 AI 机器人不会伤害人类
1 月 5 日消息，谷歌旗下 DeepMind 公司近日公布了三项新进展，其中之一针对收集训练数据的系统，起草了“机器人宪法”，确保 AI 机器人不会伤害人类。 谷歌的数据收集系统 AutoRT 可以同时利用视觉语言模型（VLM）和大型语言模型（LLM...
-
Stable Diffusion (持续更新)
引言 本文的目的为记录stable diffusion的风格迁移，采用diffusers example中的text_to_image和textual_inversion目录 2023.7.11 收集了6张水墨画风格的图片，采用textual_...
-
语音识别之百度语音试用和OpenAiGPT开源Whisper使用
0.前言: 本文作者亲自使用了百度云语音识别,腾讯云,java的SpeechRecognition语言识别包 和OpenAI近期免费开源的语言识别Whisper(真香警告 介绍了常见的语言识别实现原理 1.NLP 自然语言处理(人类语言处理 你好不同人...
-
研究发现，GPT 和其他 AI 模型无法分析 SEC 备案文件
一家名为 Patronus AI 的初创公司的研究人员发现，大型语言模型在分析美国证券交易委员会（SEC）备案文件时经常无法正确回答问题。即使是表现最佳的人工智能模型配置 OpenAI 的 GPT-4-Turbo，当给予几乎整个备案文件的阅读能力和相关问题...
-
正面刚ChatGPT，谷歌发布Bard! AI们要battle起来了？
面对ChatGPT的步步紧逼，谷歌终于做出了回应，选择了正面刚。 北京时间2月7日凌晨，谷歌CEO桑达尔·皮查伊（Sundar Pichai）宣布谷歌推出了下一代对话AI系统Bard。 消息一出，自然引起广泛讨论，ChatGPT的火爆程度有目共睹，...
-
Stable Diffusion XL搭建
本文参考：Stable Diffusion XL1.0正式发布了，赶紧来尝鲜吧-云海天教程 Stable Diffision最新模型SDXL 1.0使用全教程 - 知乎 1、SDXL与SD的区别 （1）分辨率得到了提升 原先使用SD生成图片，一般都...
-
JetBrains 推出新 AI 编码助手，结合多个大型语言模型以实现供应商中立
JetBrains 于当地时间周三发布了一款新的 AI 编码助手，这款助手能够从开发者的集成开发环境（IDE）获取信息，并将其反馈给 AI 软件，以提供编码建议、代码重构和文档支持。这家开发工具公司声称，其 AI 助手是第一个供应商中立的此类产品，因为它使...
-
使用 LoRA 进行 Stable Diffusion 的高效参数微调
LoRA: Low-Rank Adaptation of Large Language Models 是微软研究员引入的一项新技术，主要用于处理大模型微调的问题。目前超过数十亿以上参数的具有强能力的大模型 (例如 GPT-3 通常在为了适应其下游任...
-
大语言模型分布式训练的量化分析与优秀实践,以 GPT-175B 为例
一、Transformer 大语言模型的 SOTA 训练技术 1、大语言模型的发展背景与挑战 首先和大家分享下大语言模型的发展背景。过去的几年内，无论从数据量的维度还是从模型规模的维度，语言模型规模都扩大了非常多的数量级。随着数据量和模型规模的扩大，也...
-
LlamaGPT -基于Llama 2的自托管类chatgpt聊天机器人
LlamaGPT一个自托管、离线、类似 ChatGPT 的聊天机器人，由 Llama 2 提供支持。100% 私密，不会有任何数据离开你的设备。 推荐：用 NSDT编辑器 快速搭建可编程3D场景 1、如何安装LlamaGPT Llam...
-
Meta教你5步学会用Llama2：我见过最简单的大模型教学
在这篇博客中，Meta 探讨了使用 Llama 2 的五个步骤，以便使用者在自己的项目中充分利用 Llama 2 的优势。同时详细介绍 Llama 2 的关键概念、设置方法、可用资源，并提供一步步设置和运行 Llama 2 的流程。 Meta 开源的 L...
-
Meta语言模型LLaMA解读：模型的下载部署与运行代码
文章目录 llama2 体验地址 模型下载 下载步骤 准备工作 什么是Git LFS 下载huggingface模型 模型运行代码 llama2 Meta最新语言模型LLaMA解读，LLaMA是Facebook AI Re...
-
[玩转AIGC]sentencepiece训练一个Tokenizer(标记器)
目录 一、前言 二、安装 三、自己训练一个tokenizer 四、模型运行 五、拓展 六、补充 一、前言 前面我们介绍了一种字符编码方式【如何训练一个中英翻译模型】LSTM机器翻译seq2seq字符编码（一） 这种方式是对一个一个...
-
模型杂谈：使用 IN8 量化推理运行 Meta “开源泄露”的大模型（LLaMA）
接着之前文章《模型杂谈：快速上手元宇宙大厂 Meta “开源泄露”的大模型（LLaMA）》一文中的话题，继续聊聊如何使用 INT8 量化的方式来让低显存的设备能够将模型运行起来。 写在前面 前几天，在知乎上看到《如何评价 LLaMA 模型泄露？》问题...
-
一切为了应用！九章云极DataCanvas大模型系列成果重磅发布！
11月21日，「筑基赋能 智向未来」九章云极DataCanvas大模型系列成果发布会（以下简称“发布会”）在北京重磅召开，本次成果发布距离今年6月30日DataCanvas Alaya九章元识大模型公布仅4个多月，是九章云极DataCanvas公司大模...
-
部署lawyer-llama
Git - Downloading PackageGit - Downloading PackageGit - Downloading Package 下载git，wget需要下载一下 （GNU Wget 1.21.4 for Windows）， Wi...
-
Stable Diffusion - ReV Animated v1.2.2 的 2.5D 模型与提示词
欢迎关注我的CSDN：https://spike.blog.csdn.net/ 本文地址：https://spike.blog.csdn.net/article/details/131655644 ReV Animated v1.2.2 模型能够创建...
-
AIGC 爆火，浪潮信息要做大模型的数据存储大底座
AIGC 在 2023 年爆火，各类大模型层出不穷，参数动辄达到千亿数量级。这些背后，数据的类型和形式也走向复杂多样。例如大模型会采用到我们真实物理世界中的文字、视觉、音频、3D、雷达、多谱等复杂多样的不同模态信号和数据，数据则又存在结构化、半结构化、非结...
-
LLMs之Code：Code Llama的简介(衍生模型如Phind-CodeLlama/WizardCoder)、安装、使用方法之详细攻略
LLMs之Code：Code Llama的简介(衍生模型如Phind-CodeLlama/WizardCoder 、安装、使用方法之详细攻略 导读：2023年08月25日(北京时间 ，Meta发布了Code Llama，一个可以使用文本提示生成...
-
Llama大模型运行的消费级硬件要求【CPU|GPU|RAM|SSD】
大型语言模型 (LLM 是强大的工具，可以为各种任务和领域生成自然语言文本。 最先进的LLM之一是 LLaMA（大型语言模型 Meta AI），这是由 Facebook 的研究部门 Meta AI 开发的一个包含 650 亿个参数的模型 要在家运行 L...
-
使用 PAI-Blade 优化 Stable Diffusion 推理流程
背景 AIGC是人工智能计算领域里发展迅速的重要业务。Stable Diffusion 是其中最热门的开源模型，受到广泛关注。然而，随着应用场景不断扩大，Stable Diffusion所面临的推理时延和计算成本问题也越来越突出。 简介 PAI-Bl...
-
视觉感知未来，高德数据采集模型部署实践！
1. 导读 作为DAU过亿的国民出行服务平台，高德地图每天为用户提供海量的检索、定位和导航服务，实现这些服务需要有精准的道路信息，比如电子眼位置、路况信息、交通标识位置信息等。读者是否会好奇，高德是如何感知到现实世界的道路信息，并提供这些数据给用户呢？...