-
AIGC专栏11——EasyAnimateV2结构详解与Lora训练 最大支持768x768 144帧视频生成
AIGC专栏11——EasyAnimateV2结构详解与Lora训练 最大支持768x768 144帧视频生成 学习前言 源码下载地址 EasyAnimate V2简介 技术储备 Diffusion Transformer (DiT Mo...
-
Llama 3-V：以100倍小的模型和500美元匹敌GPT4-V视觉模型
概述 Llama3 的横空出世震惊了世界，它在几乎所有基准测试中都超越了 GPT-3.5，并在一些方面超越了 GPT-4。随后，GPT-4o 的出现凭借其多模态能力再次夺回了王座。今天，我们发布了一个改变现状的产品：Llama3-V，这是首个基于 Ll...
-
Whisper.cpp本地化：Windows端部署详解与实操
简介 什么是Whisper？ OpenAI的Whisper是一个自动语音识别（ASR）系统，它经过了大量多语言和多任务的监督数据训练，能够进行多语言语音识别、语音翻译和语言识别等任务。Whisper模型使用了一个编码器-解码器的Transforme...
-
【AI】DJL Serving系统架构
DJL Serving基于Deep Java Library构建。您可以访问DJL GitHub仓库了解更多信息。有关模块、依赖关系和类概述,请参考生成的图表。 DJL Serving大致分为四层: 前端 - 基于Netty的HTTP客户端,用于接...
-
Meta Llama 3 性能提升与推理服务部署
利用 NVIDIA TensorRT-LLM 和 NVIDIA Triton 推理服务器提升 Meta Llama 3 性能 我们很高兴地宣布 NVIDIA TensorRT-LLM 支持 Meta Llama 3 系列模型，从而加速和优化您的 L...
-
【机器学习】使用Stable Diffusion实现潜在空间搜索
1、引言 1.1 潜在空间的概念 潜在空间（Latent Space）是在机器学习和深度学习中一个重要的概念，它指的是用于表示数据的一种低维空间。这个空间编码了数据中包含的所有有用信息的压缩表示，通常比原始数据空间的维数更低，从而使其更容易进行分析...
-
AI绘画专栏之Stablediffusion webui Controlnet SDXL 插件之segment-anything(40)
1.是什么 分割任何物体模型，还记得语义分割和镜头风格词库，这个原理就是根据语义分割做的词库 ## [2024最全大厂面试题无需C币点我下载或者在网页打开全套面试题已打包](https://pan.quark.cn/s/865a0bbd5...
-
Llama.cpp大模型量化简明手册
大型语言模型 (LLM ，尤其是像 Mixtral 8x7b（467 亿个参数）这样的大型模型，对内存的要求非常高。当你尝试降低推理成本、提高推理速度或在边缘设备上进行推理时，这种内存需求就会变得明显。解决此问题的一个潜在方法是量化。在本文中，我们将使用易...
-
推荐：Lightning Whisper MLX —— 专为Apple Silicon优化的闪电般快速的Whisper实现
推荐：Lightning Whisper MLX —— 专为Apple Silicon优化的闪电般快速的Whisper实现 项目地址:https://gitcode.com/mustafaaljadery/lightning-whisper-mlx 在...
-
LLM并发加速部署方案（llama.cpp、vllm、lightLLM、fastLLM）
大模型并发加速部署 解析当前应用较广的几种并发加速部署方案！ llama.cpp、vllm、lightllm、fastllm四种框架的对比： llama.cpp：基于C++，①请求槽，②动态批处理，③CPU/GPU混合推理 vllm：基于Pyth...
-
YoloCS：有效降低特征图空间复杂度
本文经计算机视觉研究院公众号授权转载，转载请联系出处。 论文地址：YOLOCS: Object Detection based on Dense Channel Compression for Feature Spatial Solidificatio...
-
被作者删库的Llama 3-V原文再现！效果匹敌GPT4-V，训练费用暴降，区区不到500 美元，尺寸小100 倍，如何做到的
编译 | 言征 作者 | Aksh Garg 备注：发稿前作者已经删掉原文 出品 | 51CTO技术栈（微信号：blog51cto） 近日，一款Llama3V最近被“先红后黑”的出了圈。作为全球顶尖研究学府的团队，身陷“抄袭”中国大模型的泥潭后，火速删稿...
-
【AIGC调研系列】LlamaFS-使用llama3操作文件夹
LlamaFS是一个基于Llama 3模型的自组织文件管理系统，旨在帮助用户自动重命名和组织电脑中的文件。它通过智能化的AI技术，能够根据文件内容和已知约定（例如时间）自动进行文件的重命名和分类整理[1][5][8]。 LlamaFS有两种运行模式：批量...
-
AI智能体研发之路-模型篇（一）：大模型训练框架LLaMA-Factory在国内网络环境下的安装、部署及使用
博客导读： 《AI—工程篇》 AI智能体研发之路-工程篇（一）：Docker助力AI智能体开发提效 AI智能体研发之路-工程篇（二）：Dify智能体开发平台一键部署 AI智能体研发之路-工程篇（三）：大模型推理服务框架Ollama...
-
Stable Diffusion初级教程
一、入门篇 1. 理解基本概念 扩散模型（Diffusion Models）：扩散模型是一种生成模型，通过逐步添加噪声到数据样本中，然后学习如何逐步去除这些噪声来恢复原始数据。 Latent Diffusion Model (LDM ：LDM是...
-
苹果豪赌！神秘AI项目曝光，宁死不用英伟达？自研芯片全家桶都要AI了
最近一轮AI之战，OpenAI、谷歌、微软都交卷了，现在，全世界的目光齐刷刷看向苹果。 全球开发者大会，就在6月上旬。选择这个时机发布新产品，苹果勇气可嘉。 被一众竞品抢尽风头后，苹果得拿出什么重大突破来，才能证明自己在AI领域还能让人兴奋？ 看起来，苹...
-
LLM大模型推理加速实战：vllm、fastllm与llama.cpp使用指南
随着人工智能技术的飞速发展，大型语言模型（LLM）在诸如自然语言处理、智能问答、文本生成等领域的应用越来越广泛。然而，LLM模型往往具有庞大的参数规模，导致推理过程计算量大、耗时长，成为了制约其实际应用的关键因素。为了解决这个问题，一系列大模型推理加速工具...
-
人工智能技术应用笔记（七）：速度快一倍！低显卡用户福音来了——可本地部署的轻量级SD（Stable Diffusion Forge）
本篇为《人工智能技术应用》专栏的第七篇。希望以学习笔记的形式和大家一起了解和探索人工智能技术的实际应用。 《本地部署轻量级SD实操》 今天介绍一款在原stable diffusion webui基础上经过代码优化，结构重组之后的轻量级产品—...
-
Stable Diffusion（1.8.0）本地部署实战指南
目录 检查电脑环境 下载开源项目 配置运行环境 问题处理 基础模型下载 检查电脑环境 启动CMD命令窗。 如上图，在CMD窗口输入python命令，可查看本地安装的python版本信息等。输入exit( 退出python命...
-
14个Flink SQL性能优化实践分享
本文分享自华为云社区《Flink SQL性能优化实践》 ，作者：超梦。 在大数据处理领域，Apache Flink以其流处理和批处理一体化的能力，成为许多企业的首选。然而，随着数据量的增长，性能优化变得至关重要。本文将深入浅出地探讨Flink SQL的常...
-
yolov部署到iPhone或终端实践全过程
本文经计算机视觉研究院公众号授权转载，转载请联系出处。 期待已久的检测经典又来来了一波强袭——yolov5。其实yolov5没有完整的文件，现在最重要的应该是把yolov4弄清楚，在目标检测领域中受益匪浅，可以在某些场景得到较高的提升。今天我们还是给大...
-
150B token从头训练，普林斯顿Meta发布完全可微MoE架构Lory
不同于大多数模型使用字母缩略起名，论文作者在脚注中解释道，Lory是一种羽毛有彩虹颜色的鹦鹉，和「软MoE」的精神非常相似。 论文的作者团队也可以称之为「明星阵容」。 论文地址：https://arxiv.org/abs/2405.03133 主要作者...
-
国产大模型的价格已经卷出网约车大战和百亿补贴的味儿了
登录就送500w tokens！ 1 块钱 100w tokens！一降再降！！仅需0. 0008 元/千tokens！ 没错，互联网价格战熟悉的“味”，已经悄无声息的打到了大模型的战场。 技术狂飙了一年，大模型公司们早就按捺不住要搅弄商业风云的心， 5...
-
智谱 AI 上线大模型开放平台 bigmodel.cn
智谱 AI 上线大模型开放平台 bigmodel.cn ，该平台是一个集成了 GLM 系列大模型的平台。这些大模型包括企业版 GLM-4/4V、个人版 GLM-3Turbo、文本描述创作图像的 CogView-3、角色定制模型 CharacterGLM、中...
-
国产大模型：今天起，我们100万tokens只需1元！
昨天刚刚在顶会ICLR作为特邀演讲（Invited Talk）中“国内唯一”的大模型玩家智谱AI，今天又放出了一个好消息: 之前:0.005元 / 千tokens 现在:0.001元 / 千tokens 换算一下，就是1元=1000000tokens...
-
实战干货｜Spark 在袋鼠云数栈的深度探索与实践
Spark 是一个快速、通用、可扩展的大数据计算引擎，具有高性能、易用、容错、可以与 Hadoop 生态无缝集成、社区活跃度高等优点。在实际使用中，具有广泛的应用场景： · 数据清洗和预处理：在大数据分析场景下，数据通常需要进行清洗和预处理操作以确保数据...
-
1MB的神奇AI，检测百万文件，99%的准确率！
在 Web 开发中，上传文件至服务器前的文件类型检测至关重要。这一步骤不仅能够确保服务器和用户的安全，拦截可能的恶意文件，还能保证上传的文件完整且符合预期，提高数据的合规性。同时，通过及时给予用户反馈和指导，也能提升用户体验，避免不必要的困惑。 之前阿宝...
-
(含代码)利用NVIDIA Triton加速Stable Diffusion XL推理速度
在 NVIDIA AI 推理平台上使用 Stable Diffusion XL 生成令人惊叹的图像 扩散模型正在改变跨行业的创意工作流程。 这些模型通过去噪扩散技术迭代地将随机噪声塑造成人工智能生成的艺术，从而基于简单的文本或图像输入生成令人惊叹的...
-
Stable Diffusion WebUI 图生图（img2img）：图生图/涂鸦绘制/局部重绘/有色蒙版/上传蒙版/批量处理/反推提示词
本文收录于《AI绘画从入门到精通》专栏，专栏总目录：点这里，订阅后可阅读专栏内所有文章。 大家好，我是水滴~~ 本篇文章我们介绍 Stable Diffusion WebUI 的图生图功能，主要包括：图生图、图生图（手绘修正）/涂鸦绘制、局部重绘、...
-
探索LLaMA模型：架构创新与Transformer模型的进化之路
引言 在人工智能和自然语言处理领域，预训练语言模型的发展一直在引领着前沿科技的进步。Meta AI（前身为Facebook）在2023年2月推出的LLaMA（Large Language Model Meta AI）模型引起了广泛关注。LLaMA模型以...
-
基于stable diffusion的IP海报生成
【AIGC】只要10秒，AI生成IP海报，解放双手！！！在AIGC市场发展的趋势下，如何帮助设计工作者解放双手。本文将从图像生成方向切入，帮助大家体系化的学习Stable diffusion的使用，完成自有IP的训练以及生成，主要从部署、训练、生成3大核心...
-
llama factory 参数体系EvaluationArguments、DataArguments、FinetuningArguments、FreezeArguments、LoraArgument
项目地址 https://github.com/hiyouga/LLaMA-Factory 模型层参数 这段代码是使用Python的dataclasses模块定义的一个数据类ModelArguments，用于管理和存储与模型微调相关的参数。这个类的设计是...
-
使用 QLoRA 进行微调Llama 2 和 Mistral的初学者指南
本指南适用于任何想要为自己的项目定制强大的语言模型（如 Llama 2 和 Mistral）的人。使用 QLoRA，我们将逐步完成...
-
[AIGC] 深入理解Flink中的窗口、水位线和定时器
Apache Flink是一种流处理和批处理的混合引擎，它提供了一套丰富的APIs，以满足不同的数据处理需求。在本文中，我们主要讨论Flink中的三个核心机制：窗口（Windows）、水位线（Watermarks）和定时器（Timers）。 1. 窗口...
-
discuz! x3 采集插件解析与实用指南
Discuz! 作为国内广泛使用的论坛软件系统之一，历来深受网站管理员的喜欢。而在论坛运营的过程中，内容采集成为许多站长追求的目标之一。它不仅能为网站带来更多的内容和流量，同时也能够为管理员提供更加方便快捷的管理手段。为此，“discuz x3 采集插件”...
-
AI实时绘画系统StreamMultiDiffusion 支持局部涂抹+提示生成图片
近期，一篇名为"StreamMultiDiffusion"的论文提出了一种新颖的实时、交互式的文本到图像生成系统。这种系统能够根据用户提供的手绘区域和相应的语义文本提示来生成图像，为专业图像创作者提供了一个强大的工具，可以用于快速原型设计和创意探索。 项...
-
教你如何合理合法采集Discuz论坛的附件
在当今信息化的社会中，各种论坛作为信息交流、共享和知识传播的平台发挥着巨大的作用。Discuz，作为知名的社区论坛软件，广泛应用于各个行业。但在日常的使用和管理工作中，如何合法且合规地采集论坛中的附件信息成为了不少人面临的问题。今天，我们将详细解读合法采集...
-
AIGC实战——GPT(Generative Pre-trained Transformer)
AIGC实战——GPT 0. 前言 1. GPT 简介 2. 葡萄酒评论数据集 3. 注意力机制 3.1 查询、键和值 3.2 多头注意力 3.3 因果掩码 4. Transformer 4.1 Transformer 块 4.2 位置编...
-
微信公众号文章采集：探索、挑战与机遇
在当今这个信息爆炸的时代，微信公众号已成为人们获取信息、学习知识和交流思想的重要平台。每天，数以万计的文章在公众号上发布，涵盖了从新闻资讯、科技动态到生活百科、文化娱乐等各个领域。这些文章不仅丰富了我们的阅读选择，也为我们提供了宝贵的知识资源。然而，如何高...
-
PyTorch 该怎么学？太简单了
挺多小伙伴问过PyTorch该怎么学，经过长期实践来看，初学者需要熟知的概念和用法真的不多，以下总结的简明指南一起看看吧！ 构建Tensor PyTorch 中的 Tensors 是多维数组，类似于 NumPy 的 ndarrays，但可以在 GPU...
-
图片生成 Stable Diffusion Web 安装教程
一 Stable Diffusion Web介绍 1 什么是stable diffussion web ？ Stable Diffusion Web 是一个基于 Stable Diffusion 模型开发的图形用户界面（GUI）应用...
-
实战解析：打造风控特征变量平台，赋能数据驱动决策
金融业务产品授信准入、交易营销等环节存在广泛的风控诉求，随着业务种类增多，传统的专家规则、评分卡模型难以应付日趋复杂的风控场景。 在传统风控以专家规则系统为主流应用的语境下，规则模型的入参习惯被称为“变量”。基于专家规则的风险评估，存在规则触发阈值难量化...
-
Magika:基于AI支持的文件类型检测工具，依靠深度学习提供准确的检测
数字化时代，对我们所遇到的文件进行准确识别至关重要，这涉及到用户安全和信息保护的方方面面。然而，在处理众多文件格式时，如何准确迅速地检测文件内容成为一项挑战。现有方法可能并不总是高效或准确，可能导致潜在风险或误分类。 Magika作为一种创新的文件类型检测...
-
高性能 LLM 推理框架的设计与实现
一、大语言模型推理概要介绍 与传统的 CNN 模型推理不同，大语言模型的推理通常会分成 prefill 和 decoding 两个阶段。每一个请求发起后产生的推理过程都会先经历一个 Prefill 过程，prefill 过程会计算用户所有的输入，并生...
-
首席分析师揭秘爆火Groq，每小时要烧168美元！10倍H100拥有成本，老黄笑而不语
最近爆火的AI初创公司Groq，推出了比目前常见GPU推理系统快4倍，成本低70%的大模型推理解决方案。 他们提供的运行Mistral Mixtral 8x7b的API演示，让大部分习惯了其他LLM「娓娓道来」的用户直呼，简直是魔法！ Groq在处理...
-
[AIGC大数据基础] Flink: 大数据流处理的未来
Flink 是一个分布式流处理引擎，它被广泛应用于大数据领域，具有高效、可扩展和容错的特性。它是由 Apache 软件基金会开发和维护的开源项目，并且在业界中受到了广泛认可和使用。 文章目录 什么是 Flink Flink 的特点...
-
实时矢量搜索如何彻底改变各行各业？
译者 | 布加迪 审校 | 重楼 实时分析技术已经巩固了其作为众多行业的基石这一地位。另外，生成式AI具有的魅力吸引了广泛的关注，创新的解决方案有望为从娱乐到医疗保健的各个行业领域提供前所未有的洞察力。使用生成式AI方法与众多实时分析技术的融合带来了显著...
-
如何使用TensorFlow和Cleanvision检测大堡礁的海星威胁？
澳大利亚的大堡礁美不胜收，是全球最大的珊瑚礁，也是多种多样的海洋生物栖息的家园。不幸的是，珊瑚礁面临蚕食珊瑚的棘冠海星（COTS）的威胁。为了控制COTS爆发，珊瑚礁管理人员使用一种名为Manta Tow勘查的方法，将潜水员拖在船后，目测评估珊瑚礁的各...
-
llama.cpp中main函数参数
使模型类gpt式交互： ./main -m .\models\llama-2-7b-chat\ggml-model-q4_0.gguf -n 256 --repeat_penalty 1.0 --color -i -r "User:" -f prompt...
-
使用Kohya_ss训练Stable Diffusion Lora
Stable Diffusion模型微调方法 Stable Diffusion主要有 4 种方式：Dreambooth, LoRA, Textual Inversion, Hypernetworks。 Textual Inversion （也称为 Em...