-
011篇 - AIGC提示词工程 - 提示词生成策略（Prompt Engineering - Prompt Generation Strategies）
大家好，我是元壤教育的张涛，一名知识博主，专注于生成式人工智能（AIGC）各领域的研究与实践。我喜欢用简单的方法，帮助大家轻松掌握AIGC应用技术。我的愿景是通过我的文章和教程，帮助1000万人学好AIGC，用好AIGC。 小伙伴们！今天我们要来聊一聊提...
-
llama factory 是如何加载数据集 通过对数据集加载的代码的理解编写自定义数据集训练代码
第一层从训练代码追踪到以下代码 def get_dataset( tokenizer: "PreTrainedTokenizer", model_args: "ModelArguments", data_args: "DataAr...
-
Meta Llama 3 文本编码为 token
Meta Llama 3 文本编码为 token flyfish tiktoken 是一个用于 OpenAI 模型的快速 BPE 分词器，这里用在Meta Llama 3上。主要功能包括将文本编码为token，以及将token解码回文本。这个过程通常使...
-
一文看懂Llama 2：原理、模型与训练
一文看懂Llama 2：原理、模型与训练 Llama 2是一种大规模语言模型（LLM），由Meta（原Facebook）研发，旨在推动自然语言处理（NLP）领域的发展。本文将详细介绍Llama 2的原理、模型架构及其训练方法，以帮助读者深入理解这一技术...
-
AI根据文本语义实现AI绘画出图
引言 当谈到人工智能（AI）和艺术的结合时，我们经常会想到生成对抗网络（GANs）和图像生成。然而，很少有人了解到AI也可以通过文本语义生成绘画作品。在本文中，我将详细介绍如何使用深度学习和自然语言处理技术，使AI能够根据给定的文本语义生成绘画作品。...
-
【AIGC调研系列】MiniMax 稀宇科技的abab 6.5 系列模型与国外先进模型相比的优缺点
MiniMax稀宇科技的abab 6.5系列模型与国外先进模型相比，具有以下优缺点： 优点： abab 6.5系列模型采用了MoE（Mixture of Experts）架构，这是国内首个采用此架构的大模型，标志着MiniMax在自然语言处理领域的技...
-
AI绘画大模型：国内外『文生图』效果对比
随着人工智能（AI）技术的不断突破，AI绘画作为其中的一项重要应用，逐渐成为了艺术领域的新宠。『文生图』（Text-to-Image）是AI绘画中的一种重要技术，它能够通过自然语言描述生成对应的图像。本文将对国内外具有代表性的『文生图』大模型进行效果对比，...
-
【AIGC】大型语言模型在人工智能规划领域模型生成中的探索
大型语言模型在人工智能规划领域模型生成中的新应用 一、引言 二、LLM在规划领域模型生成中的潜力 三、实证分析：LLM在规划领域模型生成中的表现 四、代码实例：LLM在规划领域模型生成中的应用 五、结论与展望 一、引言 随着...
-
华为盘古大模型5.0、全新小艺将于6月21日发布
华为官方今日宣布，盘古大模型5.0和全新小艺将于6月21日开幕的华为开发者大会上正式亮相。此次大会不仅将迎来这两款创新产品的登场，还将有纯血鸿蒙系统同台竞艳，共同展现华为在人工智能和操作系统领域的最新成果。 自2021年发布以来，华为盘古系列基础大模型以...
-
文心一言vsGPT-4全面对比
文心一言和GPT-4都是当前非常先进的人工智能语言模型，它们各自具有独特的特点和优势。以下是对这两款工具的全面比较： 文心一言是由百度开发的一款大型人工智能语言模型，它基于强大的深度学习技术和海量的数据资源，具备出色的语言理解和生成能力。文心一言在中文处...
-
大规模语言模型从理论到实践 LLaMA的模型结构
1.背景介绍 随着人工智能技术的不断发展，大规模语言模型（Large Language Models, LLMs）已经成为自然语言处理领域的热点。这些模型通过在大规模数据集上进行训练，能够生成连贯、相关且有趣的文本输出。LLaMA 是 Meta AI 开...
-
Scaling Law触礁「数据墙」？Epoch AI发文预测LLM到2028年耗尽所有文本数据
【新智元导读】训练数据的数量和质量，对LLM性能的重要性已经是不言自明的事实。然而，Epoch AI近期的一篇论文却给正在疯狂扩展的AI模型们泼了冷水，他们预测，互联网上可用的人类文本数据将在四年后，即2028年耗尽。 数据和算力，是AI大模型最重要的两把...
-
AI作文检测技术如何工作？人工智能原创作文内容相关性分析工作原理
什么是 AI作文检测？ AI作文检测是一种利用人工智能技术来分析和评估学生作文质量的工具。它可以帮助教师快速识别作文中的语法错误、拼写错误、句式结构问题以及内容的相关性和深度，从而提供即时的反馈和改进建议。 AI作文检测的核心功能 1：语法和拼写检查，...
-
如何使用AI小说生成器？AI生成小说人工智能软件应用app有哪些？
在数字化时代，人工智能（AI）技术的发展正在逐步改变我们的生活方式，包括我们的阅读和写作习惯。近年来，AI小说生成器成为了文学界的一个热门话题，它不仅挑战了传统写作的边界，也为创作者提供了新的工具和灵感来源。 AI小说生成器的工作原理 AI小说生成器通常...
-
Llama 3 模型上下文长度扩展至1048K
AI苏妲己： Gradient AI 近日宣布，通过其创新的渐进式训练方法，成功将 Llama 3 系列模型的上下文长度扩展至超过100万令牌。 Llama 3 模型最初设计用于处理8000个令牌的上下文长度，这大约相当于6000字或10页文档。为了适...
-
从新手到大师：AI写作助手如何助你一臂之力？
在写作的道路上，无论你是新手还是经验丰富的作者，AI写作助手都能成为你不可或缺的伙伴，帮助你从初涉笔端的新手逐步成长为游刃有余的大师。以下是AI写作助手如何在你不同阶段的写作旅程中助你一臂之力： 一、新手期：提供基础支持与引导 对于新手来说，写作往往是...
-
【AIGC调研系列】浙大&蚂蚁OneKE大模型知识抽取框架是什么
浙大&蚂蚁OneKE大模型知识抽取框架是由蚂蚁集团和浙江大学联合研发的，它是一个具备中英文双语、多领域多任务泛化知识抽取能力的大模型知识抽取框架。OneKE不仅提供了完善的工具链支持，还以开源形式贡献给了OpenKG开放知识图谱社区[1][2][3...
-
清华大学与智谱AI重磅开源 GLM-4：掀起自然语言处理新革命
自 2023 年 3 月 14 日开源 ChatGLM-6B 以来，GLM 系列模型受到了广泛的关注和认可。特别是在 ChatGLM3-6B 开源之后，开发者对智谱 AI 推出的第四代模型充满了期待。而这一期待，随着 GLM-4-9B 的发布，终于得到了...
-
CLIP当RNN用入选CVPR：无需训练即可分割无数概念｜牛津大学&谷歌研究院
循环调用CLIP，无需额外训练就有效分割无数概念。 包括电影动漫人物，地标，品牌，和普通类别在内的任意短语。 牛津大学与谷歌研究院联合团队的这项新成果，已被CVPR 2024接收，并开源了代码。 团队提出名为CLIP as RNN（简称CaR）的新技...
-
文心一言：百度AI大语言模型的崛起
文心一言：百度AI大语言模型的崛起 1. 背景介绍 1.1 人工智能的发展历程 人工智能(Artificial Intelligence, AI 是当代科技发展的重要领域,自20世纪50年代诞生以来,已经经历了几个重要的发展阶段。早期的人工智能系统主...
-
大语言模型原理与工程实践：LLaMA 系列
1. 背景介绍 1.1 大型语言模型的兴起 近年来，随着深度学习技术的飞速发展，大型语言模型（LLM）逐渐成为人工智能领域的研究热点。LLM 是一种基于深度学习的自然语言处理模型，能够学习大量的文本数据，并根据这些数据生成自然流畅的文本、回答问题、进行...
-
7B？13B？175B？解读大模型的参数
大模型也是有大有小的，它们的大小靠参数数量来度量。GPT-3就有1750亿个参数，而Grok-1更是不得了，有3140亿个参数。当然，也有像Llama这样身材苗条一点的，参数数量在70亿到700亿之间。 这里说的70B可不是指训练数据的数量，而是指模型中...
-
不同数据集有不同的Scaling law？而你可用一个压缩算法来预测它
一般而言，训练神经网络耗费的计算量越大，其性能就越好。在扩大计算规模时，必须要做个决定：是增多模型参数量还是提升数据集大小 —— 必须在固定的计算预算下权衡此两项因素。 Scaling law 告诉我们：只要能适当地分配参数和数据，就能在固定计算预算下实...
-
GpuMall智算云：meta-llama/llama3/Llama3-8B-Instruct-WebUI
LLaMA 模型的第三代，是 LLaMA 2 的一个更大和更强的版本。LLaMA 3 拥有 35 亿个参数，训练在更大的文本数据集上GpuMall智算云 | 省钱、好用、弹性。租GPU就上GpuMall,面向AI开发者的GPU云平台 Llama 3 的推...
-
从“采集txt”看数字化时代的数据处理与价值挖掘
在当今数字化时代，数据已经渗透到我们生活的方方面面。其中，“采集txt”作为一种常见的数据获取方式，不仅体现了数据处理技术的发展，更揭示了数据背后蕴藏的巨大价值。本文将从“采集txt”的角度出发，探讨数字化时代的数据处理与价值挖掘。一、什么是“采集txt”...
-
AGI渐行渐近，该加速还是要踩刹车？
人类距离第一个AGI的出现已经越来越近了！ 马斯克在今年早些时候预测，AGI可能会在2026年投入使用。DeepMind联合创始人、首席AGI科学家Shane Legg在一次访谈中认为，2028年，人类有50%的概率开发出第一个AGI。然而百度CEO李...
-
硅谷有了自己的鲁迅！AI大佬LeCun连续暴走，从马斯克到OpenAI，全被怼了个遍
当地时间 5 月 26 日，马斯克旗下的人工智能初创公司xAI宣布完成B轮 60 亿美元融资。主要的投资者包括 Valor Equity Partners、Vy Capital、Andreessen Horowitz、红杉资本等。 xAI2023 年 7...
-
探究“不用插件爬虫”的技术原理与实践价值
在当今信息化社会，数据已经成为一种极为重要的资源。为了获取所需数据，许多开发者和技术爱好者会选择使用爬虫技术。然而，传统的爬虫往往需要安装各种插件和依赖库，这不仅增加了使用难度，也可能因为环境配置问题导致爬虫运行失败。因此，“不用插件爬虫”作为一种轻量级、...
-
Meta被曝使用Instagram等照片训练AI模型引发隐私争议
全球社交巨头 Meta 最近因使用用户照片训练 AI 模型 Emu 引发了一场隐私争议。据报道，Meta 正在利用 Instagram 和 Facebook 上的用户照片进行训练，同时还会使用用户对图片的描述、标题等文本数据。这严重违反了数据隐私搜集条例，...
-
Llama中文大模型-模型预训练
Atom系列模型包含Atom-7B和Atom-13B，基于Llama2做了中文能力的持续优化。Atom-7B和Atom-7B-Chat目前已完全开源，支持商用，可在Hugging Face仓库获取模型:https://huggingface.co/Flag...
-
“论坛用户资料采集器”的探析与应用
随着互联网的快速发展，论坛作为网络社区的重要组成部分，为用户提供了一个自由交流、分享观点与经验的平台。在这个过程中，论坛用户产生的海量数据成为了宝贵的信息资源。为了更有效地利用这些数据，“论坛用户资料采集器”应运而生，它能够帮助我们收集、整理和分析这些数据...
-
Llama大型语言模型原理详解
Llama大型语言模型是一种基于深度学习的自然语言处理模型，它在文本生成、问答、摘要等多种NLP任务中展现出强大的性能。本文将详细解析Llama模型的原理，包括其结构、训练过程以及工作机制，帮助读者深入理解这一先进的模型。 一、模型结构 Llama模型...
-
深入解析CICADA爬虫：原理、应用与未来发展
随着互联网技术的迅猛发展，网络数据成为了我们获取信息的重要来源。然而，如何从这些海量的数据中快速准确地抓取所需信息，一直是我们面临的挑战。CICADA爬虫（Cicada Scrapy Management System，简称CICADA）作为一种高效的数据...
-
探究Python语言在网络数据爬虫领域的应用与实践
在现今数字化时代，互联网数据量呈现爆炸式增长，有效地从海量数据中提取有价值的信息成为了重要的技能。这种技能的一个关键组成部分就是网络数据爬虫。而Python语言凭借其简洁明快的语法、丰富的第三方库以及强大的数据处理能力，日益成为网络数据爬虫领域的首选工具。...
-
“交响曲中的爬虫乐章：探索Symphony爬虫的奇妙世界”
在数字化时代的浪潮中，爬虫技术正如一首交响曲中的独特乐章，以其独特而复杂的旋律，引领我们深入数据的海洋。本文将以“Symphony爬虫”为主题，探索这一技术领域的内涵、应用及其未来发展。一、Symphony爬虫的概念和简介在探讨Symphony爬虫之前，我...
-
揭秘公众号文章爬虫：原理、应用与风险掌控
在数字信息的海洋中，公众号已成为人们获取知识、娱乐消遣的重要渠道。然而，随着公众号内容的日益丰富，一种名为“公众号文章爬虫”的技术工具也应运而生。本文将深入剖析公众号文章爬虫的运作原理、实际应用场景以及潜在的风险，帮助读者更好地了解这一技术，并为其合理使用...
-
探索Llama 3模型在地理行业的应用
Llama 3模型简介 Llama 3模型是基于最新的神经网络架构设计而成，它融合了Transformer和图像注意力机制，能够同时处理自然语言和图像输入，实现跨模态信息的融合和理解。这使得Llama 3模型在地理信息处理和分析方面有着独特的优势...
-
马斯克的xAI正努力实现Grok多模态化 将支持上传照片获得文本回复
埃隆・马斯克的人工智能公司 xAI 正在努力为其 Grok 聊天机器人增加多模态输入功能。 根据公开的开发者文件，埃隆·马斯克（Elon Musk）的人工智能公司xAI在向其Grok聊天机器人添加多模态输入方面取得了进展。这意味着，很快，用户就可以将照片上...
-
微软发布Phi-3 Vision等最新大模型系列
微软发布了其最新的大型语言模型系列，Phi-3，包括Phi-3Vision、Phi-3Small7B和Phi-3Medium14B型号。这些模型在性能上与当前领先的大型模型相媲美，同时在特定领域提供了一些独特的优势。 Phi-3Medium14B 型号的...
-
探秘专用Discuz爬虫：haider背后的数据世界
在当今这个信息爆炸的时代，数据无疑是专业人士和普通用户共同追逐的宝贵资源。而在互联网社区中，Discuz作为一种流行的论坛系统，汇聚了大量用户生成的高价值内容。正是这些内容的存在，催生了一种特殊工具——专用Discuz爬虫。本文将深入剖析这种爬虫的工作原理...
-
创创猫B2B2C爬虫：探索数据背后的商业价值
在数字化时代，数据已经成为了一种重要的资源，而爬虫技术则是获取这些数据的有效手段之一。创创猫B2B2C爬虫作为一款高效的数据爬取工具，正逐渐在商业领域展现出其强大的潜力。本文将深入探讨创创猫B2B2C爬虫的工作原理、应用场景以及未来发展趋势，带领读者一起揭...
-
Inflection AI揭示新团队和计划，将情感AI嵌入商业机器人
前不久，Inflection AI 的首席人工智能专家之一 Mustafa Suleyman 离职加入微软 AI 部门，这一消息在科技界引起了广泛的关注。然而，对于留在 Inflection AI 的命运，人们却没有过多讨论。Inflection AI 曾...
-
一文读懂 GPT-4o vs GPT-4 Turbo
Hello folks，我是 Luga，今天我们来聊一下人工智能(AI 生态领域相关的技术 - GPT-4o 模型 。 在 2024 年 5 月 13 日，OpenAI 创新性地推出了其最先进、最前沿的模型 GPT-4o，这是标志着人工智能聊天机器人...
-
插件爬虫：探索数据背后的无尽宝藏
在当下这个数据驱动的时代，获取并分析数据已成为个人和企业取得先行优势的关键。然而，随着数据量的爆炸增长和数据保护机制的日益完善，如何高效且合规地获取所需数据成为了摆在众多特定行业从业者面前的难题。在这样的背景下，“插件爬虫”这一强大工具应运而生，凭借其灵活...
-
深入解析“SparkShop爬虫”技术与应用
随着互联网的快速发展，网络数据已经成为我们获取信息、分析市场、辅助决策的重要资源。然而，如何从海量网络数据中高效地抓取有价值的信息，一直是摆在我们面前的一大难题。在这个背景下，各种爬虫技术应运而生，其中“SparkShop爬虫”以其强大的性能和灵活的应用场...
-
单次支持38万字输入！腾讯混元推出256k长文模型，通过腾讯云向企业和个人开发者开放
AI大模型技术正成为推动高质生产力发展的关键力量，在与千行百业的融合中发挥着重要作用。腾讯混元大模型通过采用混合专家模型 (MoE 结构，已将模型扩展至万亿级参数规模，增加“脑”容量提升预测性能的同时，推动了推理成本下降。作为通用模型，腾讯混元在中文表...
-
知识图与大型语言模型的协同作用
从非结构化文本中提取有价值的见解是金融行业的关键应用。然而，这项任务往往超出了简单的数据提取，需要高级推理能力。 一个典型的例子是确定信贷协议中的到期日，这通常涉及破译一个复杂的指令，如“到期日应在生效日期三周年之前的最后一个工作日”。这种级别的复杂推...
-
OPPO 下一代大数据 AI 一体架构实践
一、技术架构 OPPO 大数据场景丰富，拥有海外的 AWS 功能云，国内自建机房，机器规模超过万台，在印度则是使用混合云模式。 首先来介绍一下 AWS 上功能云 EMR 的实践。 1. 云原生计算架构 OPPO 早期全部采用 EMR，其存在以下一些问题...
-
微调大语言模型的七个步骤
译者 | 布加迪 审校 | 重楼 在最近一年半的时间里，自然语言处理（NLP）领域发生了显著的变化，这主要得益于OpenAI的GPT系列等大语言模型（LLM）的兴起。 这些功能强大的模型已彻底改变了我们处理自然语言任务的方法，在翻译、情绪分析和文本自动...
-
ChatGPT们的幕后先驱，斯坦福教授Manning的四十年NLP生涯
今年 1 月份，2024 年度 IEEE 冯诺伊曼奖项结果正式公布，斯坦福大学语言学和计算机科学教授、AI 学者克里斯托弗・曼宁（Christopher Manning）获奖。 曼宁教授是将深度学习应用于 NLP 领域的早期领军人物，在词向量 GloVe...