-
AIGC实战——深度学习 (Deep Learning, DL)
AIGC实战——深度学习 0. 前言 1. 深度学习基本概念 1.1 基本定义 1.2 非结构化数据 2. 深度神经网络 2.1 神经网络 2.2 学习高级特征 3. TensorFlow 和 Keras 4. 多层感知器 (MLP ...
-
大数据导论（三：大数据的采集及预处理）
1、大数据采集 1.1 大数据采集概念 数据采集（DAQ）又称数据获取，通过RFID射频数据、传感器数据、社交网络数据、移动互联网数据等方式获得各种类型的结构化、半结构化及非结构化的海量数据。 1.2 常用的数据采集方式 大数据的采集通常采用...
-
新一代云原生日志架构 - Loggie的设计与实践
Loggie萌芽于网易严选业务的实际需求，成长于严选与数帆的长期共建，持续发展于网易数帆与网易传媒、中国工商银行的紧密协作。广泛的生态，使得项目能够基于业务需求不断完善、成熟。目前已经开源：https://github.com/loggie-io/logg...
-
什么是爬虫？Python爬虫工作需要掌握哪些技能？
网络爬虫是Python的应用领域之一，世界上80%的爬虫都是基于Python开发的，那么Python爬虫能干什么呢?我们一起来看看吧。 什么是爬虫? 网络爬虫，是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本，另外一些不常用的名字还...
-
云计算与大数据第8章 大数据采集习题及答案
第8章 大数据采集习题 8.1 选择题 1、数据采集的数据对象类型包括（ D ）。 A. 结构化数据 B. 半结构化数据 C. 非结构化数据 D. 以上都是 2、数据采集的主要性能要求不包括以下的（ B ...
-
【大数据采集技术与应用】【第一章】【大数据采集技术与应用概述】
文章目录 1.1 大数据概述 1.1.1 大数据时代 1.1.2 大数据的概念 1.1.3 大数据的特征 1.1.4 大数据的应用 1.1.5 大数据关键技术 1.1.6 大数据处理流程 1.2 大数据采集技术概述 1.2.1 数据采集与...
-
大数据的关键技术之——大数据采集
大数据的关键技术之——大数据采集 本文目录： 一、写在前面的话 二、大数据采集概念 三、大数据采集步骤 3.1、大数据采集步骤（总体角度） 3.2、大数据采集步骤（数据集角度） 3.3、大数据采集步骤（数据集角度） 四、数据源与数据类型...
-
大数据采集与预处理技术
文章目录 第1章 大数据概念 1.1大数据的概念 1.2大数据的关键技术 1.3大数据采集与数据预处理技术 1.3.1大数据采集技术 1.3.2数据预处理技术 第二章 数据采集基础 2.1 传统数据采集技术 2.2大数据采集基础 第...
-
Python网络爬虫数据采集实战：基础知识
今天开始更新爬虫系列笔记，此系列旨在总结回顾常用爬虫技巧以及给大家在日常使用中提供较为完整的技术参考。在进行正式的爬虫之前有必要熟悉以下爬虫的基本概念，例如爬虫的基本原理、网络通信原理以及Web三件套的相关知识等。 目录 一、爬虫原理...
-
大数据采集有哪些方法？
随着信息时代的到来，大多数数据抓取工作主要是通过网络来采集，毕竟数据数据的产生和流动几乎在我们生活中每时每刻都在产生。除了网络数据的采集还有现在的数据调研和抽查的方式，这里我们主要讲讲网络数据的采集。 针对4种不同的数据源，大数据采集方法有以下几大类。...
-
Logstash日志采集分析工具
ELK(ElasticSearch、Logstash、Kibana 的组合，是一种比较常见的数据采集分析进行可视化展示的技术方案，这里重点展示介绍下logstash的用法。 借用官方的介绍：https://www.elastic.co/cn/produ...
-
Silobreaker推AI威胁情报助手：协助组织迅速应对风险
领先的安全和威胁情报技术公司Silobreaker正式宣布推出其全新生成式人工智能工具，名为Silobreaker AI。这一工具的主要目标是为威胁情报团队提供支持，帮助他们更快地生成高质量的情报报告，以助力组织做出以情报为主导的决策。 Silobreak...
-
DB-GPT:使用专有LLM技术改变与数据库互操作的方式
DB-GPT是一个开源项目，旨在改变与数据库的互操作方式，它采用了本地化的大型GPT模型，为处理各种数据库相关情境提供了全面的解决方案。这个工具强调了隐私和数据安全，通过业务模块的定制化实施和分割，确保了LLM功能的完全机密性、安全性和可管理性。 随着大...
-
SAP 让每位开发者都成为生成式人工智能开发人员：旨在推动 AI 时代的业务转型
在 2023 年的 SAP TechEd 活动中，SAP SE 宣布了一系列全面的生成式人工智能（AI）能力和进步，旨在赋予所有技能水平的开发者，在 AI 时代为其业务注入强大动力。 SAP 揭示了生成式 AI 应用开发和向量数据库能力的创新，以及为开发...
-
用检索增强生成技术解决人工智能幻觉问题
作者| Rahul Pradhan 来源| https://www.infoworld.com/article/3708254/addressing-ai-hallucinations-with-retrieval-augmented-generatio...
-
从基础到实践，回顾 Elasticsearch 向量检索发展史
1.引言 向量检索已经成为现代搜索和推荐系统的核心组件。 通过将复杂的对象（例如文本、图像或声音）转换为数值向量，并在多维空间中进行相似性搜索，它能够实现高效的查询匹配和推荐。 Elasticsearch 作为一款流行的开源搜索引擎，其在向量检索方面...