AWS宁夏区域上线两项新服务:AWS Glue和Amazon Athena

【TechWeb】3月24日,AWS今天宣布,AWSGlue、AmazonAthena在由西云数据运营的AWS中国(宁夏)区域正式上线。

AWSGlue全新的ETL服务

据介绍,AWSGlue是一种全托管的数据提取、转换和加载(ETL)服务及元数据目录。它让客户更容易准备数据,加载数据到数据库、数据仓库和数据湖,用于数据分析。使用AWSGlue,在几分钟之内便可以准备好数据用于分析。由于AWSGlue是无服务器服务,客户在执行ETL任务时,只需要为他们所消耗的计算资源付费。

客户在使用数据湖架构实现数据分析解决方案时,通常有75%的时间花在数据集成任务上,需要从各种数据源提取数据,对其进行规范化,并将其加载到数据存储中。AWSGlue消除了ETL作业基础设施方面的所有重复劳动,让AmazonS3数据湖中的数据集可以被发现、可用于查询和分析,极大地缩短分析项目中做ETL和数据编目阶段的时间,让ETL变得很容易。

具体而言,AWSGlue在从客户选择的数据源把数据爬取出来之后,会自动识别数据格式和模式(schema),构建统一的数据目录,并为客户提供所选数据的中央视图。这使得客户很容易跨越各种数据存储,检索和管理所有数据,而不必手动搬运它们。当客户从数据目录中标识出数据源(例如一个数据库表)和数据目标(例如一个数据仓库)时,AWSGlue将匹配相应的模式,生成可定制、可重用、可移植、可共享的数据转换代码。开发人员可以调度任意数量的ETL作业,AWSGlue则会管理其余的工作,根据客户ETL工作负载自动启用或关闭计算资源。通过简化创建ETL作业的过程,AWSGlue让客户可以构建可伸缩、可靠的数据准备平台。这些平台可以跨越数千个ETL作业,具有内置的依赖性解析、调度、资源管理和监控功能。

据了解,目前包括德比软件、嘉云数据、壳木软件和趣加等在内的诸多中国客户都在使用AWSGlue解决复杂的数据挑战。

AmazonAthena全新的即用即付交互式查询服务

据介绍,AmazonAthena是一种交互式查询服务,它让客户可以使用标准SQL语言、轻松分析AmazonSimpleStorageService(AmazonS3)中的数据。由于Athena是一种无服务器服务,因此客户不需要管理基础设施,而且只为他们运行的查询付费。Athena可以自动扩展,并行执行查询,所以即便是大型数据集和复杂的查询,也能很快获得查询结果。

具体而言,AWS提供了诸如AmazonRedshift和AmazonElasticMapReduce(AmazonEMR)等分析服务,让各种规模的公司都可以实现PB级数据的分析。通过AmazonRedshift,客户可以对大规模的结构化数据执行复杂的查询,并获得超高速的性能。对于非结构化数据,AmazonEMR使用流行的分布式框架,例如ApacheSpark、Presto、Hive和Pig,横跨多个可动态伸缩的集群,处理和分析大量数据,快速又经济。虽然这些服务是可伸缩的,而且足够强大到可以处理大且复杂的大数据应用,但是,许多客户也希望能够很快地查询AmazonS3上的数据,例如web日志、点击流、原始日志文件等,而无需开启、配置和管理Hadoop集群或数据仓库。现在,使用Athena分析AmazonS3中的数据就像编写SQL查询一样简单。Athena使用完整支持标准SQL的Presto,可以处理各种标准数据格式,包括CSV、JSON、ORC和Parquet。因为Athena使用多个可用区的计算资源执行查询,而且使用AmazonS3作为底层数据存储,所以它具有高可用性和持久性,数据冗余存储在多处基础设施中,并且是每处基础设施上的多个设备上。

据悉,凭借快速、易用、经济和灵活的特性,AmazonAthena已经获得茄子快传、大宇无限、汇量科技、壳木软件等诸多中国客户的信赖。

本文源自TechWeb.com.cn


分享到:


相關文章: