JAVA开发搞了一年多大数据的总结? 2021年7月份加入了当前项目组，以一个原汁原味的Java开发工程师的身份进来的，来了没多久，项目组唯一一名大数据开发工程师要离职了，一时间一大堆的数据需求急需人来接手，此刻又招不来新的数据开发 。没辙，我和同组的另一位Java开发同事算是临危受命，接下了大数据方面的工作，开启了Java工程师从0到1搞大数据的漫长旅途，开始的磕磕碰碰叫苦不堪到如今的还算得心应手，已经整整16个月了，16个月期间双向支持着数据分析和后端开发的工作，两者时而穿插时而并行处理，大数据工作占得比重之多，有时让我怀疑我还是不是一名纯粹的Java开发工作者，当我看见假期值班表中我的角色填写一项变成“B端后端/数据”时，我就知道我已经不纯粹了 。
1.Sql -- 大数据分析的灵魂? 搞大数据究竟每天在做些什么？坦白讲，情况和我想象的不太一样，因为做大数据开发时最最主要的工作居然写Sql，曾经我还以为它是有一套刁钻困难冷门的牛逼技术，将海量数据玩弄于股掌之中 。现在看来，我是每天和各种各样的大数据表打交道，在大数据平台用sql提取出业务方想要的信息，有时会出各式各样的数据报表，有时是为C端项目服务，提供底层海量数据计算的支持，有时是为各种数据看板服务，提供他们想要的销量排行了、人群覆盖情况了诸类 。工作前两年纯粹写java时也是对sql有所研究的，毕竟数据持久层的交互离不开sql，然后搞了大数据才明白，之前写的sql都是小儿科，现在一条sql写上百行那都是常有的事，而且最开始解读大sql时总是慢半拍，好久才能搞明白前辈留下的交接文档表达的是什么，现在不一样了，看见那些sql都亲切很多，很多需求提出来总能迅速想到sql解决的方案，下面呢，我就开始分享一些我在写大sql时经常会使用的一些语法，这些语法可能针对于只做Java的人并不会经常性的熟练使用 。
1.1with.. as..with temp1 as (select * from ... where ..),temp2 as (select * from ... where...),...tempn as (select * from ... inner join ... where)select a.*,b.*,c.* from temp1 a inner join temp2 b on a.id = b.id left join ..tempn c on a.iid = c.iid where ...模板中的temp1,temp2,tempn都可以看做这个sql执行过程中的临时表，存在周期仅限于执行这条sql期间，sql执行完毕临时表也销毁，并且和其他的sql是相互隔离的，下面的sql都可以使用之前的产生的临时表(temp2就可以使用temp1的结果)，使用with时最后一定跟的select语句，当然，跟的是insert into table ...... select* from也是可以的 。
使用with..as..语法大大提高了长Sql的解读性 。
之前一直以为这个HiveSql特有的语法，后来才发现在mysql中也可以使用，只不过是mysql8.0以后的版本可以使用，之前的版本是没有这个语法的 。
1.2开窗函数：row_number() over(partition by fileorder by file2 desc/asc)selectrow_number() over(partition by userid order by pay_time desc) as rn,userid,name,order_cd,goods_name,pay_timefromdb_dw.table _orderhaving rn = 1这个sql的作用就是找出每个用户的最新付款的那笔订单的订单信息 。
实现思路就是利用开窗函数按照用户id分组，再按照付款时间倒叙排序，给每组的数据加上一个rn的编号，每组的第一条rn 都等于 1 ,第二条rn = 2，以此类推，再通过having函数将结果中rn = 1的数据全取出来，这样就能通过单条sql完成取每一个用户最新一条订单的数据需求 。
1.3开窗函数lag(field, num, defaultvalue) over(partition by ..order by ..) 与 lead() over()selectlag(pay_time,1,NULL) over(partition by userid order by pay_time asc) as last_pay_time,userid,name,order_cd,goods_name,pay_timefromdb_dw.table _order selectlead(pay_time,1,NULL) over(partition by userid order by pay_time asc) as next_pay_time,userid,name,order_cd,goods_name,pay_timefromdb_dw.table _order
经验总结扩展阅读
- JAVA的File对象
- 华为开发者大会HDC2022：HMS Core 持续创新，与开发者共创美好数智生活
- Java 超新星开源项目 Solon v1.10.10 发布
- 将java装进u盘指南
- Java函数式编程：三、流与函数式编程
- 华为开发者大会2022：HMS Core 3D建模服务再升级，万物皆可驱动
- 2022，一个Java程序猿的外设配置
- 2022，一个Java程序猿的装机配置
- Java 多线程写zip文件遇到的错误 write beyond end of stream！
- 1 JAVA语言学习-面向对象