報錯如下：
Caused by: java.lang.IllegalArgumentException: Cannot grow BufferHolder by size 9384 because the size after growing exceeds size limitation 2147483632
不能按大小9384增加BufferHolder，因為增長后的大小超過了大小限制2147483632
參考鏈接：
https://docs.microsoft.com/zh-cn/azure/databricks/kb/sql/cannot-grow-bufferholder-exceeds-size
定位到出錯位置：
我的需求是根據唯一鍵分組統計，有點擊的保留所有點擊，沒點擊的保留所有曝光，所以用到了collect_list，在資料起量之后，整個groupby之后轉的df會非常大，collect_list傳到udf的的行向量也會非常的長，所以超出快取大小，
問題關鍵代碼如下：
schema_getdataCols = ['newid'] + data_origin_columns1
df_HDFS_gp = df_HDFS_A.groupBy('newid').agg(
fn.collect_list('suuid').alias('suuid'),
fn.collect_list('aid').alias('aid'),
fn.collect_list('slotid').alias('slotid'),
fn.collect_list('adfrom').alias('adfrom'),
fn.collect_list('appkey').alias('appkey'),
fn.collect_list('appname').alias('appname'),
fn.collect_list('battery').alias('battery'),
fn.collect_list('brand').alias('brand'),
fn.collect_list('channel').alias('channel'),
fn.collect_list('hardware').alias('hardware'),
fn.collect_list('product').alias('product'),
fn.collect_list('screensize').alias('screensize'),
fn.collect_list('manufacturer').alias('manufacturer'),
fn.collect_list('model').alias('model'),
fn.collect_list('nettype').alias('nettype'),
fn.collect_list('operator').alias('operator'),
fn.collect_list('os').alias('os'),
fn.collect_list('city').alias('city'),
fn.collect_list('actname').alias('actname'),
).rdd.map(row_dataID_druid_ad_behavior).toDF(schema=schema_getdataCols)
嘗試過的方法：
- 提高BufferHolder快取大小
.config('spark.kryoserializer.buffer.max', 5120) \
- 將df分割成多個資料幀進行后續的處理
最終解決的方法：
思路固化了，談到分組處理就死盯著groupby不放了，根據需求有點擊保留所有點擊，沒點擊保留所有曝光，所有關鍵代碼如下：
'''三元組拼接，劃分label'''
# 先篩除有點擊的數
df_have_click = df.filter(df['actname'] == 'ckads')
# 保留有點擊的三元組id
click_ids = df_have_click.select('newid').collect()
click_ids = [i[0] for i in click_ids]
click_ids = list(set(click_ids))
# 篩除有曝光的數，排除有點擊的三元組id
df_have_display = df.filter(df['actname'] == 'exads').filter(~df['newid'].isin(click_ids))
# 拼接
df_HDFS_res = df_have_click.unionAll(df_have_display)
問題解決.
轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/438672.html
標籤：其他