精品专区-精品自拍9-精品自拍三级乱伦-精品自拍视频-精品自拍视频曝光-精品自拍小视频

網站建設資訊

NEWS

網站建設資訊

使用SpringBatch如何實現將txt文件寫入數據庫

使用Spring Batch如何實現將txt文件寫入數據庫?針對這個問題,這篇文章詳細介紹了相對應的分析和解答,希望可以幫助更多想解決這個問題的小伙伴找到更簡單易行的方法。

在弋陽等地區,都構建了全面的區域性戰略布局,加強發展的系統性、市場前瞻性、產品創新能力,以專注、極致的服務理念,為客戶提供成都網站設計、成都做網站 網站設計制作按需求定制開發,公司網站建設,企業網站建設,品牌網站制作,成都營銷網站建設,外貿網站制作,弋陽網站建設費用合理。

1、創建 Maven 項目,并在 pom.xml 中添加依賴


 org.springframework.boot
 spring-boot-starter-parent
 1.5.2.RELEASE


 1.8


 
  org.springframework.boot
  spring-boot-starter-batch
 
 
  org.springframework.boot
  spring-boot-starter-data-jpa
 
 
  org.springframework.boot
  spring-boot-starter-test
  test
 
 
  org.mybatis.spring.boot
  mybatis-spring-boot-starter
  1.2.0
 
 
 
  org.projectlombok
  lombok
  1.12.6
 
 
  org.apache.commons
  commons-lang3
  3.4
 
 
 
  MySQL
  mysql-connector-java
  runtime
 
 
  com.alibaba
  druid
  1.0.26
 
 
  org.springframework.boot
  spring-boot-starter-web
 

這里是這個小項目中用到的所有依賴,包括連接數據庫的依賴以及工具類等。

2、編寫 Model 類

我們要從文檔中讀取的有效列就是 uid,tag,type,就是用戶 ID,用戶可能包含的標簽(用于推送),用戶類別(用戶用戶之間互相推薦)。

UserMap.java 中的 @Entity,@Column 注解,是為了利用 JPA 生成數據表而寫的,可要可不要。

UserMap.java

@Data
@EqualsAndHashCode
@NoArgsConstructor
@AllArgsConstructor
//@Entity(name = "user_map")
public class UserMap extends BaseModel {
 @Column(name = "uid", unique = true, nullable = false)
 private Long uid;
 @Column(name = "tag")
 private String tag;
 @Column(name = "type")
 private Integer type;
}

3、實現批處理配置類

BatchConfiguration.java

@Configuration
@EnableBatchProcessing
public class BatchConfiguration {
 @Autowired
 public JobBuilderFactory jobBuilderFactory;
 @Autowired
 public StepBuilderFactory stepBuilderFactory;
 @Autowired
 @Qualifier("prodDataSource")
 DataSource prodDataSource;
 @Bean
 public FlatFileItemReader reader() {
  FlatFileItemReader reader = new FlatFileItemReader<>();
  reader.setResource(new ClassPathResource("c152.txt"));
  reader.setLineMapper(new DefaultLineMapper() {{
   setLineTokenizer(new DelimitedLineTokenizer("|") {{
    setNames(new String[]{"uid", "tag", "type"});
   }});
   setFieldSetMapper(new BeanWrapperFieldSetMapper() {{
    setTargetType(UserMap.class);
   }});
  }});
  return reader;
 }
 @Bean
 public JdbcBatchItemWriter importWriter() {
  JdbcBatchItemWriter writer = new JdbcBatchItemWriter<>();
  writer.setItemSqlParameterSourceProvider(new BeanPropertyItemSqlParameterSourceProvider<>());
  writer.setSql("INSERT INTO user_map (uid,tag,type) VALUES (:uid, :tag,:type)");
  writer.setDataSource(prodDataSource);
  return writer;
 }
 @Bean
 public JdbcBatchItemWriter updateWriter() {
  JdbcBatchItemWriter writer = new JdbcBatchItemWriter<>();
  writer.setItemSqlParameterSourceProvider(new BeanPropertyItemSqlParameterSourceProvider<>());
  writer.setSql("UPDATE user_map SET type = (:type),tag = (:tag) WHERE uid = (:uid)");
  writer.setDataSource(prodDataSource);
  return writer;
 }
 @Bean
 public UserMapItemProcessor processor(UserMapItemProcessor.ProcessStatus processStatus) {
  return new UserMapItemProcessor(processStatus);
 }
 @Bean
 public Job importUserJob(JobCompletionNotificationListener listener) {
  return jobBuilderFactory.get("importUserJob")
    .incrementer(new RunIdIncrementer())
    .listener(listener)
    .flow(importStep())
    .end()
    .build();
 }
 @Bean
 public Step importStep() {
  return stepBuilderFactory.get("importStep")
    .chunk(100)
    .reader(reader())
    .processor(processor(IMPORT))
    .writer(importWriter())
    .build();
 }
 @Bean
 public Job updateUserJob(JobCompletionNotificationListener listener) {
  return jobBuilderFactory.get("updateUserJob")
    .incrementer(new RunIdIncrementer())
    .listener(listener)
    .flow(updateStep())
    .end()
    .build();
 }
 @Bean
 public Step updateStep() {
  return stepBuilderFactory.get("updateStep")
    .chunk(100)
    .reader(reader())
    .processor(processor(UPDATE))
    .writer(updateWriter())
    .build();
 }
}

prodDataSource 是假設用戶已經設置好的,如果不知道怎么配置,也可以參考之前的文章進行配置:Springboot 集成 Mybatis。

reader(),這方法從文件中讀取數據,并且設置了一些必要的參數。緊接著是寫操作 importWriter()updateWriter() ,讀者看其中一個就好,因為我這里是需要更新或者修改的,所以分為兩個。

processor(ProcessStatus status) ,該方法是對我們處理數據的類進行實例化,這里我根據 status 是 IMPORT 還是 UPDATE 來獲取不同的處理結果。

其他的看代碼就可以看懂了,哈哈,不詳細說了。

4、將獲得的數據進行清洗

UserMapItemProcessor.java

public class UserMapItemProcessor implements ItemProcessor {
 private static final int MAX_TAG_LENGTH = 200;
 
 private ProcessStatus processStatus;
 public UserMapItemProcessor(ProcessStatus processStatus) {
  this.processStatus = processStatus;
 }
 @Autowired
 IUserMapService userMapService;
 private static final String TAG_PATTERN_STR = "^[a-zA-Z0-9\\u4E00-\\u9FA5_-]+$";
 public static final Pattern TAG_PATTERN = Pattern.compile(TAG_PATTERN_STR);
 private static final Logger LOG = LoggerFactory.getLogger(UserMapItemProcessor.class);
 @Override
 public UserMap process(UserMap userMap) throws Exception {
  Long uid = userMap.getUid();
  String tag = cleanTag(userMap.getTag());
  Integer label = userMap.getType() == null ? Integer.valueOf(0) : userMap.getType();
  if (StringUtils.isNotBlank(tag)) {
   Map params = new HashMap<>();
   params.put("uid", uid);
   UserMap userMapFromDB = userMapService.selectOne(params);
   if (userMapFromDB == null) {
    if (this.processStatus == ProcessStatus.IMPORT) {
     return new UserMap(uid, tag, label);
    }
   } else {
    if (this.processStatus == ProcessStatus.UPDATE) {
     if (!tag.equals(userMapFromDB.getTag()) && !label.equals(userMapFromDB.getType())) {
      userMapFromDB.setType(label);
      userMapFromDB.setTag(tag);
      return userMapFromDB;
     }
    }
   }
  }
  return null;
 }
 /**
  * 清洗標簽
  *
  * @param tag
  * @return
  */
 private static String cleanTag(String tag) {
  if (StringUtils.isNotBlank(tag)) {
   try {
    tag = tag.substring(tag.indexOf("{") + 1, tag.lastIndexOf("}"));
    String[] tagArray = tag.split(",");
    Optional reduce = Arrays.stream(tagArray).parallel()
      .map(str -> str.split(":")[0])
      .map(str -> str.replaceAll("\'", ""))
      .map(str -> str.replaceAll(" ", ""))
      .filter(str -> TAG_PATTERN.matcher(str).matches())
      .reduce((x, y) -> x + "," + y);
    Function str = (s -> s.length() > MAX_TAG_LENGTH ? s.substring(0, MAX_TAG_LENGTH) : s);
    return str.apply(reduce.get());
   } catch (Exception e) {
    LOG.error(e.getMessage(), e);
   }
  }
  return null;
 }
 protected enum ProcessStatus {
  IMPORT,
  UPDATE;
 }
 public static void main(String[] args) {
  String distinctTag = cleanTag("Counter({'《重新定義》': 3, '輕想上的輕小說': 3, '小說': 2, 'Fate': 2, '同人小說': 2, '雪狼八組': 1, " +
    "'社會': 1, '人文': 1, '短篇': 1, '重新定義': 1, 'AMV': 1, '《FBD》': 1, '《雪狼六組》': 1, '戰爭': 1, '《灰羽聯盟》': 1, " +
    "'誰說輕想沒人寫小說': 1})");
  System.out.println(distinctTag);
 }
}

讀取到的數據格式如 main() 方法所示,清理之后的結果如:

輕想上的輕小說,小說,Fate,同人小說,雪狼八組,社會,人文,短篇,重新定義,AMV,戰爭,誰說輕想沒人寫小說 。

去掉了特殊符號以及數字等。使用了 Java8 的 Lambda 表達式。

并且這里在處理的時候,判斷如果該數據用戶已經存在,則進行更新,如果不存在,則新增。

5、Job 執行結束回調類

JobCompletionNotificationListener.java

@Component
public class JobCompletionNotificationListener extends JobExecutionListenerSupport {
 private static final Logger log = LoggerFactory.getLogger(JobCompletionNotificationListener.class);
 private final JdbcTemplate jdbcTemplate;
 @Autowired
 public JobCompletionNotificationListener(JdbcTemplate jdbcTemplate) {
  this.jdbcTemplate = jdbcTemplate;
 }
 @Override
 public void afterJob(JobExecution jobExecution) {
  System.out.println("end .....");
 }
}

具體的邏輯可自行實現。

完成以上幾個步驟,運行項目,就可以讀取并寫入數據到數據庫了。

使用Spring Batch如何實現將txt文件寫入數據庫

關于使用Spring Batch如何實現將txt文件寫入數據庫問題的解答就分享到這里了,希望以上內容可以對大家有一定的幫助,如果你還有很多疑惑沒有解開,可以關注創新互聯行業資訊頻道了解更多相關知識。


標題名稱:使用SpringBatch如何實現將txt文件寫入數據庫
本文路徑:http://m.jcarcd.cn/article/piicis.html
主站蜘蛛池模板: 国产午夜无| 91免费福利电影 | 日本免费一区二区 | 91免费视频在线 | 日本中文字幕一本 | 区二区网站视频 | www亚洲欲色成 | 91看片哺乳 | 日本三区视频 | 日韩妇女成人 | 日韩欧美一区黑 | 国产在线愉拍视频 | 国产拍在线2025 | 日韩欧美午夜电影 | 国产乱子伦视频观看 | 漂亮的保姆6 | 午夜国产精品精品 | 成人经典免费在 | 欧美在线中文 | 成人午夜爱看 | 国产精品看片在线 | 福利导航在线观看 | 九九中文字幕国产 | 国产费视频在线观看 | 亚洲无码动态图 | 91精品国产电影 | 国产丝袜精品 | 日韩中文字幕第二页 | 97色色五月天 | 国产在线99精品 | 日本成人精品在线 | 午夜福利久 | 国产欧美日韩主播 | 国产在线观看码高 | 中文字幕一区不 | 国产又黄又硬又粗 | 国产精品00 | 欧美日韩另类 | 国产极品美女视频 | 日韩精品成人一 | 99热在线免|