17 	struct rtrs_clt_stats *stats = clt_path->stats;  in rtrs_clt_update_wc_stats()  local
22 	s = get_cpu_ptr(stats->pcpu_stats);  in rtrs_clt_update_wc_stats()
27 		s = per_cpu_ptr(stats->pcpu_stats, con->cpu);  in rtrs_clt_update_wc_stats()
30 	put_cpu_ptr(stats->pcpu_stats);  in rtrs_clt_update_wc_stats()
33 void rtrs_clt_inc_failover_cnt(struct rtrs_clt_stats *stats)  in rtrs_clt_inc_failover_cnt()  argument
35 	this_cpu_inc(stats->pcpu_stats->rdma.failover_cnt);  in rtrs_clt_inc_failover_cnt()
38 int rtrs_clt_stats_migration_from_cnt_to_str(struct rtrs_clt_stats *stats, char *buf)  in rtrs_clt_stats_migration_from_cnt_to_str()  argument
47 		s = per_cpu_ptr(stats->pcpu_stats, cpu);  in rtrs_clt_stats_migration_from_cnt_to_str()
57 int rtrs_clt_stats_migration_to_cnt_to_str(struct rtrs_clt_stats *stats, char *buf)  in rtrs_clt_stats_migration_to_cnt_to_str()  argument
66 		s = per_cpu_ptr(stats->pcpu_stats, cpu);  in rtrs_clt_stats_migration_to_cnt_to_str()
75 int rtrs_clt_stats_reconnects_to_str(struct rtrs_clt_stats *stats, char *buf)  in rtrs_clt_stats_reconnects_to_str()  argument
77 	return sysfs_emit(buf, "%d %d\n", stats->reconnects.successful_cnt,  in rtrs_clt_stats_reconnects_to_str()
78 			  stats->reconnects.fail_cnt);  in rtrs_clt_stats_reconnects_to_str()
81 ssize_t rtrs_clt_stats_rdma_to_str(struct rtrs_clt_stats *stats, char *page)  in rtrs_clt_stats_rdma_to_str()  argument
90 		r = &per_cpu_ptr(stats->pcpu_stats, cpu)->rdma;  in rtrs_clt_stats_rdma_to_str()
102 			 atomic_read(&stats->inflight), sum.failover_cnt);  in rtrs_clt_stats_rdma_to_str()
110 int rtrs_clt_reset_rdma_stats(struct rtrs_clt_stats *stats, bool enable)  in rtrs_clt_reset_rdma_stats()  argument
119 		s = per_cpu_ptr(stats->pcpu_stats, cpu);  in rtrs_clt_reset_rdma_stats()
126 int rtrs_clt_reset_cpu_migr_stats(struct rtrs_clt_stats *stats, bool enable)  in rtrs_clt_reset_cpu_migr_stats()  argument
135 		s = per_cpu_ptr(stats->pcpu_stats, cpu);  in rtrs_clt_reset_cpu_migr_stats()
142 int rtrs_clt_reset_reconnects_stat(struct rtrs_clt_stats *stats, bool enable)  in rtrs_clt_reset_reconnects_stat()  argument
147 	memset(&stats->reconnects, 0, sizeof(stats->reconnects));  in rtrs_clt_reset_reconnects_stat()
165 static inline void rtrs_clt_update_rdma_stats(struct rtrs_clt_stats *stats,  in rtrs_clt_update_rdma_stats()  argument
168 	this_cpu_inc(stats->pcpu_stats->rdma.dir[d].cnt);  in rtrs_clt_update_rdma_stats()
169 	this_cpu_add(stats->pcpu_stats->rdma.dir[d].size_total, size);  in rtrs_clt_update_rdma_stats()
176 	struct rtrs_clt_stats *stats = clt_path->stats;  in rtrs_clt_update_all_stats()  local
180 	rtrs_clt_update_rdma_stats(stats, len, dir);  in rtrs_clt_update_all_stats()
182 		atomic_inc(&stats->inflight);  in rtrs_clt_update_all_stats()
185 int rtrs_clt_init_stats(struct rtrs_clt_stats *stats)  in rtrs_clt_init_stats()  argument
187 	stats->pcpu_stats = alloc_percpu(typeof(*stats->pcpu_stats));  in rtrs_clt_init_stats()
188 	if (!stats->pcpu_stats)  in rtrs_clt_init_stats()
195 	stats->reconnects.successful_cnt = -1;  in rtrs_clt_init_stats()