global_rank (reference) in projects: third_party

Project(s)

Full Search
Definition
Symbol
File Path
History
Type

Searched refs:global_rank (Results 1 – 25 of 183) sorted by relevance

12 3 4 5 6 7 8

/third_party/mindspore/tests/ut/python/parallel/
D	test_conv2d.py	60 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 68 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 78 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 87 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 96 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 104 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 114 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 124 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=32, global_rank=0) 132 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 140 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) [all …]
D	test_gathernd_further.py	112 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 124 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 136 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 148 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 160 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 172 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 184 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 196 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 208 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 220 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) [all …]
D	test_set_auto_parallel_context.py	23 …context.set_auto_parallel_context(device_num=4, global_rank=3, gradients_mean=True, gradient_fp32_… 27 global_rank = context.get_auto_parallel_context("global_rank") 34 assert global_rank == 3 48 global_rank = auto_parallel_context().get_global_rank() 49 assert global_rank == 4 73 context.set_auto_parallel_context(global_rank=-1) 79 context.set_auto_parallel_context(global_rank=4096) 95 context.set_auto_parallel_context(device_num=8, global_rank=4, 103 global_rank = context.get_auto_parallel_context("global_rank") 115 assert global_rank == 0
D	test_manual_embedding_lookup.py	79 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=2, global_rank=0) 88 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=4, global_rank=0) 97 …ontext.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=32, global_rank=17) 106 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=2, global_rank=0) 115 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=2, global_rank=0) 122 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=2, global_rank=0) 128 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=2, global_rank=0) 138 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 148 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 158 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) [all …]
D	test_layer_norm_further.py	160 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 170 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 180 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 190 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 200 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 210 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 220 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 230 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 240 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 250 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) [all …]
D	test_manual_gatherv2.py	72 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=2, global_rank=0) 81 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=4, global_rank=0) 90 …ontext.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=32, global_rank=17) 99 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=2, global_rank=0) 108 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=2, global_rank=0) 115 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=2, global_rank=0) 125 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 135 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 145 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 155 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=2, global_rank=0) [all …]
D	test_maxpool_avgpool.py	71 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 80 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 89 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 98 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 104 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 114 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 124 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 134 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 144 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 154 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) [all …]
D	test_stridedslice.py	79 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 88 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 97 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 106 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 114 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 122 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 130 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 138 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 146 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 154 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) [all …]
D	test_gather_v2.py	66 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 79 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 92 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 105 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 118 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 131 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 144 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 156 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 168 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 181 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") [all …]
D	test_neighborexchange.py	45 context.set_auto_parallel_context(device_num=8, global_rank=0) 73 context.set_auto_parallel_context(device_num=8, global_rank=0) 100 context.set_auto_parallel_context(device_num=8, global_rank=0) 122 context.set_auto_parallel_context(device_num=8, global_rank=0) 144 context.set_auto_parallel_context(device_num=8, global_rank=0) 166 context.set_auto_parallel_context(device_num=8, global_rank=0) 194 context.set_auto_parallel_context(device_num=8, global_rank=0) 223 context.set_auto_parallel_context(device_num=8, global_rank=0) 252 context.set_auto_parallel_context(device_num=8, global_rank=0) 280 context.set_auto_parallel_context(device_num=8, global_rank=0) [all …]
D	test_tile.py	90 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 98 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 106 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 114 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 122 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 130 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 138 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 146 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 154 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 160 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0)
D	test_o2_level.py	105 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 116 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 127 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 138 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 148 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 158 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 168 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 178 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 187 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 196 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) [all …]
D	test_sparse_gather_v2.py	67 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 80 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 93 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 106 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 119 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 132 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 145 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 157 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 169 context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="auto_parallel") 179 context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="auto_parallel") [all …]
D	test_unsortedsegmentsum.py	77 context.set_auto_parallel_context(device_num=8, global_rank=0) 87 context.set_auto_parallel_context(device_num=8, global_rank=0) 97 context.set_auto_parallel_context(device_num=4, global_rank=0) 107 context.set_auto_parallel_context(device_num=4, global_rank=0) 117 context.set_auto_parallel_context(device_num=4, global_rank=0) 128 context.set_auto_parallel_context(device_num=4, global_rank=0) 138 context.set_auto_parallel_context(device_num=4, global_rank=0) 148 context.set_auto_parallel_context(device_num=4, global_rank=0) 158 context.set_auto_parallel_context(device_num=4, global_rank=0) 168 context.set_auto_parallel_context(device_num=4, global_rank=0)
D	test_conv2d_transpose.py	73 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 81 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 89 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 98 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 107 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 116 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 126 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 136 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 146 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 156 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0)
D	test_onehot.py	84 context.set_auto_parallel_context(device_num=16, global_rank=0) 93 context.set_auto_parallel_context(device_num=16, global_rank=0) 102 context.set_auto_parallel_context(device_num=16, global_rank=0) 118 context.set_auto_parallel_context(device_num=16, global_rank=0) 127 context.set_auto_parallel_context(device_num=16, global_rank=0) 136 context.set_auto_parallel_context(device_num=16, global_rank=0) 146 context.set_auto_parallel_context(device_num=16, global_rank=0) 162 context.set_auto_parallel_context(device_num=16, global_rank=0) 171 context.set_auto_parallel_context(device_num=16, global_rank=14)
D	test_dataset_util.py	`32 global_rank = 2 33 full_tensor = _to_full_tensor(elem, device_num, global_rank, scaling_sens=None) 46 global_rank = 2 47 full_tensor = _to_full_tensor(elem, device_num, global_rank, scaling_sens=None) 64 global_rank = 2 65 full_tensor = _to_full_tensor(elem, device_num, global_rank, scaling_sens=0.1)`
D	test_uniform_candidate_sampler.py	86 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 94 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 102 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 110 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 118 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 126 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 133 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 140 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 147 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 156 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0)
D	test_concat.py	92 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 100 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 108 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 116 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 124 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 132 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 140 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 146 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 154 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0)
D	test_multi_field_embedding.py	86 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 93 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 100 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 107 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 114 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 121 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 128 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 135 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 142 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel")
D	test_unsortedsegmentmax.py	78 context.set_auto_parallel_context(device_num=8, global_rank=0) 88 context.set_auto_parallel_context(device_num=8, global_rank=0) 98 context.set_auto_parallel_context(device_num=4, global_rank=0) 108 context.set_auto_parallel_context(device_num=4, global_rank=0) 118 context.set_auto_parallel_context(device_num=4, global_rank=0) 128 context.set_auto_parallel_context(device_num=4, global_rank=0) 138 context.set_auto_parallel_context(device_num=4, global_rank=0) 147 context.set_auto_parallel_context(device_num=4, global_rank=0) 156 context.set_auto_parallel_context(device_num=4, global_rank=0)
D	test_unsortedsegmentmin.py	78 context.set_auto_parallel_context(device_num=8, global_rank=0) 88 context.set_auto_parallel_context(device_num=8, global_rank=0) 98 context.set_auto_parallel_context(device_num=4, global_rank=0) 108 context.set_auto_parallel_context(device_num=4, global_rank=0) 118 context.set_auto_parallel_context(device_num=4, global_rank=0) 128 context.set_auto_parallel_context(device_num=4, global_rank=0) 138 context.set_auto_parallel_context(device_num=4, global_rank=0) 147 context.set_auto_parallel_context(device_num=4, global_rank=0) 156 context.set_auto_parallel_context(device_num=4, global_rank=0)
D	test_slice.py	77 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 85 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 93 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 101 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 109 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 117 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 125 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 133 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0)
/third_party/mindspore/mindspore/ccsrc/runtime/device/gpu/distribution/
D	mpi_wrapper.cc	67 int global_rank[1] = {rank_id_}; in CreateCommGroup() local 68 …CHECK_RET(MPI_Group_translate_ranks(world_group_, 1, global_rank, mpi_group, group_rank), MPI_SUCC… in CreateCommGroup() 129 for (int global_rank = 0; global_rank < rank_size_; global_rank++) { in Init() local 130 world_group_ranks.push_back(global_rank); in Init() 148 for (int global_rank = 0; global_rank < kRankSize; global_rank++) { in AssignLocalRankID() local 149 if (global_rank == rank_id_) { in AssignLocalRankID() 152 if (all_host_hashs[global_rank] == all_host_hashs[rank_id_]) { in AssignLocalRankID()
/third_party/mindspore/mindspore/ccsrc/pipeline/jit/
D	pipeline_split.cc	47 int64_t global_rank = parallel::ParallelContext::GetInstance()->global_rank(); in GetRank() local 53 global_rank = UintToInt(rank_id); in GetRank() 55 return global_rank; in GetRank() 85 auto global_rank = GetRank(); in PipelineSplit() local 101 if (global_rank < 0) { in PipelineSplit() 102 MS_LOG(EXCEPTION) << "Invalid global rank: " << global_rank; in PipelineSplit() 104 auto stage = InferStage(global_rank, stage_num, device_num); in PipelineSplit() 110 …std::make_shared<parallel::PipelineTransformer>(manager, stage, root, global_rank, per_stage_rank_… in PipelineSplit()

12 3 4 5 6 7 8