parallel_mode (reference) in projects: third_party

Project(s)

Full Search
Definition
Symbol
File Path
History
Type

Searched refs:parallel_mode (Results 1 – 25 of 242) sorted by relevance

12 3 4 5 6 7 8 9 10

/third_party/mindspore/tests/ut/python/parallel/
D	test_conv2d.py	60 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 68 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 78 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 87 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 96 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 104 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 114 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 124 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=32, global_rank=0) 132 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 140 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) [all …]
D	test_gathernd_further.py	112 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 124 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 136 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 148 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 160 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 172 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 184 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 196 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 208 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 220 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) [all …]
D	test_manual_embedding_lookup.py	79 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=2, global_rank=0) 88 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=4, global_rank=0) 97 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=32, global_rank=1… 106 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=2, global_rank=0) 115 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=2, global_rank=0) 122 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=2, global_rank=0) 128 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=2, global_rank=0) 138 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 148 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 158 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) [all …]
D	test_layer_norm_further.py	160 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 170 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 180 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 190 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 200 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 210 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 220 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 230 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 240 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 250 parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) [all …]
D	test_manual_gatherv2.py	72 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=2, global_rank=0) 81 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=4, global_rank=0) 90 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=32, global_rank=1… 99 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=2, global_rank=0) 108 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=2, global_rank=0) 115 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=2, global_rank=0) 125 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 135 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 145 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 155 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=2, global_rank=0) [all …]
D	test_maxpool_avgpool.py	71 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 80 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 89 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 98 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 104 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 114 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 124 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 134 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 144 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 154 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) [all …]
D	test_stridedslice.py	79 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 88 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 97 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 106 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 114 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 122 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 130 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 138 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 146 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 154 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) [all …]
D	test_gather_v2.py	66 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 79 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 92 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 105 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 118 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 131 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 144 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 156 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 168 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 181 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") [all …]
D	test_tile.py	90 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 98 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 106 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 114 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 122 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 130 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 138 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 146 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 154 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 160 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0)
D	test_o2_level.py	105 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 116 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 127 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 138 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 148 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 158 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 168 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 178 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 187 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 196 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) [all …]
D	test_set_auto_parallel_context.py	`24 parallel_mode="auto_parallel", parameter_broadcast=False, 30 parallel_mode = context.get_auto_parallel_context("parallel_mode") 37 assert parallel_mode == "auto_parallel" 76 context.set_auto_parallel_context(parallel_mode="wrong_mode") 96 parallel_mode="semi_auto_parallel", pipeline_stages=2) 106 parallel_mode = context.get_auto_parallel_context("parallel_mode") 118 assert parallel_mode == "stand_alone"`
D	test_sparse_gather_v2.py	67 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 80 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 93 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 106 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 119 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 132 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 145 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 157 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 169 context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="auto_parallel") 179 context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="auto_parallel") [all …]
D	test_conv2d_transpose.py	73 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 81 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 89 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 98 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 107 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 116 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 126 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 136 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 146 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 156 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0)
D	test_uniform_candidate_sampler.py	86 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 94 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 102 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 110 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 118 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 126 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 133 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 140 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 147 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 156 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0)
D	test_concat.py	92 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 100 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 108 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 116 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 124 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 132 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 140 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 146 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 154 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0)
D	test_multi_field_embedding.py	86 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 93 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 100 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 107 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 114 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 121 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 128 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 135 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel") 142 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel")
D	test_slice.py	77 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 85 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 93 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 101 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 109 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 117 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 125 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 133 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0)
D	test_pack.py	178 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 186 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 194 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 202 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 210 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 218 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 226 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 234 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 242 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 248 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) [all …]
D	test_loss_and_o2_level.py	78 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 86 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 94 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 102 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=16, global_rank=0) 108 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 116 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 124 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0,
D	test_virtual_output.py	135 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel", 146 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel", 157 context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="auto_parallel", 168 context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="auto_parallel", 179 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel", 193 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel", 207 context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="auto_parallel", 221 context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="auto_parallel", 235 … context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="semi_auto_parallel", 248 context.set_auto_parallel_context(device_num=8, global_rank=0, parallel_mode="auto_parallel", [all …]
D	test_resizebilinear.py	91 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 100 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 109 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 118 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 124 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0) 130 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 139 … context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 148 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=8, global_rank=0)
D	test_model_without_loss.py	118 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 127 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 136 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 145 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 154 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 163 parallel_mode="semi_auto_parallel", device_num=8, global_rank=0) 172 parallel_mode="auto_parallel", device_num=8, global_rank=0) 179 parallel_mode="auto_parallel", device_num=8, global_rank=0) 188 parallel_mode="auto_parallel", device_num=8, global_rank=0)
D	test_batch_matmul.py	54 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 62 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 70 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 78 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=16, global_rank=0) 84 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 92 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0)
D	test_squeeze_info.py	48 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 56 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 64 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0) 72 context.set_auto_parallel_context(parallel_mode="auto_parallel", device_num=16, global_rank=0) 78 …context.set_auto_parallel_context(parallel_mode="semi_auto_parallel", device_num=16, global_rank=0)
/third_party/mindspore/mindspore/parallel/
D	_utils.py	68 parallel_mode = _get_parallel_mode() 70 if ((parallel_mode not in ("semi_auto_parallel", "auto_parallel")) and full_batch): 179 parallel_mode = auto_parallel_context().get_parallel_mode() 180 if parallel_mode == "stand_alone": 193 parallel_mode = auto_parallel_context().get_parallel_mode() 194 if parallel_mode == "stand_alone": 207 parallel_mode = auto_parallel_context().get_parallel_mode() 210 …if parallel_mode in ("data_parallel", "hybrid_parallel") and parameter_broadcast is False and get_… 222 def _device_number_check(parallel_mode, device_number): argument 230 if parallel_mode == "stand_alone" and device_number != 1: [all …]

12 3 4 5 6 7 8 9 10