2194     if (LegalVT.getSimpleVT().is512BitVector())  in getSetCCResultType()
3649         else if (RegVT.is512BitVector())  in LowerFormalArguments()
5178   if ((VT.is256BitVector() || VT.is512BitVector()) && !Load->hasOneUse()) {  in shouldReduceLoadWidth()
5787   assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector() ||  in getZeroVector()
5844           Vec.getValueType().is512BitVector()) && "Unexpected vector size!");  in extract128BitVector()
5851   assert(Vec.getValueType().is512BitVector() && "Unexpected vector size!");  in extract256BitVector()
5980           Op.getOperand(0).getValueType().is512BitVector()) &&  in splitVectorIntUnary()
5981          (VT.is256BitVector() || VT.is512BitVector()) && "Unsupported VT!");  in splitVectorIntUnary()
6007   assert((VT.is256BitVector() || VT.is512BitVector()) && "Unsupported VT!");  in splitVectorIntBinary()
6251   assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()) &&  in getOnesVector()
8521   if (VT.is256BitVector() || VT.is512BitVector()) {  in EltsFromConsecutiveLoads()
8538       ((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()))) {  in EltsFromConsecutiveLoads()
8562       (VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector())) {  in EltsFromConsecutiveLoads()
8693   assert((VT.is128BitVector() || VT.is256BitVector() || VT.is512BitVector()) &&  in lowerBuildVectorAsBroadcast()
8732         if (!VT.is512BitVector() && !Subtarget.hasVLX()) {  in lowerBuildVectorAsBroadcast()
9475   if (VT.is512BitVector())  in lowerToAddSubOrFMAddSub()
10267                 VT.is512BitVector()) &&  in LowerBUILD_VECTOR()
10511           ResVT.is512BitVector()) && "Value type must be 256-/512-bit wide");  in LowerAVXCONCAT_VECTORS()
10650          (VT.is512BitVector() && (Op.getNumOperands() == 2 ||  in LowerCONCAT_VECTORS()
11134          (Subtarget.hasBWI() && VT.is512BitVector()));  in lowerShuffleWithPSHUFB()
11346   if (!VT.is512BitVector() && !Subtarget.hasVLX())  in matchShuffleAsVTRUNC()
11412   if (!Subtarget.hasVLX() && !SrcVT.is512BitVector()) {  in getAVX512TruncNode()
12120       (VT.is512BitVector() && !Subtarget.hasBWI()))  in lowerShuffleAsByteRotateAndPermute()
12499     assert((!VT.is512BitVector() || Subtarget.hasBWI()) &&  in lowerShuffleAsByteRotate()
13572     if (!VT.is256BitVector() && !VT.is512BitVector())  in lowerShuffleAsBroadcast()
15079   if (!VT.is512BitVector() && !Subtarget.hasVLX()) {  in lowerShuffleWithPERMV()
16211   assert((VT.is256BitVector() || VT.is512BitVector()) &&  in lowerShuffleWithUndefHalf()
16284       if (Subtarget.hasAVX512() && VT.is512BitVector())  in lowerShuffleWithUndefHalf()
16303     if (Subtarget.hasAVX512() && VT.is512BitVector())  in lowerShuffleWithUndefHalf()
17343   assert(VT.is512BitVector() && "Unexpected vector size for 512bit shuffle.");  in lowerV4X128Shuffle()
18299   if (VT.is512BitVector())  in lowerVECTOR_SHUFFLE()
18566   if (VecVT.is256BitVector() || VecVT.is512BitVector()) {  in LowerEXTRACT_VECTOR_ELT()
18725   if (VT.is256BitVector() || VT.is512BitVector()) {  in LowerINSERT_VECTOR_ELT()
19456     if (!Subtarget.hasVLX() && !VT.is512BitVector()) {  in LowerFunnelShift()
19470       if (!Subtarget.hasVLX() && !VT.is512BitVector())  in LowerFunnelShift()
19475     if (!Subtarget.hasVLX() && !VT.is512BitVector())  in LowerFunnelShift()
20653   if (!ExtVT.is512BitVector() && !Subtarget.hasVLX()) {  in LowerZERO_EXTEND_Mask()
20769   if (SrcVT.is512BitVector() && Subtarget.hasInt256()) {  in truncateVectorWithPACK()
22607          Op0.getSimpleValueType().is512BitVector())) {  in LowerVSETCC()
23619   if (!ExtVT.is512BitVector() && !Subtarget.hasVLX()) {  in LowerSIGN_EXTEND_Mask()
23685       !(VT.is512BitVector() && Subtarget.hasAVX512()))  in LowerEXTEND_VECTOR_INREG()
23836           StoredVal.getValueType().is512BitVector()) &&  in splitVectorStore()
26693   assert((NewVT.is256BitVector() || NewVT.is512BitVector()) &&  in LowerVectorCTLZ_AVX512CDI()
26737   if (CurrVT.is512BitVector()) {  in LowerVectorCTLZInRegLUT()
26763     if (CurrVT.is512BitVector()) {  in LowerVectorCTLZInRegLUT()
26803   if (VT.is512BitVector() && !Subtarget.hasBWI())  in LowerVectorCTLZ()
27391   if (VT.is512BitVector() && Subtarget.hasAVX512() &&  in SupportedVectorShiftWithImm()
27510       if (VT.is512BitVector()) {  in LowerScalarImmediateShift()
27998       if (VT.is512BitVector()) {  in LowerShift()
28891   assert((VT.is512BitVector() || VT.is256BitVector() || VT.is128BitVector()) &&  in LowerVectorCTPOP()
28914   if (VT.is512BitVector() && !Subtarget.hasBWI())  in LowerVectorCTPOP()
28988   if (Subtarget.hasXOP() && !VT.is512BitVector())  in LowerBITREVERSE()
29452   if (!Subtarget.hasVLX() && !VT.is512BitVector() &&  in LowerMSCATTER()
29453       !Index.getSimpleValueType().is512BitVector()) {  in LowerMSCATTER()
29507   assert(Subtarget.hasAVX512() && !Subtarget.hasVLX() && !VT.is512BitVector() &&  in LowerMLOAD()
29555   assert(Subtarget.hasAVX512() && !Subtarget.hasVLX() && !VT.is512BitVector() &&  in LowerMSTORE()
29604   if (Subtarget.hasAVX512() && !Subtarget.hasVLX() && !VT.is512BitVector() &&  in LowerMGATHER()
29605       !IndexVT.is512BitVector()) {  in LowerMGATHER()
34591   if (MaskVT.is512BitVector() && AllowFloatDomain) {  in matchUnaryShuffle()
34644       if (Subtarget.hasAVX512() && MaskVT.is512BitVector()) {  in matchUnaryPermuteShuffle()
34693        (MaskVT.is512BitVector() && Subtarget.hasBWI()))) {  in matchUnaryPermuteShuffle()
34728        (MaskVT.is512BitVector() && Subtarget.hasAVX512()))) {  in matchUnaryPermuteShuffle()
34731     if (0 < ShiftAmt && (!ShuffleVT.is512BitVector() || Subtarget.hasBWI() ||  in matchUnaryPermuteShuffle()
34811       (MaskVT.is512BitVector() && Subtarget.hasAVX512())) {  in matchBinaryShuffle()
34876        (MaskVT.is512BitVector() && Subtarget.hasAVX512()))) {  in matchBinaryPermuteShuffle()
34894                          (MaskVT.is512BitVector() && Subtarget.hasBWI()))) {  in matchBinaryPermuteShuffle()
34955        (MaskVT.is512BitVector() && Subtarget.hasAVX512()))) {  in matchBinaryPermuteShuffle()
34971        (MaskVT.is512BitVector() && Subtarget.hasAVX512()))) {  in matchBinaryPermuteShuffle()
35124   if (RootVT.is512BitVector() &&  in combineX86ShuffleChain()
35672        (RootVT.is512BitVector() && Subtarget.hasBWI()))) {  in combineX86ShuffleChain()
37400   if (VT.is512BitVector())  in combineShuffleToAddSubOrFMAddSub()
37546   if (!VT.is256BitVector() && !VT.is512BitVector())  in narrowShuffle()
37996   if ((VT.is256BitVector() || VT.is512BitVector()) &&  in SimplifyDemandedVectorEltsForTargetNode()
38002     if (VT.is512BitVector() && DemandedElts.lshr(NumElts / 4) == 0)  in SimplifyDemandedVectorEltsForTargetNode()
40505   if (VT.is512BitVector())  in combineVSelectToBLENDV()
43124   if (!VT.is128BitVector() && !VT.is256BitVector() && !VT.is512BitVector())  in combineANDXORWithAllOnesIntoANDNP()
43532       !(Subtarget.hasVLX() || SetccVT.is512BitVector()))  in combineScalarAndWithMaskSetcc()
43690   bool UseVPTERNLOG = (Subtarget.hasAVX512() && VT.is512BitVector()) ||  in canonicalizeBitSelect()
44298       if (!Subtarget.hasVLX() && !InVT.is512BitVector()) {  in combineTruncateWithSat()
44936     if (VT.is256BitVector() || VT.is512BitVector()) {  in combineStore()
45543         InVT.is512BitVector()))  in combineVectorSignBitsTruncation()
48817       if (!IsSplat && NumOps == 2 && VT.is512BitVector()) {  in combineConcatVectorOps()
48852            (VT.is512BitVector() && Subtarget.useAVX512Regs() &&  in combineConcatVectorOps()
48868       if (VT.is512BitVector() && Subtarget.useAVX512Regs() &&  in combineConcatVectorOps()
48885       if (!IsSplat && VT.is512BitVector()) {  in combineConcatVectorOps()
48923            (VT.is512BitVector() && Subtarget.useBWIRegs())) &&  in combineConcatVectorOps()
49108   if (!SelCondVT.is256BitVector() && !SelCondVT.is512BitVector())  in narrowExtractedVectorSelect()
49113   assert((SelVT.is256BitVector() || SelVT.is512BitVector()) &&  in narrowExtractedVectorSelect()