| /external/jemalloc_new/include/jemalloc/internal/ |
| D | sz.h | 124 static inline szind_t
131 szind_t lg_tmin = LG_TINY_MAXCLASS - NTBINS + 1; in sz_size2index_compute()
132 szind_t lg_ceil = lg_floor(pow2_ceil_zu(size)); in sz_size2index_compute()
137 szind_t x = lg_floor((size<<1)-1); in sz_size2index_compute()
138 szind_t shift = (x < LG_SIZE_CLASS_GROUP + LG_QUANTUM) ? 0 : in sz_size2index_compute()
140 szind_t grp = shift << LG_SIZE_CLASS_GROUP; in sz_size2index_compute()
142 szind_t lg_delta = (x < LG_SIZE_CLASS_GROUP + LG_QUANTUM + 1) in sz_size2index_compute()
146 szind_t mod = ((((size-1) & delta_inverse_mask) >> lg_delta)) & in sz_size2index_compute()
149 szind_t index = NTBINS + grp + mod; in sz_size2index_compute()
154 JEMALLOC_ALWAYS_INLINE szind_t
[all …]
|
| D | rtree.h | 198 JEMALLOC_ALWAYS_INLINE szind_t
200 return (szind_t)(bits >> LG_VADDR); in rtree_leaf_elm_bits_szind_get()
223 JEMALLOC_ALWAYS_INLINE szind_t
230 return (szind_t)atomic_load_u(&elm->le_szind, dependent ? ATOMIC_RELAXED in rtree_leaf_elm_szind_read()
263 rtree_leaf_elm_t *elm, szind_t szind) { in rtree_leaf_elm_szind_write()
296 extent_t *extent, szind_t szind, bool slab) { in rtree_leaf_elm_write()
315 rtree_leaf_elm_t *elm, szind_t szind, bool slab) { in rtree_leaf_elm_szind_slab_update()
397 extent_t *extent, szind_t szind, bool slab) { in rtree_write()
442 JEMALLOC_ALWAYS_INLINE szind_t
462 uintptr_t key, bool dependent, extent_t **r_extent, szind_t *r_szind) { in rtree_extent_szind_read()
[all …]
|
| D | tcache_externs.h | 33 cache_bin_t *tbin, szind_t binind, bool *tcache_success);
35 szind_t binind, unsigned rem);
36 void tcache_bin_flush_large(tsd_t *tsd, cache_bin_t *tbin, szind_t binind,
|
| D | extent_externs.h | 36 size_t size, size_t pad, size_t alignment, bool slab, szind_t szind,
47 size_t alignment, bool slab, szind_t szind, bool *zero, bool *commit);
67 szind_t szind_a, bool slab_a, size_t size_b, szind_t szind_b, bool slab_b);
|
| D | arena_inlines_b.h | 87 arena_malloc(tsdn_t *tsdn, arena_t *arena, size_t size, szind_t ind, bool zero, in arena_malloc()
120 szind_t szind = rtree_szind_read(tsdn, &extents_rtree, rtree_ctx, in arena_salloc()
142 szind_t szind; in arena_vsalloc()
167 szind_t szind; in arena_dalloc_no_tcache()
200 szind_t szind; in arena_dalloc()
247 szind_t szind; in arena_sdalloc_no_tcache()
298 szind_t szind; in arena_sdalloc()
|
| D | extent_inlines.h | 52 static inline szind_t
54 szind_t szind = (szind_t)((extent->e_bits & EXTENT_BITS_SZIND_MASK) >> in extent_szind_get_maybe_invalid()
60 static inline szind_t
62 szind_t szind = extent_szind_get_maybe_invalid(extent); in extent_szind_get()
236 extent_szind_set(extent_t *extent, szind_t szind) { in extent_szind_set()
304 bool slab, szind_t szind, size_t sn, extent_state_t state, bool zeroed, in extent_init()
|
| D | tcache_inlines.h | 43 UNUSED size_t size, szind_t binind, bool zero, bool slow_path) { in tcache_alloc_small()
107 szind_t binind, bool zero, bool slow_path) { in tcache_alloc_large()
168 tcache_dalloc_small(tsd_t *tsd, tcache_t *tcache, void *ptr, szind_t binind, in tcache_dalloc_small()
193 tcache_dalloc_large(tsd_t *tsd, tcache_t *tcache, void *ptr, szind_t binind, in tcache_dalloc_large()
|
| D | arena_externs.h | 29 size_t arena_slab_regind(extent_t *slab, szind_t binind, const void *ptr);
48 cache_bin_t *tbin, szind_t binind, uint64_t prof_accumbytes);
56 szind_t ind, bool zero);
|
| D | jemalloc_internal_inlines_a.h | 110 tcache_small_bin_get(tcache_t *tcache, szind_t binind) { in tcache_small_bin_get()
116 tcache_large_bin_get(tcache_t *tcache, szind_t binind) { in tcache_large_bin_get()
|
| D | tcache_structs.h | 42 szind_t next_gc_bin;
|
| D | arena_structs_b.h | 225 szind_t szind;
|
| D | jemalloc_internal_inlines_c.h | 41 iallocztm(tsdn_t *tsdn, size_t size, szind_t ind, bool zero, tcache_t *tcache, in iallocztm()
61 ialloc(tsd_t *tsd, size_t size, szind_t ind, bool zero, bool slow_path) { in ialloc()
|
| D | jemalloc_internal_types.h | 8 typedef unsigned szind_t; typedef
|
| D | arena_stats.h | 222 szind_t szind, uint64_t nrequests) { in arena_stats_large_nrequests_add()
|
| /external/jemalloc_new/src/ |
| D | arena.c | 125 for (szind_t i = 0; i < NSIZES - NBINS; i++) { in arena_stats_merge()
158 szind_t i = 0; in arena_stats_merge()
203 for (szind_t i = 0; i < NBINS; i++) { in arena_stats_merge()
243 arena_slab_regind(extent_t *slab, szind_t binind, const void *ptr) { in arena_slab_regind()
265 szind_t binind = extent_szind_get(slab); in arena_slab_reg_dalloc()
290 szind_t index, hindex; in arena_large_malloc_stats_update()
306 szind_t index, hindex; in arena_large_dalloc_stats_update()
335 szind_t szind = sz_size2index(usize); in arena_extent_alloc_large()
1094 szind_t szind) { in arena_slab_alloc_hard()
1115 arena_slab_alloc(tsdn_t *tsdn, arena_t *arena, szind_t binind, in arena_slab_alloc()
[all …]
|
| D | android_je_iterate.c | 43 szind_t szind; in je_malloc_iterate()
48 szind_t binind = extent_szind_get(extent); in je_malloc_iterate()
|
| D | extent.c | 60 szind_t szind_a, bool slab_a, size_t size_b, szind_t szind_b, bool slab_b,
111 size_t usize, size_t pad, size_t alignment, bool slab, szind_t szind,
520 size_t alignment, bool slab, szind_t szind, bool *zero, bool *commit) { in extents_alloc()
695 rtree_leaf_elm_t *elm_b, extent_t *extent, szind_t szind, bool slab) { in extent_rtree_write_acquired()
705 szind_t szind) { in extent_interior_register()
770 szind_t szind = extent_szind_get_maybe_invalid(extent); in extent_register_impl()
958 szind_t szind, bool growing_retained) { in extent_split_interior()
1031 szind_t szind, extent_t *extent, bool growing_retained) { in extent_recycle_split()
1079 size_t alignment, bool slab, szind_t szind, bool *zero, bool *commit, in extent_recycle()
1244 bool slab, szind_t szind, bool *zero, bool *commit) { in extent_grow_retained()
[all …]
|
| D | tcache.c | 45 szind_t binind = tcache->next_gc_bin; in tcache_event_hard()
93 cache_bin_t *tbin, szind_t binind, bool *tcache_success) { in tcache_alloc_small_hard()
109 szind_t binind, unsigned rem) { in tcache_bin_flush_small()
197 tcache_bin_flush_large(tsd_t *tsd, cache_bin_t *tbin, szind_t binind, in tcache_bin_flush_large()
|
| D | base.c | 205 szind_t index_floor = in base_extent_bump_alloc_post()
375 for (szind_t i = 0; i < NSIZES; i++) { in base_new()
429 for (szind_t i = sz_size2index(asize); i < NSIZES; i++) { in base_alloc_impl()
|
| D | large.c | 189 szind_t szind = sz_size2index(usize); in large_ralloc_no_move_expand()
|
| D | jemalloc.c | 1689 size_t size, size_t usize, szind_t ind) {
1731 size_t usize, szind_t ind) {
1738 szind_t ind_large;
1817 szind_t ind = 0;
|
| D | ctl.c | 2442 CTL_RO_NL_GEN(arenas_lextent_i_size, sz_index2size(NBINS+(szind_t)mib[2]),
2809 for (szind_t i = 0; i < NBINS; i++) { in CTL_RO_NL_CGEN()
|
| /external/jemalloc_new/test/unit/ |
| D | slab.c | 4 szind_t binind; in TEST_BEGIN()
|
| D | size_classes.c | 27 szind_t index, max_index; in TEST_BEGIN()
|
| D | arena_reset.c | 67 szind_t szind; in vsalloc()
|