1 write to _cache
Microsoft.ML.Tokenizers (1)
Model\CodeGenTokenizer.cs (1)
127
_cache
= new StringSpanOrdinalKeyCache<List<EncodedToken>>();
6 references to _cache
Microsoft.ML.Tokenizers (6)
Model\CodeGenTokenizer.cs (6)
436
if (
_cache
.TryGetValue(textSpan, out List<EncodedToken>? hit))
465
_cache
.Set(text is null ? textSpan.ToString() : text, result);
1120
if (
_cache
.TryGetValue(textSpan, out List<EncodedToken>? hit))
1149
_cache
.Set(text ?? textSpan.ToString(), result);
1184
if (
_cache
.TryGetValue(textSpan, out List<EncodedToken>? hit))
1213
_cache
.Set(text ?? textSpan.ToString(), result);