1 write to MaxPositionEmbeddings
Microsoft.ML.GenAI.Mistral (1)
MistralConfig.cs (1)
22this.MaxPositionEmbeddings = 131072;
3 references to MaxPositionEmbeddings
Microsoft.ML.GenAI.Mistral (3)
MistralDecoderLayer.cs (2)
99maxPositionEmbeddings: config.MaxPositionEmbeddings, 100originalMaxPositionEmbeddings: config.MaxPositionEmbeddings,
MistralModel.cs (1)
45null => new RotaryEmbedding(config.RopeTheta, config.MaxPositionEmbeddings, headDim),